Dojo Tesla

Tesla Dojo es una serie de supercomputadoras diseñadas y construidas por Tesla para el procesamiento y reconocimiento de video mediante visión artificial . ^{[ 1 ]} Se utilizó para entrenar los modelos de aprendizaje automático de Tesla con el fin de mejorar su sistema avanzado de asistencia al conductor Full Self-Driving (FSD) . Entró en producción en julio de 2023. ^{[ 2 ]}

El objetivo de Dojo era procesar eficientemente millones de terabytes de datos de vídeo capturados de situaciones de conducción reales de los más de 4 millones de coches de Tesla. ^{[ 3 ]} Este objetivo dio lugar a una arquitectura considerablemente diferente a la de los diseños de superordenadores convencionales. ^{[ 4 ] [ 5 ]}

En agosto de 2025, Bloomberg News informó que el proyecto Dojo había sido disuelto, aunque se reinició en enero de 2026. ^{[ 6 ]}

Tesla opera varios clústeres de computación masivamente paralela para desarrollar su sistema avanzado de asistencia al conductor Autopilot . Su clúster principal, sin nombre, que utiliza 5760 unidades de procesamiento gráfico (GPU) Nvidia A100 , fue promocionado por Andrej Karpathy en 2021 en la cuarta Conferencia Internacional Conjunta sobre Visión por Computadora y Reconocimiento de Patrones (CCVPR 2021) como "aproximadamente la quinta supercomputadora del mundo" ^{[ 7 ]} con aproximadamente 81,6 petaflops , basado en el escalado del rendimiento de la supercomputadora Nvidia Selene , que utiliza componentes similares. ^{[ 8 ]} Sin embargo, el rendimiento del clúster GPU principal de Tesla ha sido cuestionado, ya que no estaba claro si se midió utilizando números de punto flotante de precisión simple o doble ( FP32 o FP64 ). ^{[ 9 ]} Tesla también opera un segundo clúster de 4032 GPU para entrenamiento y un tercer clúster de 1752 GPU para el etiquetado automático de objetos. ^{[ 10 ] [ 11 ]}

El clúster principal de GPU de Tesla, sin nombre, se utilizó para procesar un millón de videoclips, cada uno de diez segundos de duración, tomados de las cámaras del Autopilot de Tesla que operan en vehículos Tesla en el mundo real, a 36 fotogramas por segundo . En conjunto, estos videoclips contenían seis mil millones de etiquetas de objetos, con datos de profundidad y velocidad; el tamaño total del conjunto de datos era de 1,5 petabytes . Este conjunto de datos se utilizó para entrenar una red neuronal destinada a ayudar a las computadoras del Autopilot en los vehículos Tesla a comprender las carreteras. ^{[ 7 ]} En agosto de 2022, Tesla había actualizado el clúster principal de GPU a 7360 GPU. ^{[ 12 ]} 

Elon Musk mencionó Dojo por primera vez en abril de 2019 durante el "Día del Inversor en Autonomía" de Tesla. ^{[ 13 ]} En agosto de 2020, ^{[ 7 ] [ 14 ]} Musk afirmó que faltaba "aproximadamente un año" debido a problemas de energía y térmicos. ^{[ 15 ]}

Dojo se anunció oficialmente en el Día de la Inteligencia Artificial (IA) de Tesla el 19 de agosto de 2021. ^{[ 16 ]} Tesla reveló detalles del chip D1 y sus planes para "Project Dojo", un centro de datos que albergaría 3000 chips D1; ^{​​[ 17 ]} el primer "Training Tile" se había completado y entregado la semana anterior. ^{[ 10 ]} En octubre de 2021, Tesla publicó un documento técnico sobre "Tecnología Dojo" que describe los formatos de punto flotante Configurable Float8 (CFloat8) y Configurable Float16 (CFloat16) y las operaciones aritméticas como una extensión del estándar 754 del Instituto de Ingenieros Eléctricos y Electrónicos (IEEE) . ^{[ 18 ]}

En el evento AI Day de seguimiento, celebrado en septiembre de 2022, Tesla anunció que había construido varias bandejas del sistema y un gabinete. Durante una prueba, la compañía declaró que Project Dojo consumió 2,3 megavatios (MW) de potencia antes de provocar un cortocircuito en una subestación eléctrica local de San José, California. ^{[ 19 ]} En ese momento, Tesla estaba ensamblando un módulo de entrenamiento por día. ^{[ 11 ]} 

En agosto de 2023, Tesla puso en marcha Dojo para su uso en producción, así como un nuevo clúster de entrenamiento configurado con 10.000 GPU Nvidia H100 . ^{[ 20 ]}

En enero de 2024, Musk describió Dojo como "una apuesta arriesgada que vale la pena intentar porque la recompensa es potencialmente muy alta. Pero no es algo que tenga una alta probabilidad". ^{[ 21 ]}

En junio de 2024, Musk explicó que el trabajo de construcción en curso en la Gigafactoría de Texas es para un clúster de computación, afirmando que está planeado que comprenda una mezcla equitativa de "Tesla AI" y hardware de Nvidia/otros con una potencia de diseño térmico total de inicialmente 130  MW y eventualmente superará los 500  MW. ^{[ 22 ]}

En agosto de 2025, Bloomberg News informó que el proyecto Dojo se había disuelto, ^{[ 23 ]} aunque se reinició en enero de 2026 con una nueva iteración del chip. ^{[ 24 ]}

La unidad fundamental de la supercomputadora Dojo es el chip D1, ^{[ 25 ]} diseñado por un equipo en Tesla liderado por el ex diseñador de CPU de AMD , Ganesh Venkataramanan , incluyendo a Emil Talpes, Debjit Das Sarma, Douglas Williams, Bill Chang y Rajiv Kurian. ^{[ 5 ]}

El chip D1 es fabricado por Taiwan Semiconductor Manufacturing Company ⁽ TSMC) utilizando nodos de semiconductores de 7 nanómetros (nm) , tiene 50 mil millones de transistores y un gran tamaño de chip de 645 mm² (1,0 pulgada cuadrada) . ^{[ 26 ] [ 27 ]} 

Actualizando en el Día de la Inteligencia Artificial (IA) en 2022, Tesla anunció que Dojo escalaría mediante el despliegue de múltiples ExaPODs, en los que habría: ^{[ 28 ]}

• 10 gabinetes por ExaPOD ( 1.062.000 núcleos, 3.000 chips D1)
• 2 bandejas de sistema por gabinete ( 106.200 núcleos, 300 chips D1)
• 6 módulos de entrenamiento por bandeja del sistema ( 53.100 núcleos, junto con el hardware de interfaz del host)
• 25 chips D1 por módulo de entrenamiento ( 8.850 núcleos)
• 354 núcleos de procesamiento por chip D1

Según Venkataramanan, director sénior de hardware de Autopilot de Tesla, Dojo tendrá más de un exaflop (un millón de teraflops) de potencia de cálculo. ^{[ 29 ]} A modo de comparación, según Nvidia, en agosto de 2021, el centro de entrenamiento de IA de Tesla (anterior a Dojo) utilizaba 720 nodos, cada uno con ocho GPU Nvidia A100 Tensor Core para un total de 5760 GPU, que proporcionaban hasta 1,8  exaflops de rendimiento. ^{[ 30 ]}

chip D1

Cada nodo (núcleo de computación) del chip de procesamiento D1 es una CPU de propósito general de 64 bits con un núcleo superescalar . Admite paralelismo interno a nivel de instrucciones e incluye multihilo simultáneo (SMT). No admite memoria virtual y utiliza mecanismos de protección de memoria limitados. El software/las aplicaciones Dojo gestionan los recursos del chip.

El conjunto de instrucciones D1 admite instrucciones escalares de 64 bits e instrucciones vectoriales SIMD ( Single Instruction, Multiple Data ) de 64 bytes. ^{[ 31 ]} La unidad de enteros combina instrucciones RISC-V ( Reduced Instruction Set Computer ) e instrucciones personalizadas, admitiendo enteros de 8, 16, 32 o 64 bits. La unidad matemática vectorial personalizada está optimizada para núcleos de aprendizaje automático y admite múltiples formatos de datos, con una combinación de precisiones y rangos numéricos, muchos de los cuales son componibles por el compilador. ^{[ 5 ]} Se pueden usar hasta 16 formatos vectoriales simultáneamente. ^{[ 5 ]}

Nodo

Cada nodo D1 utiliza una ventana de búsqueda de 32 bytes que contiene hasta ocho instrucciones. Estas instrucciones se envían a un decodificador de ocho bytes que admite dos hilos por ciclo, seguido de un planificador escalar SMT de cuatro bytes y cuatro vías que tiene dos unidades de enteros, dos unidades de direcciones y un archivo de registros por hilo. Las instrucciones vectoriales se pasan más adelante en la tubería a un planificador vectorial dedicado con SMT de dos vías, que alimenta una unidad SIMD de 64 bytes o cuatro unidades de multiplicación de matrices de 8×8×4. ^{[ 31 ]}

El enrutador de red en chip (NOC) enlaza los núcleos en una red de malla bidimensional. Puede enviar un paquete de entrada y un paquete de salida en las cuatro direcciones hacia/desde cada nodo vecino, junto con una lectura de 64 bytes y una escritura de 64 bytes en la SRAM local por ciclo de reloj. ^{[ 31 ]}

Las operaciones nativas del hardware transfieren datos, semáforos y restricciones de barrera entre memorias y CPU. La memoria de acceso aleatorio dinámico síncrono (SDRAM) DDR4 ( Double Data Rate 4 ) de todo el sistema funciona como almacenamiento masivo.

Memoria

Cada núcleo tiene 1,25 megabytes (MB) de memoria principal SRAM. Las velocidades de carga y almacenamiento alcanzan los 400 gigabytes (GB) por segundo y 270 GB/s, respectivamente. El chip cuenta con instrucciones explícitas de transferencia de datos entre núcleos. Cada SRAM tiene un analizador de listas único que alimenta un par de decodificadores y un motor de recopilación que alimenta el archivo de registros vectoriales, los cuales, en conjunto, pueden transferir información directamente entre nodos. ^{[ 5 ]}   

Morir

Doce nodos (núcleos) se agrupan en un bloque local. Los nodos se organizan en una matriz de 18×20 en un solo chip, de los cuales 354 núcleos están disponibles para aplicaciones. ^{[ 5 ]} El chip funciona a 2 gigahercios (GHz) y tiene un total de 440 MB de SRAM (360 núcleos × 1,25 MB/núcleo). ^{[ 5 ]} Alcanza 376 teraflops usando números de punto flotante de 16 bits ( BF16 ) o usando números de punto flotante configurables de 8 bits (CFloat8), que es una propuesta de Tesla, ^{[ 18 ]} y 22 teraflops en FP32.   

Cada chip consta de 576 canales serializadores/deserializadores bidireccionales ( SerDes ) a lo largo del perímetro para conectarse con otros chips, y se mueve a 8  TB/seg a través de los cuatro bordes del chip. ^{[ 5 ]} Cada chip D1 tiene una potencia de diseño térmico de aproximadamente 400 vatios. ^{[ 32 ]}

Baldosa de entrenamiento

El módulo de entrenamiento refrigerado por agua empaqueta 25 chips D1 en una matriz de 5×5. ^{[ 5 ]} Cada módulo admite  un ancho de banda agregado de 36 TB/s a través de 40 chips de entrada/salida (E/S), la mitad del ancho de banda de la red de malla de chips. Cada módulo admite  un ancho de banda en módulo de 10 TB/s. Cada módulo tiene 11  GB de memoria SRAM (25 chips D1 × 360 núcleos/D1 × 1,25  MB/núcleo). Cada módulo alcanza 9  petaflops con precisión BF16/CFloat8 (25 chips D1 × 376  TFLOP/D1). Cada módulo consume 15  kilovatios; ^{[ 5 ]} 288 amperios a 52 voltios . ^{[ 32 ]}  

Dojo admite el marco PyTorch , "Nada tan de bajo nivel como C o C++, nada remotamente parecido a CUDA ". ^{[ 5 ]} La SRAM se presenta como un único espacio de direcciones. ^{[ 5 ]}

Debido a que FP32 tiene más precisión y rango de lo necesario para las tareas de IA, y FP16 no tiene suficiente, Tesla ha ideado formatos de punto flotante configurables de 8 y 16 bits (CFloat8 y CFloat16, respectivamente) que permiten al compilador establecer dinámicamente la precisión de la mantisa y el exponente, aceptando una menor precisión a cambio de un procesamiento vectorial más rápido y menores requisitos de almacenamiento. ^{[ 5 ] [ 18 ]}

• Lista de las mejores supercomputadoras de Estados Unidos

• Contenido multimedia relacionado con Tesla Dojo en Wikimedia Commons
• Kennedy, Patrick (23 de agosto de 2022). "Microarquitectura de mosaicos de IA de Tesla Dojo" . Serve The Home .
• Kennedy, Patrick (23 de agosto de 2022). "Supercomputadora de IA personalizada Tesla Dojo en HC34" . Serve The Home .