Tesla liga cluster Nvidia H100 de 10 mil nós
O plano da Tesla de operar um supercomputador construído com 10.000 GPUs Nvidia H100 está gerando debate sobre o quão substancial é, de fato, essa capacidade, tanto em escala quanto em custo, em comparação com instalações líderes de nuvem e HPC. Comentadores questionam se isso enfraquece ou complementa o esforço interno da Tesla em hardware Dojo, e se as alegações públicas de Musk sobre chips personalizados e prazos para Full Self-Driving são realistas ou em grande parte promocionais. Outros se concentram em detalhes técnicos como métricas de FLOPS, rede e requisitos de energia, ao mesmo tempo em que criticam a fragilidade das fontes originais das notícias, que dependem fortemente de um pequeno número de tweets entusiasmados.
Escopo e definição de “Dojo” vs cluster H100
- Confusão sobre a terminologia: alguns usam “Dojo” para significar todo o compute de treinamento de ML da Tesla; outros insistem que Dojo se refere especificamente ao supercomputador com chip personalizado.
- O material citado indica que a Tesla tem ambos: um sistema Dojo e um cluster separado de treinamento com 10.000 H100.
- Alguns argumentam que o “supercomputador Dojo” não é real até que o hardware personalizado em grande escala esteja em operação; outros dizem que os chips estão em produção na TSMC com milhares encomendados, então chamá-lo de vaporware é impreciso.
Escala, custo e infraestrutura
- Os 10.000 H100s são descritos como um cluster muito grande, na mesma ordem de magnitude que supercomputadores de topo; grande o suficiente para pré-treinar LLMs de 100B+ parâmetros.
- Em comparação com operações históricas de mineração de cripto (por exemplo, 150 mil GPUs AMD mais antigas), 10 mil parece menor em contagem, mas muito maior por nó e em nível de sistema.
- Comentadores observam que a cifra de US$300M em GPUs exclui custos importantes: armazenamento, RAM, rede (links de 400–800 Gbit), energia, refrigeração, racks, construção do data center e suporte de engenharia do fornecedor.
- A oferta é caracterizada como limitada pela Nvidia; sugere-se que grandes compradores precisam de relacionamentos para garantir hardware e NICs.
Confiabilidade dos relatos e nível de hype
- Vários veem a cobertura da TechRadar/Tom’s Hardware como “blogspam” de segunda mão, construída a partir de um único tweet e de mídias sociais favoráveis à Tesla.
- Há ceticismo sobre alegações de marketing como “20x–30x de desempenho” e sobre se os 10 mil H100s estão realmente instalados, em vez de apenas encomendados ou planejados, dado o uso de linguagem no futuro e os limites globais de oferta de H100.
- Outros defendem as fontes de mídias sociais como canais normalmente precisos de notícias sobre Tesla/SpaceX, mas críticos argumentam que tweets isolados são evidência fraca de implantação.
Detalhes técnicos e de HPC
- Discussão sobre métricas de desempenho: o artigo e o marketing da Nvidia destacam FP64 PFLOPS; isso é incomum porque GPUs de consumo frequentemente têm FP64 mais fraco.
- Observações de que operações INT8 não são “FLOPS”; deveriam ser contadas como operações inteiras ou “TOPS.”
- Alguns debatem por que a capacidade de FP64 e FP32 seria igual; especula-se que isso possa implicar trade-offs de design que “amarram” o FP32.
Contexto mais amplo: Tesla, Musk e FSD
- Debate sobre se a Tesla consegue construir hardware de IA melhor do que players de IA mais ricos e estabelecidos.
- Visões mistas sobre Musk: elogiado por viabilizar foguetes reutilizáveis e popularizar EVs; criticado por promessas exageradas (por exemplo, prazos de robo-táxis/FSD), estilo de gestão e comportamento público.
- Piadas de que, depois de todo esse compute, a conclusão pode ser que o FSD ainda precisa de lidar.