El CEO de Nvidia, Jensen Huang, anuncia nuevos chips de IA: «Necesitamos GPUs más grandes»

Artículo original ↗ Discusión en Hacker News ↗

La presentación de Nvidia de sus nuevos chips de IA basados en Blackwell y su estrategia de “GPUs más grandes” se ve como un gran avance técnico, con grandes ganancias en rendimiento de centros de datos, nuevos formatos de baja precisión como FP4 y un movimiento hacia arriba en la pila mediante ofertas de software como los microservicios de inferencia NIM. Los comentaristas debaten cuán duradera es realmente la ventaja de Nvidia, sopesando su foso en CUDA y redes, la calidad de los controladores y el ecosistema frente a la competencia emergente de AMD, Google y aceleradores personalizados. Muchos también cuestionan si la valoración de Nvidia, superior a los 2 billones de dólares, puede justificarse a largo plazo, trazando paralelismos con burbujas tecnológicas pasadas mientras señalan que, incluso si la IA prospera, los márgenes y la cuota de mercado podrían no hacerlo.

Reacción del mercado y valoración

  • La acción estuvo plana o a la baja alrededor del keynote; algunos esperaban un “gran salto” por una noticia importante.
  • Varios sostienen que los movimientos de precio a corto plazo dicen poco sobre la fortaleza del producto, pero muchos ven a Nvidia como “ridículamente sobrevalorada” o “valorada para la perfección”.
  • Otros contraargumentan que el P/E a futuro está en línea con años recientes y que Nvidia controla actualmente un recurso crítico con ingresos y márgenes extraordinarios.
  • Se citan burbujas tecnológicas históricas (Cisco, dot-com, cripto, Tesla) como analogías: la IA puede ser real y enorme aunque Nvidia aun así se desplome por una valoración de burbuja.

Foso competitivo y CUDA

  • Muchos cuestionan si la ventaja de Nvidia en IA es duradera, ya que el hardware para NN es más simple que el de gráficos; otros argumentan que el verdadero foso es:
    • CUDA y su ecosistema (cuDNN, TensorRT, bibliotecas).
    • Controladores y software maduros, donde los competidores fallaron repetidamente.
    • I+D masivo y capacidad de TSMC, y la propiedad de redes (Mellanox/Infiniband).
  • AMD, los TPU de Google y varias startups se ven como rivales inevitables, pero la falta de inversión de AMD en software y su pila ROCm con errores se critican repetidamente.
  • Algunos predicen una futura presión antimonopolio para “abrir” CUDA, aunque otros creen que eso aun así no solucionaría la brecha de software de AMD.

Arquitectura Blackwell, FP4 y afirmaciones de rendimiento

  • El aumento bruto de ~2,5× en FP8 frente a Hopper parece decepcionante para algunos, especialmente porque en la práctica equivale a 1,25× por chip en un paquete de doble chip.
  • La afirmación principal de Nvidia de “30× inferencia” se considera en general estrecha/publicitaria:
    • Depende de FP4, sparsity, empaquetado, redes y un modelo MoE gigante específico.
    • No representa cargas de trabajo generales; sigue siendo impresionante para inferencia a escala hyperscaler.
  • Debate sobre FP4:
    • Confirmado como float de 4 bits con un nuevo motor “precision-aware”.
    • Se ve prometedor para inferencia; el entrenamiento a 4 bits sigue siendo de nicho/experimental.
    • Algunos cuestionan su adopción en el mundo real; otros señalan un fuerte impulso de investigación.

Estrategia de plataforma y NIM

  • Muchos ven a Nvidia “subiendo por la pila” desde chips hacia una plataforma completa:
    • Hardware: GPUs, NVLink, CPUs, NICs, switches, racks completos.
    • Software: CUDA, Triton, TensorRT-LLM y los nuevos microservicios de inferencia NIM.
  • NIM se describe como “Docker para LLMs” con APIs compatibles con OpenAI, lo que facilita cambiar de APIs alojadas a stacks Nvidia on-prem con cambios mínimos de código.
  • Esto amenaza a las startups de IA ligeras que solo envuelven modelos con UIs simples, y empuja más bloqueo para clientes pequeños, mientras que los hyperscalers pueden seguir construyendo sus propios aceleradores.

Estilo del keynote y encuadre como “empresa de plataforma”

  • Varios espectadores encontraron el keynote incómodo y poco ensayado; los chistes a menudo no funcionaban y el ritmo se sentía raro.
  • Otros prefieren esto a los keynotes tecnológicos demasiado pulidos y pregrabados, y argumentan que Nvidia está “vendiendo agua en el desierto”, así que el pulido de la presentación importa poco.
  • Confusión en torno a la frase “empresa de plataforma”:
    • Muchos aclaran que Nvidia no se está convirtiendo en un proveedor cloud general, sino en una pila integrada de hardware+software.
    • Un entorno de evaluación cloud más pequeño y los servicios NIM sí la acercan a un rol de plataforma, pero no a un competidor completo al estilo AWS.

Escalado de IA, casos de uso y ángulo social

  • Algunos temen que las GPUs cada vez más grandes fomenten un escalado insostenible de los LLM, con un uso masivo de recursos y problemas de memorización/privacidad.
  • Otros enfatizan que las estructuras de incentivos actuales recompensan el escalado por encima de la optimización, y que el software ya está muy afinado para el hardware existente.
  • Hay tensión entre visiones optimistas (AGI, robótica, diseño de fusión) y pesimistas (segmentación publicitaria, gasto impulsado por hype, dinámicas de burbuja).

Ecosistema, adquisiciones y empaquetado de hardware

  • Especulación sobre que Nvidia adquiera más partes de la pila (p. ej., Canonical, Run:AI, laboratorios de IA como Anthropic/Mistral), aunque se señalan desajustes culturales y relaciones cloud ya existentes.
  • Algunos argumentan que Nvidia debería ceñirse a las GPUs; otros señalan los sistemas DGX y analogías con la integración vertical de Apple.
  • Surgen sugerencias de “estaciones GPU” o dispositivos tipo torre, pero muchos señalan que la integración tiene menor margen y que las empresas prefieren sus propias pilas de SO/software.