El CEO de Nvidia, Jensen Huang, anuncia nuevos chips de IA: «Necesitamos GPUs más grandes»

Artículo original ↗ Discusión en Hacker News ↗

Reacción del mercado y valoración

  • La acción estuvo plana o a la baja alrededor del keynote; algunos esperaban un “gran salto” por una noticia importante.
  • Varios sostienen que los movimientos de precio a corto plazo dicen poco sobre la fortaleza del producto, pero muchos ven a Nvidia como “ridículamente sobrevalorada” o “valorada para la perfección”.
  • Otros contraargumentan que el P/E a futuro está en línea con años recientes y que Nvidia controla actualmente un recurso crítico con ingresos y márgenes extraordinarios.
  • Se citan burbujas tecnológicas históricas (Cisco, dot-com, cripto, Tesla) como analogías: la IA puede ser real y enorme aunque Nvidia aun así se desplome por una valoración de burbuja.

Foso competitivo y CUDA

  • Muchos cuestionan si la ventaja de Nvidia en IA es duradera, ya que el hardware para NN es más simple que el de gráficos; otros argumentan que el verdadero foso es:
    • CUDA y su ecosistema (cuDNN, TensorRT, bibliotecas).
    • Controladores y software maduros, donde los competidores fallaron repetidamente.
    • I+D masivo y capacidad de TSMC, y la propiedad de redes (Mellanox/Infiniband).
  • AMD, los TPU de Google y varias startups se ven como rivales inevitables, pero la falta de inversión de AMD en software y su pila ROCm con errores se critican repetidamente.
  • Algunos predicen una futura presión antimonopolio para “abrir” CUDA, aunque otros creen que eso aun así no solucionaría la brecha de software de AMD.

Arquitectura Blackwell, FP4 y afirmaciones de rendimiento

  • El aumento bruto de ~2,5× en FP8 frente a Hopper parece decepcionante para algunos, especialmente porque en la práctica equivale a 1,25× por chip en un paquete de doble chip.
  • La afirmación principal de Nvidia de “30× inferencia” se considera en general estrecha/publicitaria:
    • Depende de FP4, sparsity, empaquetado, redes y un modelo MoE gigante específico.
    • No representa cargas de trabajo generales; sigue siendo impresionante para inferencia a escala hyperscaler.
  • Debate sobre FP4:
    • Confirmado como float de 4 bits con un nuevo motor “precision-aware”.
    • Se ve prometedor para inferencia; el entrenamiento a 4 bits sigue siendo de nicho/experimental.
    • Algunos cuestionan su adopción en el mundo real; otros señalan un fuerte impulso de investigación.

Estrategia de plataforma y NIM

  • Muchos ven a Nvidia “subiendo por la pila” desde chips hacia una plataforma completa:
    • Hardware: GPUs, NVLink, CPUs, NICs, switches, racks completos.
    • Software: CUDA, Triton, TensorRT-LLM y los nuevos microservicios de inferencia NIM.
  • NIM se describe como “Docker para LLMs” con APIs compatibles con OpenAI, lo que facilita cambiar de APIs alojadas a stacks Nvidia on-prem con cambios mínimos de código.
  • Esto amenaza a las startups de IA ligeras que solo envuelven modelos con UIs simples, y empuja más bloqueo para clientes pequeños, mientras que los hyperscalers pueden seguir construyendo sus propios aceleradores.

Estilo del keynote y encuadre como “empresa de plataforma”

  • Varios espectadores encontraron el keynote incómodo y poco ensayado; los chistes a menudo no funcionaban y el ritmo se sentía raro.
  • Otros prefieren esto a los keynotes tecnológicos demasiado pulidos y pregrabados, y argumentan que Nvidia está “vendiendo agua en el desierto”, así que el pulido de la presentación importa poco.
  • Confusión en torno a la frase “empresa de plataforma”:
    • Muchos aclaran que Nvidia no se está convirtiendo en un proveedor cloud general, sino en una pila integrada de hardware+software.
    • Un entorno de evaluación cloud más pequeño y los servicios NIM sí la acercan a un rol de plataforma, pero no a un competidor completo al estilo AWS.

Escalado de IA, casos de uso y ángulo social

  • Algunos temen que las GPUs cada vez más grandes fomenten un escalado insostenible de los LLM, con un uso masivo de recursos y problemas de memorización/privacidad.
  • Otros enfatizan que las estructuras de incentivos actuales recompensan el escalado por encima de la optimización, y que el software ya está muy afinado para el hardware existente.
  • Hay tensión entre visiones optimistas (AGI, robótica, diseño de fusión) y pesimistas (segmentación publicitaria, gasto impulsado por hype, dinámicas de burbuja).

Ecosistema, adquisiciones y empaquetado de hardware

  • Especulación sobre que Nvidia adquiera más partes de la pila (p. ej., Canonical, Run:AI, laboratorios de IA como Anthropic/Mistral), aunque se señalan desajustes culturales y relaciones cloud ya existentes.
  • Algunos argumentan que Nvidia debería ceñirse a las GPUs; otros señalan los sistemas DGX y analogías con la integración vertical de Apple.
  • Surgen sugerencias de “estaciones GPU” o dispositivos tipo torre, pero muchos señalan que la integración tiene menor margen y que las empresas prefieren sus propias pilas de SO/software.