Nvidia persigue una oportunidad de chips personalizados de $30B con una nueva unidad
La incursión de Nvidia en un mercado de $30B para chips personalizados de IA y cómputo provoca un debate sobre si los compradores realmente necesitan silicio a medida o simplemente GPUs más baratas y con mucha VRAM para cargas como los grandes modelos de lenguaje. Los comentaristas destacan el ecosistema de software dominante de Nvidia, la segmentación agresiva de productos y su poder de fijación de precios, en contraste con los esfuerzos de AMD con ROCm y una oleada de startups y propuestas como las ambiciones de chips de varios billones de dólares reportadas por OpenAI. Muchos ven los chips personalizados como una extensión lógica de la estrategia de plataforma de Nvidia, aunque cuestionan si las ganancias reales sobre las GPUs de propósito general justifican el enorme capital que se propone para nuevas fabs y arquitecturas.
GPUs de consumo, VRAM y cargas de trabajo de IA
- Varios comentaristas quieren GPUs de consumo con VRAM muy grande (p. ej., 128GB) para ejecutar localmente LLMs de código abierto más grandes.
- Otros señalan que esto está muy por encima de lo que necesitan las cargas gráficas; esas especificaciones, en la práctica, convierten una tarjeta en un acelerador de cómputo.
- La discusión sostiene que Nvidia mantiene baja la VRAM de consumo para no canibalizar las tarjetas de centro de datos de alto margen, y que los grandes saltos de precio entre modelos de 24GB y 40GB se atribuyen a segmentación artificial y licencias.
- Se señalan restricciones físicas: con las capacidades actuales de GDDR y los anchos de bus, ~48GB es aproximadamente el máximo en una GPU de consumo convencional sin HBM, que es costosa y está limitada por el empaquetado.
Enfoques alternativos de memoria y cómputo
- Algunos abogan por invertir en in-memory compute / ReRAM para reducir el consumo energético de la IA y su impacto climático.
- Otros descartan esto como algo probado repetidamente y fracasado, y no comparable con “simplemente añadir más VRAM”.
- Una postura intermedia señala que las GPUs y las estrategias package-on-package ya avanzan hacia un cómputo “near-memory” de mayor ancho de banda.
Eficiencia de software vs abundancia de hardware
- Debate sobre si los grandes recursos (VRAM, RAM) fomentan código derrochador o permiten productividad y nuevos tipos de software.
- Los ejemplos van desde código heredado altamente optimizado hasta aplicaciones modernas de Electron y herramientas cotidianas lentas.
- Algunos sostienen que simplificar la “contabilidad” es bueno; otros dicen que el rendimiento ha retrocedido más rápido de lo que ha mejorado el hardware.
Nvidia, CUDA y competidores
- Se considera que Nvidia tiene una pila hardware–software fuerte y coherente (CUDA, PTX, drivers), y una cultura que prioriza el software que funciona.
- ROCm de AMD se ve como técnicamente en camino de alcanzar a Nvidia en cómputo puro, pero con mal soporte, cobertura oficial limitada de GPUs e inestabilidad al mezclar gráficos y cómputo.
- Esta madurez hace de Nvidia un actor natural para chips personalizados de IA frente a startups más nuevas.
Chips de IA personalizados / a medida y el debate de $7T
- Los chips personalizados se presentan como una forma de eliminar funciones de GPU innecesarias o añadir bloques específicos de dominio (p. ej., instrucciones para telecom).
- Algunos argumentan que muchos clientes en realidad solo quieren GPUs más baratas y recortadas, no una personalización real.
- La cifra reportada de $7T de financiación para chips de IA vinculada a otra empresa se considera ampliamente poco realista o puramente orientada a titulares; los comentaristas señalan que supera proyectos históricos como la Segunda Guerra Mundial (en términos ajustados por inflación) y todos los ingresos acumulados de TSMC.
Nube y dinámicas de precios
- Se critica que el precio de las GPUs en las grandes nubes (AWS/Azure) es alto; se mencionan otros proveedores y hardware especializado (TPUs, Gaudi), aunque a menudo también con precios elevados.
- GeForce Now de Nvidia se cita como una opción sorprendentemente buena en relación calidad-precio para juegos, lo que plantea dudas sobre su economía a largo plazo.
- Algunos esperan más proveedores de entrenamiento de GPUs más baratos, tipo “Hetzner”, en 2024–2025, pero señalan que los hyperscalers pueden subvencionar sus propios costes de entrenamiento.
Estrategia de Nvidia, fabs y alianzas
- Nvidia es fabless y se considera portátil en cuanto a nodo, usando TSMC, Samsung y potencialmente Intel según el coste y el producto.
- Una nueva unidad de chips personalizados encaja en un giro más amplio hacia la concesión de licencias de IP y el dominio de plataforma (p. ej., acuerdos previos con fabricantes de consolas y proveedores de SoC).
- Hay opiniones mixtas sobre Nvidia como socio: técnicamente exitosa en consolas y centros de datos, pero percibida como difícil de tratar y muy protectora de su propiedad intelectual de drivers y software.