2023 fue el año en que las GPUs se quedaron quietas
Los compradores de GPU en 2023 están atrapados entre las crecientes demandas de rendimiento de la IA y los juegos y el estancamiento del hardware de consumo, especialmente en torno a la capacidad de VRAM y el precio. Los comentaristas argumentan que el dominio de Nvidia y una segmentación agresiva de productos, reflejada en menor medida por AMD, han mantenido caras las tarjetas de gran memoria mientras las opciones de gama media y baja pierden valor, empujando a algunos usuarios hacia alternativas como Apple Silicon o cajas dedicadas para IA. Existe un amplio consenso en que los ecosistemas de software (CUDA vs. ROCm vs. la pila de Intel) y las restricciones artificiales importan tanto como el silicio bruto, y que las ganancias futuras pueden venir tanto de software más inteligente y de la optimización de modelos como de GPU más grandes y rápidas.
Necesidades de memoria de GPU e IA local
- Muchos participantes sostienen que las GPU de escritorio necesitan mucha más VRAM (48–96 GB) para ejecutar modelos grandes (70B+) y cargas de trabajo locales de “IA personal” multimodal.
- Los límites actuales para consumidores (24 GB, 48 GB prosumer poco comunes) se ven como una segmentación artificial para proteger las GPU empresariales de alto margen.
- Otros sugieren que la optimización de modelos, la cuantización y mejores herramientas de software compensan en parte la VRAM limitada, pero conceden que los modelos grandes siguen estando limitados por la memoria.
Apple Silicon y memoria unificada
- La serie M de Apple, con 80–192 GB de memoria compartida, es elogiada por ser única para modelos locales grandes, bajo consumo y portabilidad.
- Desventajas: precio alto, peor rendimiento en juegos y menor ancho de banda bruto de la GPU frente a Nvidia, compatibilidad irregular en muchas herramientas populares de IA y un ecosistema de GPU cerrado.
- Algunos creen que UMA fue un diseño orientado al futuro para cargas de trabajo de GPU posteriores a los gráficos; otros dicen que es solo un gran pool compartido de DRAM.
CUDA, ROCm y el encierro del ecosistema
- Hay un consenso fuerte en que el ecosistema CUDA de Nvidia es el foso dominante.
- Muchos frameworks y toolchains de IA incorporan kernels CUDA escritos a mano, lo que hace que el soporte para AMD/Intel sea frágil o más lento incluso cuando PyTorch “funciona”.
- Se critica a AMD por años de mal soporte de ROCm, un número limitado de SKU oficialmente compatibles y herramientas inconsistentes; los impulsos recientes de MI300/ROCm se ven como tardíos pero prometedores.
- Se considera que Intel está mejorando rápido con los drivers Arc; algunos ven su inversión continua en GPU como estratégicamente inevitable a pesar de las pérdidas.
Precios, segmentación y GPU de gama media
- Continúa el debate sobre si las GPU de gama media (p. ej., RTX 4060/4070, RX 7600/7800XT) siguen siendo una buena compra.
- Un bando: el rendimiento por dólar a $250–600 es razonable dadas las costes de oblea; el “pesimismo” es emocional y está impulsado por la nostalgia.
- El otro bando: las capacidades, tamaños de chip y características en esos rangos de precio parecen de “gama baja” en comparación con generaciones pasadas; la verdadera “corriente principal” se ha desplazado a $500–700.
- Hay frustración por el hecho de que existan SKU con más memoria como tarjetas de estación de trabajo con márgenes enormes.
Futuro de las GPU de consumo y la demanda de IA
- Algunos predicen que el hardware de gama alta seguirá escalando para los hyperscalers mientras las GPU de consumo se estancan o pasan a APUs integradas, con las tarjetas discretas convirtiéndose en un nicho.
- Hay debate sobre si el auge de la IA se sostendrá durante 5–10 años o es en parte una burbuja; la mayoría cree que las cargas de trabajo de IA no desaparecerán incluso con regulación sobre copyright.
- La VRAM de las consolas (~12 GB útiles) se ve como un techo para los activos de juegos AAA; la VRAM extra en PC podría usarse en cambio para escalado de IA y simulaciones más ricas.