2023 foi o ano em que as GPUs ficaram paradas
Os compradores de GPU em 2023 estão presos entre as crescentes demandas de desempenho de IA e jogos e o hardware de consumo estagnado, especialmente em torno da capacidade de VRAM e do preço. Os comentários argumentam que o domínio da Nvidia e sua segmentação agressiva de produtos, espelhados pela AMD em menor grau, mantiveram caras as placas com muita memória enquanto as opções de médio e baixo custo perdem valor, levando alguns usuários a alternativas como Apple Silicon ou máquinas dedicadas de IA. Há amplo consenso de que os ecossistemas de software (CUDA vs. ROCm vs. a pilha da Intel) e restrições artificiais importam tanto quanto o silício bruto, e que os ganhos futuros podem vir tanto de software mais inteligente e otimização de modelos quanto de GPUs maiores e mais rápidas.
Necessidades de Memória da GPU e IA Local
- Muitos participantes argumentam que as GPUs de desktop precisam de muito mais VRAM (48–96 GB) para executar modelos grandes (70B+) e cargas de trabalho locais multimodais de “IA pessoal”.
- Os limites atuais para consumidores (24 GB, raro 48 GB em prosumer) são vistos como uma segmentação artificial para proteger GPUs corporativas de alta margem.
- Outros sugerem que a otimização de modelos, a quantização e melhores ferramentas de software compensam parcialmente a VRAM limitada, mas admitem que os modelos grandes continuam limitados pela memória.
Apple Silicon e Memória Unificada
- A linha M da Apple, com 80–192 GB de memória compartilhada, é elogiada por ser singularmente capaz para modelos locais grandes, baixo consumo de energia e portabilidade.
- Desvantagens: preço alto, desempenho inferior em jogos e menor largura de banda bruta de GPU vs Nvidia, suporte irregular em muitas ferramentas populares de IA e ecossistema de GPU fechado.
- Alguns acham que a UMA foi um design voltado para o futuro, para cargas de trabalho de GPU pós-gráficos; outros dizem que é apenas um grande pool compartilhado de DRAM.
CUDA, ROCm e Lock-in de Ecossistema
- Há forte consenso de que o ecossistema CUDA da Nvidia é o fosso dominante.
- Muitos frameworks e toolchains de IA incorporam kernels CUDA escritos manualmente, tornando o suporte da AMD/Intel frágil ou mais lento, mesmo quando o PyTorch “funciona”.
- A AMD é criticada por anos de suporte ruim ao ROCm, SKUs oficialmente suportadas limitadas e ferramentas inconsistentes; os esforços recentes com MI300/ROCm são vistos como tardios, mas promissores.
- A Intel é vista como melhorando rapidamente com os drivers Arc; alguns enxergam seu investimento contínuo em GPU como estrategicamente inevitável, apesar das perdas.
Preço, Segmentação e GPUs de Médio Alcance
- Há um debate contínuo sobre se GPUs de médio alcance (por exemplo, RTX 4060/4070, RX 7600/7800XT) ainda têm bom valor.
- Um lado: desempenho por dólar na faixa de US$ 250–600 é razoável dado o custo dos wafers; o “pessimismo” é emocional e movido por nostalgia.
- O outro lado: capacidades, tamanhos de die e recursos nesses pontos de preço parecem de “categoria inferior” em comparação com gerações passadas; o verdadeiro “mainstream” teria subido para US$ 500–700.
- Há frustração com o fato de SKUs com mais memória existirem como placas de workstation com margens enormes.
Futuro das GPUs de Consumo e Demanda por IA
- Alguns preveem que o hardware de ponta continuará escalando para hyperscalers enquanto as GPUs de consumo estagnam ou migram para APUs integradas, com placas discretas se tornando um nicho.
- Há debate sobre se o boom da IA sustentará 5–10 anos ou se é parcialmente uma bolha; a maioria acha que as cargas de trabalho de IA não desaparecerão, mesmo com regulação de copyright.
- A VRAM dos consoles (~12 GB utilizáveis) é vista como um teto para ativos de jogos AAA; a VRAM extra no PC pode, em vez disso, ser usada para upscaling de IA e simulações mais ricas.