2023 是 GPU 停滞不前的一年

原文 ↗ Hacker News 讨论 ↗

2023 年的 GPU 买家夹在 AI 和游戏带来的性能需求上升与消费级硬件停滞之间，尤其是在 VRAM 容量和价格方面。评论者认为，Nvidia 的主导地位和激进的产品细分，以及 AMD 在较小程度上的类似做法，使大内存显卡一直昂贵，而中低端产品的性价比在下降，推动部分用户转向 Apple Silicon 或专用 AI 盒子等替代方案。大家普遍同意，软件生态（CUDA vs. ROCm vs. Intel 的技术栈）和人为限制与原始硅片性能同样重要，而未来的提升可能更多来自更聪明的软件和模型优化，而不只是更大、更快的 GPU。

GPU 内存需求与本地 AI

  • 许多参与者认为，桌面 GPU 需要远多得多的 VRAM（48–96 GB）才能运行大型（70B+）模型以及本地多模态“个人 AI”工作负载。
  • 目前消费级上限（24 GB，少见的 48 GB 发烧级产品）被视为一种人为的细分，目的是保护高利润的企业级 GPU。
  • 也有人认为，模型优化、量化和更好的软件工具可以在一定程度上弥补有限的 VRAM，但也承认大模型仍然受内存限制。

Apple Silicon 与统一内存

  • Apple 的 M 系列配备 80–192 GB 共享内存，被称赞为在大规模本地模型、低功耗和便携性方面独具优势。
  • 缺点包括：价格高、游戏性能和原始 GPU 带宽弱于 Nvidia、许多热门 AI 工具支持不稳定，以及封闭的 GPU 生态。
  • 有人认为 UMA 是面向后图形时代 GPU 工作负载的前瞻性设计；也有人说它不过是一个很大的共享 DRAM 池。

CUDA、ROCm 与生态锁定

  • 普遍共识是，Nvidia 的 CUDA 生态系统是最强大的护城河。
  • 许多 AI 框架和工具链都嵌入了手写的 CUDA 内核，因此即使 PyTorch 能“运行”，AMD/Intel 的支持也常常脆弱或更慢。
  • AMD 因多年糟糕的 ROCm 支持、官方支持 SKU 有限以及工具链不稳定而受到批评；最近对 MI300/ROCm 的推动被看作虽晚但有希望。
  • Intel 被视为凭借 Arc 驱动快速改进；一些人认为，尽管亏损，继续投资 GPU 在战略上是不可避免的。

定价、细分与中端 GPU

  • 关于中端 GPU（例如 RTX 4060/4070、RX 7600/7800XT）是否仍然有好价值，争论持续不断。
  • 一派观点认为，考虑到晶圆成本，250–600 美元价位的每美元性能是合理的；“末日论”更多是情绪化和怀旧驱动。
  • 另一派则认为，这些价位的容量、芯片尺寸和功能相较过去几代显得“更低档”；真正的“主流”已经悄悄涨到 500–700 美元。
  • 令人沮丧的是，更大内存的 SKU 作为工作站显卡存在，却要付出巨大的溢价。

消费级 GPU 的未来与 AI 需求

  • 有人预测，高端硬件会继续为超大规模云服务商扩展，而消费级 GPU 将停滞，或转向集成式 APU，独立显卡则变成小众产品。
  • 关于 AI 热潮能否持续 5–10 年，还是部分属于泡沫，争论不休；大多数人认为，即便有版权监管，AI 工作负载也不会消失。
  • 主机 VRAM（约 12 GB 可用）被视为 AAA 游戏资产的上限；额外的 PC VRAM 可能会转而用于 AI 放大和更丰富的模拟。