Nvidia 通过新部门寻求 300 亿美元定制芯片机会

原文 ↗ Hacker News 讨论 ↗

Nvidia 进入 300 亿美元规模的定制 AI 与计算芯片市场，引发了关于买家究竟是真需要专用硅片，还是只需要更便宜、具备高 VRAM 的 GPU 来跑大型语言模型等负载的争论。评论者强调了 Nvidia 主导的软件生态、激进的产品分层和定价权，并将其与 AMD 的 ROCm 努力以及 OpenAI 传闻中的多万亿美元芯片雄心等初创浪潮进行对比。许多人认为，定制芯片是 Nvidia 平台战略的自然延伸，但也质疑相较于通用 GPU，足以证明其重大收益的理由是否足以支撑为新晶圆厂和新架构投入如此巨额的资本。

消费级 GPU、VRAM 与 AI 负载

  • 几位评论者希望消费级 GPU 配备超大容量 VRAM（例如 128GB），以便在本地运行更大的开源 LLM。
  • 其他人指出，这远远超出了图形工作负载的需求；这种规格实际上会把显卡变成计算加速器。
  • 讨论认为，Nvidia 保持消费级 VRAM 偏低，是为了避免蚕食高利润率的数据中心卡；24GB 与 40GB 型号之间的大幅价格跃升，则被归因于人为分层和许可。
  • 也有人提到物理限制：在当前的 GDDR 容量和总线宽度下，若不使用 HBM，那么常规消费级 GPU 的上限大约就是 48GB；而 HBM 既昂贵又受封装限制。

替代内存与计算方案

  • 有人主张投资存内计算 / ReRAM，以降低 AI 的能耗和气候影响。
  • 另一些人则认为这类方案已经被反复尝试并失败，和“直接加更多 VRAM”并不可比。
  • 也有中间观点指出，GPU 和 package-on-package 策略本身就已经在向更高带宽的“近存”计算靠拢。

软件效率与硬件充裕

  • 讨论集中在：大量资源（VRAM、RAM）究竟会鼓励低效编码，还是会提升生产力并催生新的软件类型。
  • 例子从高度优化的旧代码，到现代 Electron 应用和缓慢的日常工具都有。
  • 一些人认为，减少“记账式”负担是好事；另一些人则说，软件性能退化的速度已经快于硬件改进的速度。

Nvidia、CUDA 与竞争者

  • Nvidia 被视为拥有强大且一致的软硬件栈（CUDA、PTX、驱动），并且其文化优先保证软件可用。
  • AMD 的 ROCm 在纯计算方面被认为在技术上正在追赶，但支持较差、官方 GPU 覆盖有限，而且在同时混合图形和计算时不稳定。
  • 这种成熟度使 Nvidia 成为相对自然的定制 AI 芯片参与者，而新兴初创公司则不一定具备同等优势。

定制 / 专用 AI 芯片与 7 万亿美元争论

  • 定制芯片被描述为一种剔除不必要 GPU 功能，或加入领域特定模块（例如电信指令）的方式。
  • 也有人认为，许多客户真正想要的只是更便宜、裁剪过的 GPU，而不是真正的定制。
  • 与另一家公司相关的、据称高达 7 万亿美元的 AI 芯片融资数字，被广泛认为不切实际或只是为了头条；评论者指出，这一数字超过了历史上的项目（按通胀调整后，例如二战）以及 TSMC 的全部终身收入。

云与定价动态

  • 主要云厂商的 GPU 定价（AWS/Azure）被批评过高；也有人提到其他提供商和专用硬件（TPU、Gaudi），但它们通常也定价不低。
  • Nvidia 的 GeForce Now 被称为出乎意料地划算，尤其对于游戏而言，这也引发了对其长期经济性的疑问。
  • 有人预计在 2024–2025 年会出现更多类似 Hetzner 的廉价 GPU 训练提供商，但也指出超大规模云厂商可以补贴自身的训练成本。

Nvidia 战略、晶圆厂与合作关系

  • Nvidia 是无晶圆厂公司，被认为能够跨制程节点迁移，使用 TSMC、Samsung，并可能根据成本和产品选择 Intel。
  • 新设定制芯片部门，与其更广泛地转向 IP 授权和平台主导地位相契合（例如此前与游戏主机厂商和 SoC 厂商的合作）。
  • 对 Nvidia 作为合作伙伴的看法褒贬不一：它在主机和数据中心领域技术上很成功，但也被认为难以合作，并且对驱动和软件 IP 保护极强。