AMD 的下一代 GPU 是一颗 3D 集成的超级芯片

原文 ↗ Hacker News 讨论 ↗

AMD 的 3D 集成 MI300“超级芯片”——将 CPU 核心、GPU 计算单元和堆叠式 HBM 内存结合在一起——被视为在高性能 AI 和科学计算领域挑战 Nvidia 的重大举措。评论者权衡其架构取舍、制造复杂度和可能很高的生产成本，同时也看到基于 chiplet 的设计、先进封装以及面向混合 CPU/GPU 工作负载的统一内存所带来的潜在收益。一个反复出现的话题是，AMD 的 ROCm 和 HIP 软件栈，以及像 oneAPI 和框架级支持这样的更广泛行业努力，是否真的能削弱 Nvidia 的 CUDA 主导地位，尤其是在消费级 GPU 上支持较弱的情况下。

CUDA、ROCm 与竞争性 API

  • 许多人将 CUDA 视为 API 层面的锁定；提到的替代方案包括 AMD 的 ROCm/HIP、Intel 的 OneAPI 和 OpenCL（通常被认为性能较差，尤其是在 Nvidia 上）。
  • HIP 和 HIPIFY 被视为一种源代码级的“CUDA 翻译”路径，尤其聚焦于 AI 框架（PyTorch、TensorFlow、ONNX）。
  • 有人认为整个行业（云厂商、芯片厂商）现在都有强烈动机去打破 CUDA 的垄断；也有人指出，这种说法名义上已经存在很多年，但成效有限。

MI300 及类似芯片的用途

  • 主要面向 HPC 和 AI：核模拟、大规模科学计算、LLM 训练/推理、约束求解器以及图像叠加。
  • MI300A 的 CPU+GPU 统一内存被视为混合型、分支较多（CPU）和数值密集型（GPU）工作负载的一大优势。
  • 这些加速器并不是为游戏定位的；AMD 的 CDNA 计算产品线通常会去掉图形导向特性（例如纹理单元、显示输出）。

3D 集成、HBM 与封装

  • 讨论中提出了芯片位置的问题（HBM 在中心还是边缘）。回复指出：
    • HBM 的设计是针对当前的导线长度，并连接到特定控制器。
    • XCD 需要超短、高带宽的 die-to-die 连接，才能表现得像一颗芯片。
  • 对齐与堆叠使用了先进的 TSMC 3DFabric 工艺；较新的设计采用直接铜对铜键合，而不是焊料。
  • 热膨胀以及跨多层异构结构的散热被强调为重大的工程挑战，这在 AMD 自己的演示中也被大量讨论。

成本、BOM 与市场结构

  • MI300 级设备预计在制造和封装上都非常昂贵，不过 chiplet 可以改善良率并提升工艺混搭的经济性。
  • 讨论集中在“物料清单（bill of materials）”与实际成本/利润之间的区别；Nvidia 据称在 H100 上极高的利润率，与 MI300 可能很高的生产成本形成对比。
  • 有人认为 Nvidia 是通过创造现代 GPU 计算/AI 市场才获得如今的地位；也有人强调 AMD 过去资源受限。

软件成熟度与开发者体验

  • 据报道，ROCm 在较新的数据中心卡以及部分高端消费卡上“相当好用”（例如 Linux 上的 RX 7900），尤其是通过 PyTorch。
  • 但很多人抱怨：
    • 对较老/消费级 AMD GPU 的支持零散，甚至被移除。
    • Windows 支持有限。
    • ROCm 比 CUDA 难用得多，工具链稳定性和向前兼容性都更差。
  • 对研究和工作站流程而言，这种缺乏广泛、廉价消费级 GPU 支持的现象，被认为是团队仍然标准化选用 Nvidia 的关键原因。

基准测试与营销怀疑

  • 有人称 AMD 的 MI300 对比 H100 的营销“可疑”，指控其挑选了特定的模型大小、批次大小或 Nvidia SDK 版本。
  • 也有人反驳说，Nvidia 自己的对比也常常使用激进的软件技巧（例如更低精度的“transformer engine”模式）以及不匹配的批次大小，因此“公平”比较很难实现。
  • 对于 AMD 的原始硬件优势，如果没有同样成熟的软件栈，是否能转化为真实世界收益，存在分歧。

更广泛的生态与未来方向

  • HPC 管理员报告称，在顶级超级计算机（Frontier、LUMI）上，ROCm 的采用正在增长，AMD 的库也进入了主流 Linux 发行版，社区也在努力为 AMD 调优 LLM。
  • 以太网和 fabric 的讨论提到了“UltraEthernet”等努力，作为对 Nvidia 通过 Mellanox 控制 Infiniband 的回应。
  • 有人预计这些数据中心部件中的技术（chiplet、HBM、统一内存）会 धीरे慢渗透到更主流的 CPU/APU，甚至可能进入消费级系统。