搭载 M5 Max 和 M5 Ultra 的新款 Mac Studio

原文 ↗ Hacker News 讨论 ↗

Apple 搭载 M5 Max 和 M5 Ultra 芯片的新款 Mac Studio，被视为强大的本地 AI 工作站，这主要得益于最高 512GB 的统一内存和极高的内存带宽，使其很适合在设备端运行大语言模型。与此同时，许多人对其定价感到震惊，尤其是在全球“RAMpocalypse”背景下高内存配置的价格；大家也在争论，购买这样的硬件是否比租用 GPU 或使用云端 AI 服务更划算。这次发布还重新引发了关于台式机与笔记本该如何取舍、统一但不可升级的内存在多大程度上真正具备未来保障、以及 Apple 在严肃 AI 工作负载上与基于 NVIDIA 的系统相比处于什么位置的讨论。

定价与地区差异

  • 许多评论者把焦点放在高价上，尤其是在欧洲，一套配置很高的 M5 Ultra 配置超过了 6,600 欧元。
  • 美国与欧盟的比较强调了欧盟定价中已包含增值税，以及美国各州销售税不同；有些人考虑在低税或无关税地区购买（同时也提醒，严格来说进口税仍然适用）。
  • 一些人把当前价格与历史上昂贵的 PC 相比，指出“你真正想要的那台电脑”仍然要花几千美元，但高端 AI 配置如今已经远远超过这个水平。

内存容量、短缺与选项

  • RAM 的定价被称为“疯了”：256 GB 统一内存要加 4,000 美元，而 512 GB 预计接近或超过 2 万美元。
  • 多条帖子提到更广泛的“RAMpocalypse”：据称 DRAM 容量已售罄到 2027 年，而包括 Apple 在内的大买家可能预留不足。
  • 许多用户希望有 1 TB 统一内存选项；有人说自己愿意支付 20–30 千美元，因为这会改变本地可运行的模型类型（例如约 1T+ 参数的 4 位模型）。

性能、统一内存与 LLM 工作负载

  • 统一内存因允许 CPU 和 GPU 共享一个大而快的内存池而受到称赞，非常适合本地 LLM 和大上下文工作负载。
  • M5 Ultra 的 1.2 TB/s 带宽被反复强调；有人把它在带宽上与消费级 GPU 相比并认为更有优势，但也有人认为 Nvidia 工作站 GPU 在原始算力上仍会占优。
  • 关于能效和每瓦 token 数也有争论：有人声称 Mac 更强；也有人说优化过的 Nvidia 设备可以持平甚至超越它们。
  • 讨论还涉及带宽与延迟的权衡；高带宽有助于 LLM 的 prefill，但指针密集型工作负载更依赖延迟和缓存。

台式机 vs 笔记本 / 瘦客户端方案

  • 很多人开始重新考虑 Mac Studio（或 Mini）配一台轻薄笔记本或 iPad，并通过 Tailscale、SSH 或 Apple Screen Sharing 远程连接。
  • 多位用户描述把 Studio/Mac Mini 当作始终在线的家庭服务器，用于 LLM 和开发，而笔记本（或 Neo/iPad）作为瘦客户端。
  • MacBook Pro 在持续 LLM 工作负载下的热降频和风扇噪音，让一些人转向台式机。

云端 vs 本地 AI 经济性

  • 有人认为，租用 GPU 或使用 API 提供商在实验和突发性工作负载场景下仍然更便宜；本地硬件大多数时间都处于闲置状态。
  • 另一些人如果面对重度、持续或对隐私敏感的工作负载，云端 AI 账单每月会达到五位数，于是把昂贵的本地硬件视为提前预付多年算力。

可扩展性、形态与未来保障

  • 用户不可更换的 RAM/SSD，以及缺少模块化塔式 Mac，受到批评；有人希望有可复用机箱和可更换主板。
  • 也有人反驳说，正是 SoC 加封装内存的设计才实现了这些带宽数字，使传统可升级性在技术和经济上都很困难。
  • 还讨论了通过 Thunderbolt 5 将多台 Studio 进行集群；Apple 声称最多四个节点可提速，但也有人指出带宽和 RDMA 的限制。

其他技术备注与反应

  • PCIe Gen 6 SSD 架构、最高可达 2 倍存储速度让一些人感兴趣；但散热和实际收益仍有疑问。
  • M6 的低调发布（仅 Mini、32 GB 上限、没有 Pro/Max/Ultra）暗示 M7 才会是更大的、以 AI 为重点的一步。
  • 总体情绪既有对严肃本地 AI 能力的兴奋，也有对价格、内存上限以及长期 OS/硬件锁定的沮丧。