Apple 推出 M6 和 M5 Ultra

原文 ↗ Hacker News 讨论 ↗

Apple 新推出的 M6 和 512GB M5 Ultra 芯片被视为设备端 AI 的重大进步，巨大的统一内存和带宽让在单台桌面机器上进行严肃的本地 LLM 推理成为可能。评论者将这些能力与高昂的 RAM 定价、更弱的 Linux 支持，以及这样一个经济现实相权衡：对于大多数工作负载，云端前沿模型通常仍然更便宜、更快。这些产品被认为非常适合重视隐私的场景、内容创作，以及资金充足的发烧友或公司，但对于可以依赖订阅和 API 的普通用户来说，则过于奢侈或性价比不高。

硬件与性能

  • M5 Ultra 的 512GB 统一内存和 1.2 TB/s 带宽被广泛认为令人印象深刻，尤其适合本地 AI 和媒体工作。
  • 有些人将内存带宽和算力与高端 Nvidia GPU（例如 5090、RTX 6000 Ada）相比，指出 Apple 在 RAM 容量、散热和简洁性上更胜一筹，但在原始 GPU 算力和 prefill 速度上落后。
  • M1–M5 代机器常被描述为“仍然够快”，不少人认为对于典型的开发/创作工作负载，升级带来的现实收益很小。

本地 AI vs 云端

  • 许多人认为这些机器非常适合设备端 LLM，尤其是中等规模模型（Qwen 3.8 27B、Qwen 3.5 122B 等），统一内存让上下文长度比普通 PC 更大。
  • 另一些人则认为云端/前沿模型（Sol、Opus 等）在经济上更优：详细计算表明，除非利用率非常高，或需要严格隐私 / 零数据保留，否则 2 万美元级本地机器很难与每月 100–200 美元的订阅或低价按 token API 相比。
  • 也有人对通过 Thunderbolt 进行多 Mac RDMA 感兴趣（最多 4 台机器，2TB 统一内存），但其性能与多 GPU Nvidia 方案相比仍有争议。

RAM、统一内存与定价

  • 统一的 LPDDR5X RAM 在架构上受到称赞（简单、地址空间大、可作为“VRAM”使用），但升级价格（约 $25/GB，96→256GB = $4k，512GB 预计 +$6.4k）则遭到强烈批评，被形容为“贵得惊人”。
  • 有些人将总成本与搭建等效的 Nvidia HBM/RTX 6000 系统相比后认为还算合理；另一些人则指出 DRAM 热潮、价格操纵指控，并预计 RAM 价格最终会暴跌。

Linux 与开放性

  • 最大的不满是：新版 Apple Silicon 没有原生 Linux 支持；Asahi 目前最高只到 M2 / M3 进行中阶段，且没有完整的 GPU 加速。
  • 用户只能在 macOS 上通过 Linux 虚拟机来做编排和工具链工作，但缺少 GPU 直通限制了 AI 性能。
  • 不少人表示，如果 Apple 官方支持 Linux，或者公布硬件文档 / 驱动，他们会立刻购买 Mac 硬件。

谁会买 512GB Ultra？

  • 被建议的购买者包括：想做本地推理的 AI 初创公司、处理敏感 / 受监管数据的企业、媒体专业人士（视频、VFX、音频），以及有钱的发烧友。
  • 许多人认为它是一个小众但合理的产品：比同等多 GPU 机架更便宜、更安静，不过与裸 Nvidia 方案相比，显然不是“单位性能/价格最佳”。

macOS vs Linux/Windows

  • 有些人称赞 macOS 的精致、生态和续航；另一些人则认为它长期在退步（界面不一致、设置重设计、稳定性问题、CLI / 工具移除）。
  • 一个可见的群体正在转向 Linux（通常配合 Hyprland/Omarchy 或 KDE 这类平铺式 WM），理由是可定制性更强，更适合开发和容器密集型工作流。

更广泛的 AI 与图灵测试支线讨论

  • 旁支争论集中在现代 LLM 是否已经“击败”图灵测试；观点从“是的，在许多真实场景下对很多人都可以”到“如果有严苛评审和长对话，就还没有”。
  • 有些人担心 AI 主要是在把互联网“弄得更糟”；也有人以全球进步数据和乐观用例反驳（24/7 运行研究的 agent、个人数据分析、本地私有助手）。