Thelio Mira AI Linux 工作站:192 GB GPU 内存

System76 新推出的 Thelio Mira AI Linux 工作站可配置双 NVIDIA RTX Pro 6000 GPU 和 192 GB VRAM,尽管醒目宣传的基础价为 3,299 美元,但其某些配置价格可超过 4 万至 5 万美元,因此引发了广泛关注。评论者普遍将成本归因于 Nvidia GPU 定价和高端内存,并讨论这种机器相较于 Mac Studio 集群、单块 H100 级显卡或云端 GPU 访问是否更具价值。技术层面的担忧还集中在散热、PCIe 通道瓶颈,以及在这样昂贵的“本地 AI 开发”设备中采用消费级 CPU 是否合适。

价格与价值

  • 基础价格(约 3.3 千美元)与满配(约 4 万至 5 万美元)让很多人感到震惊;不少人称这种工作站的定价“疯狂”或“离谱”。
  • 约 4.2 万美元配置中约 88% 的成本只是两块 RTX Pro 6000 GPU;内存和电源只占很小一部分。
  • 有人把它类比为买一辆 8 万美元的车:对六位数收入的专业人士来说,昂贵的工作工具是说得通的;也有人指出,真正买这个价位汽车的人其实很少。
  • 多条评论表示,在这个价位他们宁愿买一块 H100、买一台二手服务器级工作站,或者直接使用云端 GPU。

硬件配置与功耗

  • GPU:双 RTX Pro 6000(每块 96 GB,总计 192 GB VRAM)是最吸睛的选项;这些显卡不可退货,而且极其昂贵。
  • 对散热和噪音的担忧:有人质疑工作站显卡堆叠方式、散热间隙,以及所有配置是否都经过了实际测试。
  • CPU 选择(Ryzen 9950X)被批评为在双高端 GPU 场景下“玩具级”或 PCIe 通道不足;有人认为在这个价位上 Threadripper/Xeon 会更合适。
  • 讨论还涉及双 DIMM 每通道时 DDR5 内存速度下降,以及缺少现代 HEDT 平台的问题。
  • 高功耗意味着需要强力电源、UPS,以及可能的家用/办公电力升级。

性能对比替代方案(Mac、H100 等)

  • 普遍共识是,双 RTX 6000 在纯 GPU 计算上会优于 Apple Silicon(例如 M5 Ultra),尤其是在 LLM 的 prefill/token 速率上。
  • 也有人认为,以同样的钱买多台 Mac Studio(带大统一内存池)可能能运行更大的稠密模型,尽管单 GPU 带宽更低。
  • 目前 Apple 在提示处理速度上被认为更慢,但每一代带宽都在提升;有些人认为 Mac 安静、接受度高、内存大,但原始速度仍落后于 Nvidia。
  • 关于 RTX Pro 6000 与 H100 是否可比也有争论:H100 是数据中心级,拥有更高带宽和计算能力。

用途、寿命与购买决策

  • 一些买家将其视为能通过生产力回本的公司开支;另一些人则说,模型更迭和 VRAM 需求快速上升会让这种购买变得风险很高。
  • 有人后悔没有早点买更便宜的 4090;也担心如果价格继续上涨,可能会“终结个人计算时代”,把用户推回“大型机”/共享资源。
  • 还有人提出 GPU 合作社(共享拥有大型 GPU 机器)这种想法,取代极其昂贵的个人工作站。

操作系统、生态与厂商观感

  • System76 和 Pop!_OS 因开放硬件和机器寿命长而受到称赞。
  • 也有人怀疑,愿意花 4 万美元以上的企业会不会选择 Pop!_OS 而不是 Ubuntu,不过 System76 也通过其他 SKU 销售 Threadripper/Xeon 系统。

营销与沟通问题

  • “Affordable” 标语和 3,299 美元的头条价格被认为具有误导性,因为 AI 旗舰配置的价格高出一个数量级。
  • “192 GB GPU memory” 这一表述也引发关注:有人认为,如果 GPU 只能通过 PCIe 通信,把它称为单一“GPU 内存池”是值得怀疑的。