构建 Meta 的 GenAI 基础设施

Meta 的开放性、战略，以及“在地里撒盐”

• 许多人称赞 Meta 以异常详尽的基础设施文章和开放发布（LLaMA、OCP 硬件）而闻名，并将其视为在这一狭窄领域中的“好角色”。
• 也有人将此解读为一种战略：通过缩小开源与闭源模型之间的差距来“商品化互补品”，削弱 OpenAI、Mistral、Anthropic 等公司的定价能力和护城河。
• 关于“在地里撒盐”的争论：一些人认为，免费的高质量模型会让某些闭源模型商业模式变得不那么可行；另一些人则认为这只是健康竞争，并迫使付费产品证明其价格合理。

规模、成本与商业理由

• Meta 计划部署约 35 万块 H100，线程中的不同估算仅 GPU 成本就在约 35 亿到 80 亿美元之间，而总基础设施成本要高得多。
• 有人将这篇帖子视为在元宇宙重金投入之后，面向投资者的“炫耀”；也有人认为，随着苹果更改追踪政策，AI 投资已经通过改进概率广告定向开始产生回报。
• 怀疑者质疑，除非 Meta 在通用助手领域胜出，否则 GenAI 功能（贴纸、图像编辑、聊天机器人）是否足以支撑如此巨额投入；支持者则认为，仅广告和排序就足以证明其合理性。

硬件生态与对 Nvidia 的依赖

• 普遍共识是，Nvidia 的领先主要来自软件（CUDA）和生态，而不仅仅是硬件本身；单看硬件，竞争空间更大。
• 许多人希望出现真正的替代方案（AMD、TPU、像 MTIA 这样的定制 ASIC），但也指出研发、集成和支持负担巨大，尤其是在对外销售硬件时更是如此。
• RoCE 被强调为 Meta 在大型 GenAI 集群上相较于 InfiniBand 的选择；它因开放且支持多厂商而受到赞赏。

云、数据中心与“Meta Cloud”

• 有很长的子讨论在争论 Meta 是否拥有比 AWS/Azure/GCP 更多的数据中心空间/电力；参与者使用建筑映射和功率估算，但都承认这些数字只是近似值。
• 许多人认为 Meta 不会成为一家通用云服务商：B2B 并非其强项，云业务需要巨大的产品、销售和支持投入，而 Meta 目前把这些基础设施用于内部，比把它们出租更赚钱。

民主化、门槛与职业发展

• 一些人对训练前沿模型所需的资本成本感到沮丧，认为与早期互联网时代相比门槛太高；但也有人指出，开源模型、API 和微调仍然给小团队在应用层留下了很大空间。
• 讨论还涉及如何从事这类基础设施工作：HPC、分布式系统、编译器和 ML 系统背景都很有帮助；重点在于调度器、数据局部性，以及超大规模下非 Kubernetes 的集群工具。

文化与经济影响

• 一方预测，用于 GenAI 的 GPU 将改变甚至“吞并”电影、音乐和游戏；另一方则担心失业、低质量“垃圾”内容，以及新的把关机制。
• 更广泛的讨论将 AI 与此前的炒作周期（互联网泡沫、数码相机）进行比较；共识是，既会有过度投资，也会带来持久的结构性变化。