Meta 解散了其 Responsible AI 团队

“负责任 AI”团队的角色与价值

• 一些人认为这类团队主要只是公关、“道德表态”，或者是拖慢产品工作的意识形态审查者，而且常常被忽视或被削弱。
• 另一些人则认为它们是必要的支撑职能：制定框架、进行红队测试、与监管机构对接，并充当安全/伦理的“裁判”。
• 一个反复出现的观点是：伦理/安全必须嵌入每个 AI 团队；如果“每个人”都负责，批评者反驳说，那往往就意味着没有人负责。

开放模型与封闭模型以及安全性

• 一派观点认为：Meta 的开放发布使其成为“大型 AI 玩家中最道德”的；封闭模型则集中权力，让少数行为者来定义“对齐”和“错误信息”。
• 反对者担心开放权重会让人轻易移除安全层、为了滥用而微调模型，或将危险能力民主化（生物武器、自主武器、大规模欺诈）。
• 有些人认为对手（中国、俄罗斯等国家或恐怖分子）无论如何都会通过独立研发或间谍活动获得先进模型，因此开放性主要是在赋能公众和研究人员。

AI 风险等级：生存性风险 vs 实际风险

• 许多评论者对灭绝级 AI 场景持怀疑态度，认为它们像科幻、吹毛求疵，或是在寻租；他们认为真正的风险在于近期用途（监控、自动化决策、深度伪造、虚假信息）。
• 另一些人则为长期对齐工作辩护，把它类比为安全工程：你必须在灾难发生前预见失效模式。
• 关于当前 LLM 是“只是文本生成器”，还是迈向更强大系统的早期步骤，分歧非常大。

公司激励、责任与公关

• 一些人认为“负责任 AI”团队是责任屏障和营销工具，主要是为了避免诉讼和负面头条，而不是深层伦理。
• 有人担心，一旦内部安全团队威胁到收入或上市/发布速度，就会被推翻。
• 也有人指出它与法律、合规、隐私和信息安全的类比：集中专业能力，加上分布式责任。

监管、监督与信任

• 有人认为只有独立、外部的监管机构才能可信地监督 AI；内部团队只是“球员兼裁判”。
• 也有人担心监管会被既得利益者俘获，并被用作护城河，或者会把错误的安全观念固化下来，让社会对真正威胁毫无准备。
• Meta 更广泛的社会危害（成瘾式信息流、心理健康、在政治暴力中的作用）被拿来作为质疑其自我治理能力的理由，而不论内部团队结构如何。