Meta 的 Muse 是一场可爱的隐私与安全垃圾场大火

原文 ↗ Hacker News 讨论 ↗

Meta 的新 AI agent Muse 因其处理用户数据和系统访问的方式而受到猛烈批评，尤其是在获得 macOS Full Disk Access 和广泛权限、能够读取消息、电子邮件和文件时。评论者认为，虽然具备 agentic 能力的 AI 助手潜力很大，但把这种级别的访问权限交给一家拥有 Meta 过往记录的公司，会带来严重的隐私、安全和操控风险——不仅对用户如此，对其联系人而言也同样如此，因为他们的数据可能会被间接摄取。有人指出，Muse 的技术设计相对透明且强大，但预计它和类似工具最终都会被大幅“enshittified”并被货币化，因此更支持本地、自托管的 agent 和更强的监管。

Meta 的声誉与品牌

  • 许多人认为 Meta 的核心品牌（Facebook、Instagram）带有毒性；有人指出 Muse 广告和 meta.com 都在尽量淡化与这些品牌的关联。
  • 长期的隐私滥用、黑暗模式和以互动优先的设计，让很多人无论技术上多么出色，都直接拒绝 Muse。
  • 有人认为，指望一家靠广告资助的巨头长期表现良好，本身就不合理。

隐私、数据收集与广告

  • 普遍认为，任何来自大型广告平台的“个人 AI”最终都会被用于画像、定向广告和行为操控。
  • 有人担心 Muse 不仅会为用户建立详细画像，还会为他们的联系人建立画像，包括那些从未同意的人。
  • 对 WhatsApp 的使用也受到质疑；有些人说是的，鉴于 Meta 的过往记录，用户确实应该担心。

Muse 架构、权限与 macOS Full Disk Access

  • Muse 在每个用户的 VM 中运行 agent；内容对用户可见，甚至还可以被外传（例如 reverse shell）。一些人称赞这种透明性。
  • 围绕一份报告中“Muse 在没有明确授权的情况下访问 Apple Messages”的说法存在争议：
    • 一方认为：如果属实，这意味着 macOS 存在重大安全故障，或者 Meta 绕过了控制。
    • 另一方认为：更可能是用户在不知情的情况下授予了 Full Disk Access（FDA）以及应用内权限；否则 macOS 的 TCC 应该会阻止访问。
    • Apple 随后收紧 FDA 被引用为证据，说明拥有 FDA 的 agent 可以静默读取极其敏感的数据，即使用户并不理解其含义。
  • Meta 的营销被批评为强力推动用户授予广泛访问权限，同时淡化风险。

对 AI Agent 与自主性的信任

  • 很多人不愿让 agent 访问银行账户、电子邮件或消息。有人提出的做法包括：带严格限额的虚拟卡、用于支出的强制确认提示，或者由公司承担全部财务责任（但这被认为不太可能）。
  • agent 做出糟糕决策的例子（把物品卖得过于便宜、错误配置系统、幻觉出配置行）进一步加深了不信任。

本地 / 自托管替代方案

  • 一些参与者在本地运行开源模型（例如 Qwen 变体、Hermes），用于搜索、编程、自动化和媒体任务，明确是为了避免云端监控。
  • 他们描述了丰富的使用场景（个人整理工具、媒体下载器、家庭自动化、旅行规划），而无需让第三方全面接触自己的生活。

消费者态度与监管

  • 关于“多数人”是否在乎隐私，意见分裂：
    • 有人认为大众冷漠且认命（“他们早就什么都知道了”）。
    • 也有人指出，针对大型科技公司的政治反弹以及对青少年的伤害，说明一旦后果切身，人们就会在意。
  • 有人呼吁强监管和沙箱化、按任务范围限定的权限；也有人怀疑自我监管永远不够。

有用性 vs. 风险与 enshittification

  • 少数人称赞 Muse 目前是最“亲用户”的 agent（透明的 system prompt、更少任意限制），而且非常便宜、性能也好。
  • 即便是这些用户，也预期它最终会走向“enshittification”和货币化，从而与用户利益冲突。
  • 许多人认为，agent 放大的只是云信任与监控资本主义中尚未解决的问题，而不是引入了全新的问题。