Muse 在用户分享对话时会暴露其个人和商业机密

Meta 的 Muse AI 助手因研究人员展示其共享对话链接可通过 DNS 轻易枚举、从而暴露敏感个人和商业数据而受到抨击,尽管 Meta 声称该产品“从零开始就是为了隐私和安全而构建”。评论者认为,这一缺陷反映了 Meta 长期以来对用户隐私漫不经心的态度,同时也在争论这类访问模式在科技公司中有多普遍,以及 GDPR 等法律框架如何改变实践。此次事件也进一步加深了人们对云端“代理型” AI 工具的怀疑,一些人主张,自托管的个人助手才是处理真正敏感数据的唯一可行选择。

Meta、信任与用户预期

  • 许多人认为,考虑到 Meta 长期以来的隐私争议和内部对用户信任的轻慢态度,这起事件并不令人意外。
  • 也有人把批评扩大到“多数科技公司”,认为几乎所有公司都有员工可以访问数据库并广泛共享数据;发帖者则对此提出异议,称许多公司确实认真对待客户数据。
  • 一些人强调,“大家都很糟”这种论点掩盖了 Meta 相较于其他公司在行为上的程度和规模。

技术设计缺陷(DNS 与可猜测链接)

  • 核心问题在于:共享的 Muse 对话使用了独立子域名(例如 topic-hash.cf.metaaiusercontent.com),因此敏感的、可读的人类可见部分进入了 DNS。
  • DNS 查询通常可通过被动日志观察到,因此有可能枚举出成千上万条共享对话。
  • 多位评论者指出,“不可猜测的 URL”问题早已广为人知;Meta 工程师不该现在才学到这一课。
  • 讨论中提到的替代方案包括:把随机/不可猜测的部分放在路径中,而不是主机名里;或者使用不包含语义内容的随机主机名。

用户行为 vs 平台责任

  • 有人认为人们“应该更清楚”,不该信任 Meta 的产品;但也有人指出了暗黑模式、网络效应以及用户认知有限等问题。
  • 网络安全专业人士指出,即便平台做得很好,糟糕的用户习惯也很常见;批评者则反驳说,这并不能为平台把问题变得更糟开脱。

AI 代理、便利性与风险

  • 不少评论批评人们竟然把高度敏感的个人和商业数据输入云端 AI 代理。
  • 也有人对个人代理持积极态度,分享了详细的自动化场景(邮件/收据解析、购物、旅行、Asana 任务处理),这些确实减少了生活中的“琐事”。
  • 人们强烈担忧,面向大众的代理型平台从安全角度看是“一个糟糕的主意”,而且非技术用户无法合理地对它们进行沙箱隔离。
  • 自托管以及欧洲/非美国平台被视为有前景,但构建起来非常复杂;其中一家提供商承认,员工在明确要求时可以检查用户的沙箱,这又引出了更多信任问题。

监管、监控与法律风险

  • 一些评论把这起事件与更广泛的问题联系起来:广告市场中的数据出售、政府监控、在诉讼中被移交的数据,以及美国缺乏强有力的法律保护。
  • 也有人呼吁对软件造成的损害施加更严格的责任,认为“无担保”不应覆盖这类设计失误带来的严重人生影响。