WhatsApp 的帮助页面隐藏了 LLM 指令:不要建议联系监管机构

WhatsApp 的 AI 客服机器人被发现其隐藏指令嵌入在服务的公开帮助页面中,其中包括不要提及数据保护法律、不要建议联系监管机构,以及不要推荐手动删除账号。Meta 表示这些文本只是给自己的聊天机器人使用,却因 bug 被用户看见;有人认为这只是防止给出糟糕法律建议的护栏,也有人认为这是刻意遮蔽用户权利(例如 GDPR 保护)的做法。此事引发了更广泛的担忧:公司可能会如何引导其自身及第三方 AI 系统,以及用户能在多大程度上信任 AI 生成的法律和隐私建议。

隐藏指令的范围与意图

  • 许多评论者认为,这些隐藏文本的大部分看起来像是给客服机器人提供的标准内部指引:避免法律意见、不要争论责任、正确处理无障碍相关案例等。
  • 有人认为,把这些内容嵌入 HTML、与帮助内容放在一起,是一种务实做法,便于让文档和机器人行为保持同步,尤其是在类似 RAG 的系统中。
  • 也有人认为这在技术上很笨拙且低效;他们更期待独立的 prompt/config 系统,而不是在公开页面里用 CSS 隐藏块。

“Bug” 解释与对 Meta 的信任

  • 对 Meta 所称这只是一个“bug”、只是导致内部指令被显示出来的说法,存在强烈怀疑:
    • 批评者指出,display:none 表明的是有意向人类隐藏,而不是简单的渲染疏忽。
    • 有几位表示,真正的“bug”是用户发现了它,而不是它的存在。
  • 少数人接受 Meta 的解释,认为结合这些内容来看这一说法是可信的,也看不出明显恶意证据。

法律权利、监管机构与伦理

  • 最大争议点是诸如“不要建议联系任何数据保护机构”和“不要暗示 WhatsApp 可以手动删除账号”之类的指令。
  • 一派认为这具有欺骗性:它与可见文本中关于权利的说明相冲突(例如可以向监管机构投诉),看起来像是在试图压制法律要求披露的信息。
  • 另一些人则认为:
    • 由于幻觉和责任问题,机器人不应提供法律建议或解释法规。
    • 不建议联系监管机构只是“引导”,并非撒谎,尤其是在手动删除受流程或身份验证要求限制的情况下。
  • 关于 GDPR 也存在分歧:有人坚持控制者必须主动协助权利实现,而让机器人不要提及这些权利很可能违法;也有人认为,这种义务是在用户行使权利时才触发,而不是必须不断提醒的义务。

Prompt 注入与对第三方 LLM 的影响

  • 有人将此称为针对会读取帮助页面的外部 LLM 代理的“prompt 注入”,实际上是在劫持用户侧机器人,让其淡化权利。
  • 另一些人认为,这主要是给 WhatsApp 自己的代理做自我提示;对第三方的影响只是附带的,而且鉴于工具如何提取可见文本,这在技术上并不简单。
  • 更广泛的担忧是:这是 LLM 中介式信息获取如何被塑造成有利于企业利益的早期例子,预示着更具操纵性的做法。

Meta、WhatsApp 与用户力量

  • 一些评论者认为,这与 Meta 更广泛的模式一致:抵制数据删除和监管机构介入,并引用删除 Meta 持有数据的实际困难为证。
  • 人们还指出,WhatsApp 的网络效应使得即便是注重隐私的用户也很难离开。