对 Web 和移动端对话式 AI 代理的隐私分析 [pdf]
研究人员发现，流行的网页和移动端 AI 聊天服务会通过第三方跟踪器泄露或共享敏感对话数据，包括通过公开可访问的 URL、截图以及与用户标识符绑定的自动生成标题暴露完整聊天记录。评论者争论这是无能还是有意为之的广告技术商业模式，但普遍认同这会带来严重的隐私与监管风险，尤其是在 GDPR 等框架下。许多人认为这进一步说明云端 AI 工具不应被信任处理私人信息，并主张使用本地或开源模型作为更安全的替代方案。
数据暴露机制
- 多家提供商通过未经身份验证的“分享”永久链接公开整个对话；任何拿到该 URL 的人（包括跟踪器和爬虫）都能读取完整聊天内容。
- 发送到社交应用的聊天截图（例如在分享流程中）可能会把可见的对话内容泄露给这些应用。
- 由对话生成的产物（标题、提示词、摘要）会与持久标识符或 cookie 关联，从而实现归因和高度敏感的画像（例如推断薪资、位置、房贷）。
- 一些 Web 界面会在用户输入时向服务器发送部分/未完成的提示词；其目的不明（缓存、行为跟踪，还是机器人检测）。
安全模型与实现方面的担忧
- 对“通过安全性模糊化”的做法批评很重：较长的 UUID URL 被当作私密内容，尽管它们最终会出现在浏览器历史记录、剪贴板、预览、插件和 URL 缩短服务中。
- 移动端和 Web 应用通过 CSP 嵌入常见广告/分析跟踪器（Google、TikTok、Meta 等），让第三方能够看到由提示词派生的元数据。
- 聊天界面被描述为“雷区”，一次误点就可能把数据分享出去或用于训练。
泄露 vs. 出售 vs. 无能
- 有些人把这视为故意出售/分享数据，而不是“泄露”，指出条款允许第三方访问。
- 另一些人认为，大部分问题是仓促推出、“vibecoded”的无能和配置错误的跟踪，而不是复杂的变现策略。
- 反驳观点：在这种规模下，“无能”同样需要承担全部责任；高级无能与恶意可能难以区分。
法律与监管角度
- 多条评论认为，欧盟 GDPR 可能使其中一些做法违法。
- 在美国，人们预计它在技术上会是“合法”的，但在伦理上有问题。
商业模式与激励
- 讨论 AI 公司是否会像大型社交平台一样把数据留给自己用于广告定向，还是把价值交给外部广告网络。
- 一些人认为，一旦广告进入聊天产品，这几乎不可避免；另一些人指出，公司仍在大量烧钱，可能会为了短期收入而拿隐私交换。
用户反应与缓解方式
- 许多人表示并不意外且深度不信任：默认任何云端 AI 聊天都会被记录并变现。
- 建议包括：
- 尽可能使用本地/开放权重模型。
- 通过第三方客户端或自托管 UI 以 API 方式访问前沿模型，以避免 Web/移动端跟踪（但也要注意 API 行为是黑箱）。
- 避免分享链接和截图；谨慎处理权限和营销 cookie。
- 有些人提出对抗性做法，比如用虚假、相互矛盾的聊天历史“投喂”账户，不过这可能触发平台处罚。
更广泛的社会担忧
- 担心 AI 聊天数据会比旧式广告技术建立更深层的行为和心理画像。
- 担忧这种画像可能被用于现实世界的监控和控制，而不仅仅是广告。