算笔账:我们是如何接管 ChatGPT 账户的

研究人员描述了他们如何利用一个精心构造的链接,通过滥用网页预览行为以及 `postMessage`、iframe 和 JSONP 等老派浏览器原语,接管 ChatGPT 账户。评论者批评 OpenAI 的安全姿态,尤其是对这类账户接管级漏洞只给 $5,000 漏洞赏金,认为这低估了负责任披露的价值,也可能把未来的发现推向灰色市场。讨论进一步延伸到软件复杂度不断增长、可疑的 OAuth 和客户端实现,以及一个讽刺:领先的 AI 公司仍然依赖脆弱、易错的 Web 技术栈,却声称自家的智能体也能把它们保护好。

漏洞严重性与攻击机制

  • 评论者认为这是一个严重的账户接管问题,尤其是结合桌面应用中“Work”会话里的远程文件系统访问等其他能力时更是如此。
  • 有人对这种基本的 Web 安全失误如此大规模地存在感到惊讶,例如未检查的 postMessage、JSONP 误用、OAuth/state 错误、referer 泄露等。
  • 也有人认可这篇文章一步一步串联经典 Web 技巧(iframe、postMessage、JSONP、图片标签)的写法,不过少数人觉得解释让人困惑或不完整。

漏洞赏金金额与激励

  • 对于 P1 级账户接管漏洞只给 $5,000 奖金,很多人认为考虑到 OpenAI 的估值和潜在影响,这简直低得离谱。
  • 一些人认为,过低的赏金会打击负责任披露,可能把未来研究者推向私下出售漏洞或灰色市场。
  • 也有人指出,一些大公司甚至更糟(例如修了漏洞却不给钱),而且公司可能故意把赏金压低,以限制涌入的报告。
  • 讨论还围绕着赏金大小应更多反映严重性还是研究者付出的工作量,以及“能把它修掉”本身是否就已经很有价值。

伦理:披露还是利用

  • 一方坚持出于道德义务应向厂商报告,不管报酬多少或公司多有钱。
  • 另一方则认为,那些极具权力、逐利且自身行为也值得质疑的公司,不值得获得特殊的道德考量。
  • 讨论还涉及出售漏洞的合法性,以及这是否构成犯罪协助;共识是这类行为风险很高,而且取决于具体事实。

LLM、安全测试与软件质量

  • 有人问为什么 OpenAI 自己的“agent swarms”或其他 LLM 没发现这个漏洞;也有人怀疑当前 AI 还无法自主找出这种细腻的问题。
  • 几个人批评 OpenAI 更广泛的工程文化(超大代码库、营销炒作),并呼吁更简单、更安全的设计以及更小的攻击面。
  • 相关讨论还延伸到:代码行数是否真能作为复杂度和漏洞面大小的有意义代理指标。

邮件链接、钓鱼与“别点链接”

  • 这次利用需要用户点击链接,于是有人开玩笑说安全培训最后都归结为“别点链接”。
  • 评论者指出,邮件里的链接扫描“安全”产品会自动访问链接,这让这类建议变得复杂,也偶尔会破坏基于 GET 的确认流程。

元讨论:博客质量与 AI 生成内容

  • 多个人抱怨这篇博客读起来像 LLM 生成的营销文案,更像是写给机器人而不是人看的。
  • 也有人强调自己仍然手写博客,以加深理解并保持人类层面的清晰表达。