追踪 Anthropic 发现的漏洞

像 Anthropic 的 Glasswing/Mythos 这样的 AI 系统据称正在开源和专有软件中生成数以万计的漏洞发现,但只有很小一部分被修复或明确被利用,这引发了人们对其影响、优先级排序以及营销炒作的质疑。评论者指出,这些报告中误报和低严重性问题比例很高,而且给已经超负荷的维护者带来了负担;也有人表示,这些工具已经在大型公司内部发现了严重且未公开的漏洞。更广泛的争论在于,前沿模型究竟是在真正提升安全性,还是主要是在用噪音淹没人类团队,以及如何在早期发现与有限的验证和修复能力之间取得平衡。

Glasswing / Mythos 发现的整体影响

  • 许多人认为公开统计数据(约 3.8 万个发现、约 7000 个公开、约 200 个已修复)表明,AI 在 发现 问题方面要好得多,但在推动修复或提升补救能力方面表现远不如前者。
  • 也有人认为这是一个带有偏差的切面:这个“账本”大多是处于协调披露流程中的 OSS,而 Glasswing 的主要用途是针对专有代码,据称修复会在内部分流并应用。
  • 还有几位提到,“在野被利用”这个指标在这里并不是一个好的代理,因为早期发现的目的正是为了抢在被利用之前预防它。

PHP2Shell 和“灾难性利用”预期

  • 围绕 PHP 漏洞展开了长时间争论:有人称其为一个戏剧化但可控的 bug;也有人认为它很严重、被低估了,而且早期一篇持怀疑态度的博客文章报道得很糟糕。
  • “stealmybitcoin” 实验(一个存在漏洞的 PHP 服务器,里面有私钥)在不到一天内就被成功利用,显然使用了一个 AI agent,因此被拿来作为可利用性的证据。
  • 但至今还没有出现可见的、由 PHP 驱动的“大规模灾难”式入侵,相关解释从紧急补丁快速发布到现实世界利用链条的复杂性都有。

质量、误报与维护者负担

  • 多位维护者报告误报率很高,或者出现“技术上成立但实际影响很低”的问题,尤其来自 OSS 扫描器;提到的数字从大约 50% 的误报到只有约 30% 真正重要不等。
  • 也有人报告了相反情况:一批发现里每一个都是真 bug,测试用例非常出色,但补丁仍需要人工打磨。
  • 即使报告准确,AI 产出的内容也常常只是把已知 bug、轻微加固问题,或此前讨论过的问题再次翻出来,从而增加分流负担,却没有相称的安全收益。

修复、补丁与工作流

  • 评论者指出,模型可以生成补丁,而且一些 Anthropic 工具已经在发送建议修复。
  • 维护者往往发现这些补丁质量不高或有风险,并表示审查它们的成本可能和从头写一个修复一样高。
  • 社区广泛担忧,AI 生成的“slop 发现”会淹没本就有限的 OSS 维护者时间,因此更需要更好的可利用性/风险评分与优先级排序。

更广泛的安全格局

  • 多位行业工程师表示,Mythos 级别的模型已经在私有代码库中发现了大量严重问题,而这些问题永远不会获得 CVE 或博客文章。
  • 有些人担心 LLM 会把许多“低严重性”漏洞串联起来形成真实利用;另一些人则强调,人为错误而非稀有的 0-day 仍然是许多入侵事件的主要驱动力。
  • 这篇文章本身被广泛视为与供应商的商业模式(漏洞优先级排序)一致,因此有人把它的负面叙事部分看作是营销驱动的。