Greg Kroah-Hartman – 大语言模型时代的安全 [视频]

关于内核漏洞的 Mythos 结果

• 演讲重点分析了 79 个被报告为“漏洞”的条目：其中许多没有可用细节，有些根本不是漏洞，还有一些使用了虚构数据，而大约 15 个已经被修复。
• 大约 20 个需要对代码做出任何修改，只有大约 10 个被认为是有现实影响的“真正”漏洞；其中几个依赖于非常牵强的攻击场景。
• Mythos 自己也把它发现的一些问题统计错了，这进一步强化了人们对 LLM 连计数这类基础任务都很脆弱的印象。
• 一些评论者指出，Mythos 确实在其他地方找到了严重漏洞（例如 NFS、BSD/OpenBSD 协议栈），所以它并非毫无用处，但在 Linux 上并没有出现“铁证”。

噪音、误报与 CVE

• 维护者表示，自动化和基于 LLM 的安全报告大多充斥着冗长、过度自信的误报，而这些误报的筛查成本很高。
• 内核实践是对几乎每个漏洞修复都分配 CVE，这解释了 CVE 数量很高；Mythos 发现的问题都获得了 CVE，但大多影响很低。
• LLM 工具大约 50% 的误报率与旧式静态分析器大约 20% 的误报率形成对比，而后者已经很难获得广泛采用。
• 一个关键的不对称在于：漏洞报告如今几乎可以零成本生成，但专家核实的成本并没有改变。

LLM 作为工具：能力与局限

• 许多人将当前前沿模型描述为强大的模式匹配器：擅长发现重复出现的代码模式，但在真实世界上下文和威胁建模方面很弱。
• 类比从“过度自信的实习生”到“速度很快的前百分位研究生”不等，但也有人认为这其实是在抬高 LLM；实习生会学习并承担责任，而模型不会。
• 也有人反驳说，“模式匹配”其实也是人类在做的事，如果机器能发现人类遗漏的缺陷，那无论哲学地位如何都很有价值。

炒作、媒体与信任

• Mythos 被普遍认为炒作过头：它被宣传成危险强大、访问严格受控的系统，但在 Linux 中产出的多数却是琐碎问题或已经修复的问题。
• 评论者把这与更广泛的 AI 公关联系起来（例如“太危险不能发布”“有自我意识”的模型、去见教皇等说法），以及记者对厂商叙事的未加批判的放大。
• 反复出现的“再过六个月这次就惊人了”循环导致越来越多的怀疑，即使是那些觉得 LLM 在实践中有用的用户也不例外。

安全影响与威胁模型

• 有人认为，即便只有一个真实漏洞，再加上能够串联利用链的代理，也已经值得担忧；LLM 还缩短了从漏洞到可用利用代码的时间。
• 也有人强调，发现的内核漏洞大多并不关键，且较为小众（例如恶意文件系统镜像、特殊网络场景）。
• 关于未来“自主、自我复制的 AI 蠕虫”存在争论：有人认为一旦本地可运行的模型足够强大，这就很可能发生；也有人指出当前硬件和部署条件会限制其实现。

法律与流程方面的担忧

• 有人引用的一个说法是：常见训练语料中只有少数可以明确合法使用，其余都处在灰色地带。
• 这让人担心将 LLM 生成的补丁纳入内核等项目时，如果输出与受版权保护的训练数据相似，会带来风险。
• Developer Certificate of Origin 等现有机制被认为是必要的，但无法完全解决新的风险；对待决法院判决的结果，人们认为仍不确定。

实际使用模式与建议

• 几位评论者建议：
  • 严格把 LLM 当作辅助工具，而不是自主开发者。
  • “别看评论，去看代码”——生成的解释常常是错的；真正重要的是代码本身。
  • 绝不要把非公开或敏感数据上传到 SaaS 模型；尽可能在本地运行开源权重模型。
  • 预期 LLM 的使用会给技术协作带来压力，因为一些贡献者现在会把“我的模型是这么说的”置于人工审查之上。