我们有一年时间来修复各处的安全问题
大型语言模型的进步正在加剧人们的担忧:自动化工具很快就能大规模发现并利用软件漏洞,把当下已经脆弱的安全态势变成更危险的环境。评论者讨论了传统应对方式——打补丁、内存安全语言和形式化验证——是否还能跟上,还是需要更深层的改变,例如基于微内核的系统、更激进的依赖裁剪、空气隔离的关键基础设施以及更严格的监管。许多人也看到了 AI 强大的防御用途,但认为激励机制、治理以及现实世界的复杂性,使防御不太可能像新的自动化攻击那样快速进步,或被同样广泛地部署。
LLM 作为进攻性安全加速器
- 多位评论者表示,当 LLM 被指向生产代码库时,能在几分钟内发现真实漏洞。
- 担心廉价、未审查的本地模型会让“for 循环攻击”变得可行:扫描 CT 日志、山寨币仓库、电商栈等。
- 担心企业软件和设备中那些鲜有人知的“长尾”漏洞会被大规模利用。
- 有人认为这一年的时间线太宽松;也有人指出,几十年来我们一直处在类似“修复安全的最后机会”的状态。
防御用途及其局限
- LLM 可以帮助进行模糊测试、性质测试、代码审查和形式化证明,但防守方会面临组织阻力:审批、测试、厂商补丁。
- 不对称性:攻击者只需要一次成功的利用;防御者则必须持续管理所有风险。
- 有人建议,一旦 LLM 筛掉了容易捡的“低垂果实”,未来的“基线安全”可能会有所改善。
系统、操作系统模型与攻击面
- 有人强烈主张微内核、能力系统、空气隔离、数据二极管,以及尽量减少受信任代码;Linux/Windows 被视为从根本上过于庞大且基于环境权限。
- 也有人强调对现有系统进行务实加固:纵深防御、沙箱、零信任、应用白名单、严格的网络暴露控制。
Web、CMS 与依赖膨胀
- WordPress、电商平台以及插件/模块常被举为脆弱安全性的例子;许多人推荐静态站点或“headless CMS”方案。
- 反对意见是:非技术用户依赖功能丰富的平台;静态/JAMstack 工具和以 Git 为中心的工作流目前还不能满足他们的需求。
语言、硬件缓解措施与 C/C++
- 许多人支持内存安全语言和诸如内存标记之类的硬件特性;另一些人则认为其采用速度实在太慢。
- 反复出现“不要再写新的 C/C++”与“只要小心,C/C++ 也没问题”的争论;C++ 中的 RAII 受到称赞,但语言复杂性和历史遗留陷阱也受到批评。
监管、激励与风险文化
- 经常有人指出:安全漏洞很少带来严重后果,因此企业优化的是审计和打勾式合规,而不是真正的韧性。
- 有人呼吁强制漏洞报告和责任追究,类似金融审计;也有人指出,要检测并报告所有漏洞在实践上很困难。
更广泛的 AI 与社会风险
- 讨论分支延伸到对 AI 赋能的社会工程、生物风险、恐怖主义,以及“大过滤器”/ASI 场景的担忧,但对这些风险的现实性或紧迫性存在强烈分歧。