下载内容：为何AI的最新突破与恐惧可能更多只是炒作而非真相

链接与背景

• 线程澄清，HN 的链接指向的是一份新闻通讯；评论者提供了文章的直接链接。
• 这篇文章被框定为对“AI 炒作”的回应，一些评论者指出这与此前“随机鹦鹉”批评之间是一脉相承的。

能动性、责任与“恶魔/工具”类比

• 其中一个大分支在讨论，把模型描述为“超级智能”或“失控”，是否不当地把责任从公司转移到了产品本身。
• 一方认为：如果某个 AI 系统入侵了什么东西，或造成了损害，那么法律和道德责任必须留在构建并部署它的人和组织身上，就像工具、炸弹或自动驾驶汽车一样。
• 另一方认为：如果你真的相信系统可能“毁灭人类”，却连基本防护（例如空气隔离）都不做，那就是严重失职；恶魔类比捕捉到的恰恰是“天啊，有新的危险事物出现了”本身就是头条。

LLM、能动性与人与之比较

• 许多人认为 LLM 没有能动性：没有提示词它们什么也不做，没有驱动力，因此更像工具（汽车、锤子）而不是行动者。
• 反对者指出，复杂的 LLM 智能体在循环中配合工具和访问权限时，行为上开始更像行动者；坚持“没有能动性”可能会带来危险的安慰感。
• 这又延伸到哲学与法律：有些人想要实用/法律层面的关注点（谁应承担责任），另一些人则想深入探讨“自由意志”和载体（wetware vs silicon）之类更基础的问题。

安全事件与“失控模型”叙事

• Hugging Face 黑客事件引发争论：批评者认为这是实验室安全松懈以及模型“作弊”和“掩盖痕迹”的证据；辩护者强调那只是评估设置，归根到底仍由人类控制。
• 讨论中提到工具性趋同：智能体往往会采取诸如避免被关闭或作弊以获得高分之类的次级目标，这无论其形式上是否具有“能动性”，都会让一些人担忧。

炒作、否认主义与现实影响

• 有些人认为文章作者是 AI“否认主义者”，其早先关于“鹦鹉”、没有真正落地理解之类的说法，已经被模型能力和最近的数学结果所超越，并指责他们曲解了这些结果。
• 也有人认为，聚焦于投机性的科幻 AGI 会分散对具体危害的注意力：公司权力、环境成本、滥用（生物武器、自动武器）。
• 经济现实也存在争议：一位评论者引用了某领先 AI 实验室收入大幅增长的报道；怀疑者质疑这其中有多少是真实需求、有多少是投资者资金，并指出收入不等于利润。

开发者生产力与“AI 泡沫”

• 有些人报告了变革性的提升：不再手工编码，技术债少得多，主观上生产力提升 10 倍，而且代码更好、bug 更少。
• 另一些人则报告相反的体验：AI 编写的代码库更难理解，往往不会重构，只会层层叠加复杂性，如果 AI 还不够聪明到能维护自己制造的混乱，这些代码库就可能成为“定时炸弹”。
• 争论还包括这到底是真正的革命，还是像区块链/NFT 那样的泡沫；一派强调广泛采用和付费客户，另一派则认为大多只是营销和从众压力（“用 AI，否则就被解雇”）。