大家都失去理智了
对 AI——尤其是编码助手和“代理式”工具——的日益依赖,让许多工程师感到自己被去技能化、与自己的技艺疏离,并被迫充当他们已不再完全理解的黑箱系统的监督者。评论者将这些生产力收益与更广泛的社会和环境成本进行权衡,从集中的企业权力、数据中心能耗,到社区、技能与信任的侵蚀,并将其与 COVID 封锁等过去的过度反应相类比。虽然有些人把 AI 视为强大的新工具或不可避免的进步,但另一些人认为,它当前的轨迹正在削弱人的能动性和专业知识,而不是增强它们。
社会周期、媒体与“集体失常”
- 有几个人看到大约每 10 年左右就会出现一波集体过度反应:反恐战争、全球金融危机、加密货币、COVID,现在是 AI,而且这些周期似乎还在缩短。
- 也有人认为,这些并不是自发的“恐慌”,而主要是由机构(宗教、报纸,如今是社交媒体)制造出来的,用来让人们保持被动。
COVID 应对与社会损害
- 讨论的一大分支是封锁是否有必要,还是“过头了”,尤其是在澳大利亚。
- 批评者:限制范围过大,对孩子教育造成长期伤害,摧毁了聚会和社区生活,加剧了孤立,而且一些政策武断或时机不当。
- 支持者:早期不确定性、意大利医院超负荷,以及其他地方的高死亡人数,证明了强硬措施是合理的;如果没有这些措施,死亡人数会高得多。
- 据说一些年轻人怨恨的并不是封锁本身,而是封锁实施得太晚、前后不一、并且一次又一次被削弱。
- 还有人担心 COVID 成了“科技法西斯”紧急治理的彩排;但也有人认为,这恰恰是为未来大流行做的有用彩排。
AI 能力、编码与工作流
- 很多人报告生产力大幅提升:LLM 能发现严重 bug、编写非平凡系统、快速实现集成,并充当强大的学习工具。
- 也有人觉得代理式工作流令人筋疲力尽:需要大量引导、审查不一致的输出、清理“快速垃圾”,感觉自己更像管理者或清洁工,而不是工程师。
- 观点分裂明显:一派把编程视为一种技艺(如今正被破坏并去技能化),另一派把代码看作达成目标的手段,并为杠杆效应感到兴奋。
- 担忧包括技能退化、失去深层理解,以及被迫在更少思考时间里产出更多成果。
去技能化、个人影响与社会影响
- 支持 AI 的评论常强调个人收益(“它对我有什么用”),而批评者认为这忽视了更广泛的社会、经济和伦理成本。
- 有人拿烟草和电视作类比:工具看起来有帮助,却会悄悄损害健康或认知;少数人也许会把它们用于真正的学习,但大多数人不会。
- 一些人预见智力会变成廉价商品,社会会越来越依赖“因为 Claude/ChatGPT 这么说”,从而掏空专业知识。
环境与资源争议
- 关于数据中心用水和环境影响,争论非常激烈。
- 一方认为:AI 的用水量与农业相比微不足道(例如杏仁、 高尔夫球场),而且可以转向海水冷却;他们把用水抱怨视为错误信息。
- 另一方认为:局部影响是真实存在的(例如某个数据中心导致硝酸盐浓度上升、柴油发电、噪音、选址靠近社区);即使在气候危机中,哪怕只是很小的百分比也很重要。
安全与漏洞研究
- 有人认为前沿模型会彻底改变漏洞研究,自动化找 bug 和构建工具。
- 也有人质疑:发现更多漏洞真的会提升整体安全性吗,还是更应该解决基础问题(资产清单、自动补丁、更好的操作系统设计)?
开发者分化与职业焦虑
- 被指出的一个趋势是:开发者越来越分成两派——热情拥抱 AI 的人,以及怀疑或士气低落的人。
- 有些人觉得自己被迫采用他们不喜欢的重 AI 工作流,只是为了保持就业能力;另一些人则考虑转向手艺活或更偏物理的、较不易被自动化的领域。