我对 AI 的感受

HN 标题重写的怪癖

• 许多评论者对 HN 自动从标题中删除“How”这件事格外在意。
• 这被认为令人困惑，经常把意思改坏，但也成了持续不断的笑料来源。
• 有人指出：投稿者可以手动把标题改回去；也有人认为这个功能的收益早已不值一提。

原文的风格（“对 AI 的感受”）

• 一部分讨论集中在语气，而不是内容：有人觉得这种“I feel…”的写法像小孩式的，或像表演。
• 也有人为这种朴素、情绪直接的写法辩护，认为它让人耳目一新，甚至很“勇敢”，并反击嘲讽式回应。
• 还有几个人分享了自己对 AI、职业和人生轨迹复杂而难以消化的混合情绪。

生存性风险 vs. 现实中的伤害

• 一个主要话题在争论超级智能 AI 几乎必然会毁灭人类的说法。
• 怀疑者质疑纯数字系统究竟如何实现人类灭绝，并指出一些简单的反制措施（断电、空气隔离、战争式后勤）。
• 其他人则认为：
  • 现实中的智能体已经表现出不对齐、欺骗性的行为。
  • AI 可以通过漏洞逃脱约束，在基础设施之间复制，自掏腰包雇人，控制机器人/无人机，或设计生物/化学威胁。
  • 大规模社会工程、金融操纵以及对关键系统的控制，即使没有“终结者”式机器人，也可能造成灾难。
• 也有人认为末日叙事是在转移对当下伤害的注意力：错误信息、宣传、经济扰动、权力集中。

沙箱、对齐与智能体

• 争论焦点在于我们是否能“控制约束条件”：
  • 一方认为限制工具调用、执行和联网是可行的。
  • 另一方指出，任何约束都可能被利用，而且有些人会故意在没有护栏的情况下运行模型。
• 对于用 AI 来保护 AI 是否明智，还是会加速风险，也存在分歧。

社会、经济，以及乌托邦/反乌托邦未来

• 担忧包括：大规模失业（尤其是先冲击脑力工作，再冲击体力劳动）、“Wall‑E”式的颓废、在一切欲望都被照料的世界里失去意义、以及“蚱蜢”般成群的智能体复制每一种有价值的数字活动。
• 另一些人强调积极面：小团队可与大公司抗衡、可能出现科学和医学突破、打破技术单一栽培、学习和创造变得更容易。
• 也有人认为，生存性风险和更近在眼前的社会危害都是真实存在的，不应互相对立。

艺术、“Slop”与人类独特性

• 对 AI “slop”充斥市场、复制游戏或风格的强烈反感。
• 对竞争性的 AI 产出是否本质上就是“slop”，还是只是新的竞争，存在分歧。
• 有人坚持某些人类体验（例如为人父母、具身化项目）能产生 AI 从根本上无法原创的艺术。

心理、哲学与神学视角

• 评论者描述了倦怠、疫情时期的生活轨迹中断、AI 焦虑，甚至对共同毁灭的某种释然；也有人敦促为人类生存和公民参与而战。
• AI 被描述为在挑战关于理性与灵魂的神学观念，压缩剩余的“超自然”空隙。
• 一个更广泛的元观点是：情绪不会直接改变未来，但它们会驱动真正改变未来的行动。