然而,它在运动
据称,AI 系统正在促成重大的数学突破,例如黎曼猜想的证明,这引发了人们对何为“人类”成就的复杂反应。评论者一方面为前所未有的问题解决能力感到兴奋,另一方面又担心动力流失、个人创造力被削弱、大规模技能退化,以及在工作中被迫使用 AI。更深层的争论则是:先进 AI 应被严格限制,还是应被视为人类漫长抽象链条上的下一件伟大工具。
真相、感知与抽象
- 有人认为“最好按世界本来的样子看待它”,但也有人指出,人类认知本来就是通过大量过滤和抽象来运作的。
- 编程和形式化方法被比作与 API 打交道:你通常信任那些自己并不完全理解的层层抽象,只有在出问题时才会“打开盒子”。
- 人类的进步被描述为一连串越来越高层的抽象;AI 被看作是又一层这样的抽象。
人们是否被“强迫”使用 AI?
- 一种观点认为,没有人是字面意义上被强迫的;总会有替代方案,尽管报酬或地位更差。
- 另一种观点反驳说,经济压力、职业风险和雇主要求构成了真正的“强迫”,即使没有鞭子或法律。
- 这种分歧部分在于措辞(“被迫” vs “强烈施压”),部分在于对风险与牺牲的不同容忍度。
停止或监管 AI
- 有人提出极端措施:禁止大规模训练、限制 GPU 持有、解散 AI 公司,并让使用 AI 变得带有污名。
- 批评者回应说,这会陷入囚徒困境式的博弈,会对经济造成冲击,而且在政治上不切实际。
- 支持者则反驳说,协调虽难但并非不可能,而且道德论证过去也曾改变过根深蒂固的制度。
AI 辅助发现的功劳该归谁?
- 一派坚持认为,AI 的结果仍然是人类成就,因为是人类构建并引导了这些系统。
- 另一派强调,个人的灵感顿悟与由模型中编码的全球数据形成的“整体”结果之间有质的差别。
- 有些人觉得这种“蜂群思维”式的成就令人振奋;另一些人则认为这削弱了个人发现者的故事性与地位。
人类成就、地位与意义
- 一些评论担心,如果 AI 主导发现,人类创新将变得边缘化,进而削弱驱动历史前进的动力与地位游戏。
- 也有人认为,执着于“特别”才是真正的问题;人生可以在没有智识例外论的情况下仍然有价值。
- 讨论还涉及:AI 是会带来更多闲暇与创造力,还是会带来失业、尊严丧失和更严重的不平等。
工具、劳动与替代
- 对望远镜、拖拉机、叉车和挖掘机的类比,把 AI 描绘成另一种强大的工具。
- 反方观点是:与物理机器不同,机器智能最终可能替代人类认知本身,使大多数劳动在经济上变得多余。
- 有人认为这可能通过福利或投资带来高生活水平;也有人担心“多余”的人会被直接抛弃。
理解 vs 黑箱依赖
- 一个反复出现的担忧是,把科学和数学交给 AI 会侵蚀人类理解,并切断从基础到高阶理论的“链条”。
- 也有人指出,这种理解的碎片化早就开始了;没有任何个人能完整掌握现代技术的整套栈。
- 有些人希望 AI 也能充当解释者和教师,而不仅仅是一个神谕。