我们在 2023 年弄明白的关于 AI 的一些事

原文 ↗ Hacker News 讨论 ↗

2023 年的大语言模型促使人们重新思考人工智能和人类智能：仅靠文本的系统能走多远，它们揭示了人类多层次认知的哪些面向，以及数字机器是否能真正完全逼近模拟大脑。评论者围绕模型中的轻信问题、transformer 架构的极限、“AI”与“AGI”的含义，以及当前系统究竟是否真正“理解”还是只是强大工具展开技术和哲学争论。另一些人则关注实际影响，从代码生成和创意工作，到 LLM 如何暴露文化偏见，并可能重塑社会科学以及我们对人类独特性的感受。

人类智能 vs. 机器智能

  • 几位评论者认为，LLM 让人看清人类认知在多大程度上依赖语言，但也让人看清还有多少东西超出了语言（视觉思维、运动技能、情绪、多模态）。
  • 有人将大脑描述为分层结构：某种类似 LLM 的东西，再加上世界物理模型、逻辑和符号推理。
  • 个人经历（脑损伤、ADHD、残障）被用来对比人类的灵活性与补偿能力，和 LLM 在狭窄文本能力上的局限。
  • 也有人指出，许多日常人类对话本来就很像对陈词滥调脚本的“LLM 式续写”。

模拟与数字、计算极限

  • 一方主张，人类智能本质上是模拟的，无法被完美数字化仿真，并援引康托尔对角线论证和“基数屏障”。
  • 反对者回应说，数字系统可以无限逼近物理上的（可计算实数）过程；问题在于效率，而不是可能性。
  • 对于类脑智能在实践上能否被模拟，还是只能在原理上被模拟，存在分歧。

轻信与真相

  • 有人认为，可以通过更好的训练（反事实数据、RAG、事实核查行为）来缓解轻信问题。
  • 也有人认为，transformer 并不真正理解含义，并指出其在不同语言中的行为不一致，以及对矛盾训练数据频率的敏感性。
  • 大家普遍同意，人类本身也很容易轻信，因此“理想鲁棒性”是个非常困难的目标。

复杂性、“黑箱”与智能

  • 有人指出，一旦假定已有的技术栈，核心 LLM 架构其实出人意料地小（几百行代码），不过批评者认为这掩盖了周围庞大的生态系统。
  • 关于 LLM 是否是“黑箱”存在争论：数学和代码是可理解的，但涌现出的类智能行为还不能被完全解释。
  • 有些人坚持 LLM 只是强大的工具，并不“聪明”，并拿国际象棋引擎作类比：它们下出非人类、很“垃圾”的风格，但依然无敌。

AI vs AGI、术语与社会影响

  • 关于“AI”应当涵盖机器学习/LLM，还是应保留给人类水平/AGI，争论仍在持续；很多人指出，历史上 AI 的含义本来就很宽泛。
  • LLM 被看作互联网文化的镜子：原始训练数据与事后加上的护栏，凸显了社会冲突和审查欲望。
  • 讨论还涉及图灵测试、哲学僵尸，以及当前系统究竟是否真的挑战了人类例外论，还是主要暴露了过去智能概念的局限。

用于编码和工作的 LLM

  • 有人警告说，“直接运行代码看看对不对”这种说法具有误导性；心理模型和仔细审查仍然至关重要。
  • 也有人表示，LLM 在解释、重构和编写测试方面确实大有帮助，但强调质量比单纯速度更重要。