LLM 中的“反转诅咒”是真的吗？

“反转诅咒”的现实性与重要性

• 许多人认为这种“诅咒”——无法从 “A is B” 推出 “B is A”——鉴于下一词元模型的工作方式以及语言本身的非对称性，这并不令人意外。
• 也有人认为，在这类身份式场景（“X 是第九任总理”）中，大多数用户会期待可逆性，因此从产品角度看，这种失败就是一个 bug。
• 还有人说论文的结论有些夸大：这种效应确实存在，但它更像是记忆/表征问题，而不是无法进行逻辑推理。

“is”的语义与自然语言

• 多位评论强调，在自然语言中，“A is B”通常并不意味着 “B is A”（“a bird is an animal” vs “an animal is a bird”）。
• 提到的区分包括：同一性意义上的 “is” 与述谓意义上的 “is”；“A is B” 与 “A is a B”；定冠词与不定冠词。
• 也有人回应说，论文关注的是像 “X is the Y” 这样的明显可逆形式，或唯一角色（母亲/儿子、总理编号）。

训练时行为 vs 上下文内行为

• 普遍共识是：当关系的两端都出现在提示中时，LLM 可以可靠地反转关系；问题出在训练时的泛化。
• 有人将其概括为：“模型能从 A 推出 B，但训练过程不会以对称的方式存储事实。”
• 争论点在于训练究竟只是“愚蠢的优化”，还是某种“聪明”的元学习。

与人类认知的比较

• 有人类比语言学习闪卡、Anki 的单向性、舌尖现象、对电影角色的非对称记忆，以及“force = mass × acceleration”与反向使用公式的差别。
• 有人认为，人类也不会“免费”获得反转，通常要经过显式推理和练习。
• 也有人反驳说，对于许多简单事实关系，人类的鲁棒性要强得多，几乎不受顺序影响。

提示词、数据与微调

• 多位评论者强调，训练集中代表性不足的事实、含糊的提示词，以及规模较小或设计不佳的微调集，会放大这种效应。
• 示例表明，措辞（“is” vs “was”、“eighth” vs “ninth”）以及额外上下文，都可能把答案从错误变成正确。
• 有人担心，这会让微调模型在事实检索上变得脆弱，即使基础模型在丰富上下文中能够处理反转。

计数、编号与德国总理案例

• 一个很长的分支讨论了关于“德国第八/第九任联邦总理”的错误回答。
• 争议点在于，是否应将“代理”任职者算作一任；有人说模型显然错了，也有人认为这种歧义解释了它的选择。
• 更广泛地说，LLM 在位置/序数问题上的困难（例如“列表中的第五个词”）也被视为相关弱点。

机制与架构层面的解释

• 一条讨论线索引用了研究，认为前馈层像键值存储：主语词元提供键，值存储事实，注意力与关系短语负责检索。
• 在这种观点下，反转并不是免费的：“B is A” 需要自己独立的键值映射，因此非对称存储是可以预期的。
• 有人推测双向模型（例如 BERT 风格）可能表现更好，但线程中对此并不明确。

更广泛的含义与怀疑

• 持怀疑态度的人说，反转问题强化了这样一种看法：LLM 并不“理解”或进行一般性的逻辑推导，只是在做统计模式补全。
• 也有人认为，LLM 确实在上下文中近似推理，但训练并没有利用这种能力去强制对称泛化。
• 还有人对从专有、不断变化的模型中得出强科学结论感到不满；他们呼吁更多开放、机制层面的研究。
• 有些人最终认为，这种效应更多只是一个需要记住的细微点，而不是毁灭性的否定；另一些人则把它视为更深层限制的象征。