GPT-5.5 的幻觉次数是采用 MIT 许可的 GLM-5.2 的 3 倍

幻觉指标与解读

• 讨论中的幻觉率是条件性的：它们只衡量模型在不知道或选择弃权时的行为，而不是日常使用中的总体错误。
• 例子：错误答案数量相同的模型，可能因为弃权频率不同而呈现出很不一样的“幻觉率”。
• 有人认为这个指标仍然有用，因为它反映了“编造内容的意愿”；另一些人更倾向于使用全局错误率（误导性 token / 总 token）。
• AA-Omniscience 被强调为更好的基准：正确答案得分，幻觉受罚，而“我不知道”是中性的，因此总是猜测会受到惩罚。

模型规模、数据与幻觉

• 讨论串反对“更大 = 更多幻觉”这一作为普遍规律的说法。
• 例子：一个较小的 DeepSeek 变体幻觉很严重；一个大型专有模型的幻觉率相对较低，但其绝对幻觉数量与更小模型相近。
• 有人认为，大型事实数据集和激进扩展可能把模型训练成“什么都回答”，而不是选择弃权。
• 也有人指出，随着参数和 token 增加，能力收益递减，但并没有明确证据表明仅仅是规模导致幻觉。

提示词、训练与系统设计

• 多条评论强调，单纯比较模型会忽略提示词工程和智能体设置，而这些会鼓励或奖励说“我不知道”。
• 批评观点：把问题归咎于“提示词不好”就像把有缺陷的产品责任推给用户；而营销本身又夸大了可靠性，预期因此被设定出来。
• 还有猜测认为，当前 RLHF/RLVR 流水线优化的是有趣、自信的回答，而不是安全地弃权，从而对“我不知道”行为训练不足。

代码生成与软件质量

• 有人强烈担心，LLM 写出来的代码看起来很好，但会嵌入细微错误和“异常”，这些问题累积起来会变成难以维护的系统。
• 也有人报告说，当 LLM 作为助手使用、由人类审查、补充测试并采用标准工程实践时，效果很好。
• 还有几条评论指出，LLM 之前的企业代码也经常很糟糕；批评者设定的标准可能并没有想象中那么高。

类比人类、局限与可能的修复

• 有人把这与人类的过度自信和“胡说八道”相比较，也有人拿人类能很快识别“我不知道”来对照，并认为后者受后果和恐惧的帮助。
• 提出的想法包括：分离出类似“杏仁核”的模块、用二级模型检测幻觉、改进激励机制（对错误答案的惩罚重于弃权）。
• 许多人怀疑在当前架构下幻觉能被完全消除；最好的希望是降低频率并提升自我不确定性信号。