请忽略关于 Q* 的这一大堆完全胡说八道
关于据称是 OpenAI 突破的 “Q*” 传闻，引发了人们对“AGI 即将到来”这类耸动说法的怀疑。许多人指出，没有可信的技术细节被公开，而且社交媒体正在放大来自非专家的炒作。评论者把对当前大语言模型的谨慎、渐进式看法，与极端的“AI 末日论”以及不加批判的乐观主义并置讨论，争论在实验室探索超越简单下一个 token 预测、转向规划的新架构时，应当承担多少风险、监管力度应多大，以及开放性应到什么程度。有些人认为这不过是围绕 OpenAI 近期治理危机的公关炒作；另一些人则认为，这提醒公众：从泄密和传闻中，几乎无法可靠推断前沿 AI 研究的真实情况。
关于 Q* 传闻与猜测的总体看法
- 许多评论者认为，Q* 的报道大多是炒作和误导，尤其是来自非专家和“从加密货币圈转型成 AGI 专家的人”。
- 几位评论指出，几乎没有公开的技术细节，所以关于其能力的大多数说法，最多也只能算传闻层面。
- 有些人把 Q* 看作又一个病毒式传播的 AI 误信息案例（类似过去对 GPT‑4 参数的谣言以及 LK‑99 超导热潮）。
- 也有人问“胡说八道”具体指什么（帖子里并没有清楚列出具体说法/主题）。
对“忽略胡说八道”这句话的反应
- 一些人欢迎“忽略炒作”的呼吁，并赞赏把重点放在长期研究主题上（规划、强化学习、世界模型）。
- 也有人批评发言者可预期、爱自我宣传，或者对自己过去误判 LLM 的问题缺乏谦逊。
- 对这些评论是否真的提供了新信息，存在分歧：有人觉得这都是常识，也有人认为它们空泛且缺乏严谨性。
AI 安全、“末日论者”和举证责任
- 一个主要讨论线程在争论：面对未知因素，默认立场应是“继续推进”还是“放慢/停止”。
- 一方认为：技术史表明总体收益更大；悲观者需要承担举证责任。
- 另一方认为：当潜在危害极其严重时，举证责任会转移；未知因素 + 高风险足以证明谨慎或暂停的正当性。
- 对大型模型是否已经构成严重风险也有分歧（自主性、能动性、欺骗），还是它们仍只是放大人类意图的工具。
- 有人认为开放式 AI 更安全（许多“好系统”会对冲“坏系统”）；也有人把这种逻辑类比为核武器/生物武器扩散的担忧。
开放 vs 封闭、规模与竞争
- 一些人捍卫开放模型和算法，并类比开放密码学；批评者则回应说 AI 可能更接近双用途武器。
- 讨论还涉及，受算力和基础设施限制，是否只有少数组织（OpenAI、大型科技公司）才现实上能运行下一代模型。
规划 vs 自回归预测
- 有人关注这样一种说法：前沿关键在于，用规划取代纯粹的下一个 token 预测。
- 评论者分享了关于“LLM 规划”和基于强化学习的解码的论文列表，并指出这条研究路线早于 Q*。
- 从帖子里并不清楚，除了把已知想法规模化之外，Q* 还有什么真正的新东西。