Google 首席执行官称 Gemini 完全不可接受,誓言进行结构性调整

Google 的 Gemini AI 因生成种族和历史上不准确的图像而遭到强烈批评,公司首席执行官称这些结果“完全不可接受”,并承诺进行结构性修复。评论者认为,问题与其说源于模型核心质量,不如说源于过度的“公平性”护栏、内部文化,以及缺乏有效的 QA 或异议声音。这一事件被视为更大范围模式的一部分:大科技公司的 AI 系统产品质量下降、意识形态偏见,以及在安全、准确性和用户信任之间取得平衡的困难。

关于 Google 和 Gemini 的整体情绪

  • 许多人认为,鉴于大科技公司围绕“ML 公平性”和风险规避的文化,Gemini 的失败是可以预见的。
  • 一些人认为,这不是一个小 bug,而是深层组织和文化问题的症状;另一些人则认为这只是一次尴尬但可修复的过度纠正。
  • 少数人为 Google 的业绩记录辩护,指出其在搜索、电子邮件、地图、视频等领域的主导地位,并认为 Gemini 性能很强,但调校不当。

护栏、RLHF 和提示重写

  • 评论者认为,核心问题不是模型的原始能力,而是一层层试图“改进”输出的护栏、RLHF 和提示重写。
  • 讨论的例子包括:模型在提示后附加“要多元”之类的指令、使用独立的审核 AI,以及在图像生成前偷偷重写用户查询。
  • 有人将此描述为试图把一种“玫瑰色”或意识形态化的世界模型强加到训练于混乱现实的系统上。

多样性 vs 准确性与用户意图

  • 一派支持默认多样性(例如,不应全是白人男性医生),并认为这合理且通常有益。
  • 另一派认为,超出可信范围的强制多样性(例如,黑人纳粹、女性教皇、非白人的英国君主)是欺骗性的、“后真相”的,或带有宣传性质。
  • 许多人强调,如果用户明确要求特定人口统计特征或历史准确的描绘,系统应当遵从,或明确拒绝,而不是偷偷更改请求。
  • 关于应当以什么为目标存在争论:
    • “与现实世界人口统计比例相符”,
    • “与训练数据比例相符”,或
    • 明确带有偏向的输出,以对抗社会偏见。

Google 文化、DEI 与内部异议

  • 多位评论者声称,大多数普通工程师对 DEI /“反种族主义”努力持怀疑或冷漠态度,但害怕发声。
  • 其他人反驳说,关于“沉默的大多数”的说法只是轶事,并且年轻员工大体上共享当前的道德规范。
  • 一些人把 Gemini 的行为归因于公司内部一个规模不大但权力很强的意识形态群体;另一些人则归咎于结构性的怯懦,以及缺乏有权力的 QA / 伦理团队。

领导层、战略与竞争

  • Sundar Pichai 被批评为一位缺乏远见的“和平时期”管理者,在多个市场上反应迟缓(短视频、视频会议、云游戏、生成式 AI)。
  • 有人呼吁更换领导层;也有人认为 Google 整体上仍然执行良好,而且构建 GPT-4 级模型本身就极其困难。
  • 人们将其与 OpenAI 相比较:几位评论者指出 OpenAI 早期也有“保姆式”管理和政治偏见,但如今已更接近可接受的中立,尤其是在较新的产品中。