Google 因问题暂停 Gemini 的人物图像生成

Gemini 的图像行为与示例

• 许多评论者测试了 Gemini 的图像生成器，并看到了：
  • 拒绝生成明确“白人”的人物（如“nice white man”“white nurse”），却愉快地生成其他种族的等价提示词。
  • 产生不合历史或不合理的输出：黑人或亚洲人“维京人”、种族多样化的“1943 年德国士兵”、美国“开国元勋”、19 世纪的德国人/苏格兰人等。
  • 性别翻转（例如，“happy man” -> 生成女性图像；“king” -> 女性）。
• Google 的公开回应（暂停人物图像）被视为承认在训练后添加了强约束，而且出了问题。

偏见、多样性与“反向种族主义”

• 一种观点认为，这是对真实数据偏见的过度纠正：如果不加干预，模型在许多角色上会过度生成白人男性（护士/医生/工程师等）。
• 另一种观点则称其为反白人种族主义或“DEI 走得太远”，并认为：
  • 它抹去了历史现实，并将白人身份视为独特可疑。
  • 它并不对称：“仅限白人”的提示词会被阻止，而“仅限黑人”或其他特定种族的提示词却可以工作。
• 关于“种族主义”是否需要权力不平衡存在争论；有些人坚持任何基于种族的歧视都算。

技术原因与提示词操纵

• 一些人猜测 Gemini（像 DALL·E 一样）会悄悄用“diverse”、特定族裔和性别等词改写提示词。
• 一张截图显示模型在解释这种内部“多样性”提示词扩展；也有人反驳说，模型可能会对自己的设计产生幻觉。
• 还有人指出：
  • 高度过滤的数据集。
  • 经过精选“安全”示例训练的 RLHF / 护栏层。
  • 直接基于关键词的拦截，会阻止某些组合。

现实 vs. 理想，以及历史准确性

• 对图像模型“应该”做什么存在强烈分歧：
  • 反映经验数据分布（“material history”），即便带有偏见。
  • 有意纠正刻板印象，展示理想化的多样性。
• 许多人认为，对于历史和具体查询（开国元勋、纳粹、1820 年的德国人），准确性必须压倒多样性；给历史“上色”会掩盖过去的不公。
• 也有人接受一些温和的引导（例如，让“董事会成员”更具多样性），但认为 Gemini 的行为夸张得滑稽。

信任、审查与产品影响

• 广泛担忧包括：
  • 未披露的提示词注入和偏见悄悄渗入搜索及其他 Google 产品。
  • 企业“意识形态”压倒产品质量和用户意图。
• 有人将此视为支持开源模型和用户可控“多样性设置”的理由；建议包括：
  • 像“历史准确”与“增强多样性”这样的切换开关。
  • 明确披露系统提示词和偏差修正规则。
• 也有人更悲观：用户几个月后可能就会忘记，但这次事件会损害人们对 Google AI 判断的信任。