AI 安全大多是个性邪教

关于 AI 安全和理性主义/有效利他主义圈子某些部分是否像“性邪教”的说法,引发了人们对这到底是有意义的批评还是纯粹猎奇式人身攻击的争论。评论者争论:这些群体的多元恋、封闭社交动态,以及据称具有邪教特征的行为(有魅力的领袖、末日信念、集体生活)在评估他们对 AI 政策和灾难风险叙事的影响时应占多大比重。另一些人则认为,关注私生活会分散注意力,使人忽视更实质的问题,例如大型 AI 实验室的监管俘获,以及存在主义风险论证本身的真实力度。

对“性邪教”框架的总体反应

  • 很多人觉得这篇文章带有猎奇和人身攻击色彩,重点放在多元恋、性癖和群交上,而不是关于 AI 的论点。
  • 也有人认为“性邪教”这个框架确实相关,因为性、住房、金钱和共享意识形态把湾区一个规模不大但影响力很强的 AI 安全/理性主义群体紧密绑定在一起。
  • 几位评论者认为“邪教”一词被滥用了;有些人会区分怪异、强烈的亚文化与高控制、强制性的群体。

是邪教,还是只是个怪社区?

  • 被提到的特征包括:集体居住、“调试”式/高强度心理实践、末日式世界观、专门术语、有魅力的领袖、分裂,以及密集的恋爱/性关系。
  • 批评者说这些都是典型的邪教标志,而且会影响信任与治理,尤其是在同一批人塑造 AI 政策时。
  • 辩护者和内部人士则说,这感觉就像一个普通的知识社群,只是性是可选项;有人说自己拒绝了群交邀请也没有任何社交惩罚,并质疑“邪教”标签的实用性。

性、道德与癖好

  • 对文章和讨论串是否构成荡妇羞辱存在强烈分歧。
  • 一些人认为随意性行为、群交以及“双方同意的非同意”都是正常的成人差异;关键在于同意与合法性。
  • 另一些人认为放纵和极端癖好在精神或心理上有害,或者本质上就是“堕落”;也有人批评这种说法过于道德主义,缺乏证据。
  • 讨论还涉及某些幻想到底有多常见,以及拥有这些幻想是否就算一种“癖好”。

AI 安全论点 vs. 支持者的行为

  • 多位评论者敦促把生活方式与 AI 风险论证的有效性分开来看,称这篇帖子主要是人身攻击。
  • 也有人说激励机制和社会纽带很重要:如果职业、资助和性生活都依赖于“p(doom) 很高”,那么这些预测和政策主张(例如“暂停”、“放慢速度”、反垄断豁免)就值得额外审视。
  • 有些人坚持认为前沿实验室的领导层和一致立场的智库构成了一个高度关联的网络,正走向监管俘获;另一些人则认为文章夸大了他们的权力和凝聚力。

比较、背景与更广泛的批评

  • 讨论将其与新无神论以及更早尝试建立“世俗宗教”的努力相比较,并声称理性主义/有效利他主义圈子的部分内容演变成了一种千禧年式、自我陶醉的亚文化。
  • 几位评论者指出,精英政治和商业领域本来就充斥着性丑闻和“怪异”亚文化;单独点名这一群体,可能更多反映的是对非规范性性行为的不适,而不是真实风险。
  • 一些读者觉得文章有趣但结构混乱,认为它关于 AI 通过安全话语被卡特尔化的实质性政策批评,几段话就能讲完,根本不需要这些性细节。