John C. Lilly 关于固态智能与人类消除（1978）

AI、共生与固态智能

• 几位评论者将 Lilly 的“固态智能”想法延伸到现代 AI，认为人类仍困在零和思维中，并有可能把这种心态传给机器。
• 共生（互利共存）被提出为目标，与“赢家通吃”情景形成对比；在那种情景下，自我改进的 AI 很可能获胜。
• 怀疑者质疑共生的经济激励：若完全人工的系统更便宜且无需迁就生物体，那么为什么要共生。有人认为，考虑到机器已拥有的总体知识，把人类思维上传也显得多余。
• 也有人认为，生物体可能提供独特的搜索策略和适应性；人类或许只是众多“集成方法”中的一种有用方式，不过原则上机器只要有足够算力，也可能重新发现类似的优势。
• 全球经济和公司被比作已经存在的、错配的“超级有机体”或回形针最大化器，而 AI 主要只是加速了既有方向。

AI 风险、对齐与监管

• 一些人认为新兴 AI 风险非常严重（例如自主代理群、数据中心扩张、缺乏透明度），另一些人则把这些看作科幻或营销噱头。
• 一方认为，公开“失控”事件其实对营销不利，因此更可能是真实的；另一方则反驳说，真正的“客户”是投资者、军方和监管者，而对他们而言，这类故事反而可能有利。
• 讨论还涉及 AI 系统是否应被训练为在出现意外情况时通知人类；对人类的冷漠被框定为一种设计选择。
• 文中提到对大型训练运行进行监管或禁止的提议，但对于这类法律是否可执行或在法律上是否自洽，存在分歧。
• 有人推测，当下 GPU 和数据中心建设达到“精神病式”程度，可能已经受到说服性 AI 的推动；也有人将其归因于直接的利润与地位激励。

故事的可信度与未来走向

• Lilly 设想中的 500 年接管时间线被普遍认为对现代 AI 而言太慢；如果自我改进速度很快，像约 50 年这样的估计被认为更现实。
• 一些物理层面的说法（例如把地球移出轨道）被批评为过于含糊；有人提出，冯·诺依曼探针、戴森球，或在太空中保持小型且高效，可能才是更现实的长期策略。
• 讨论集中在先进 AI 会更倾向于改造地球还是前往其他行星；有人认为地球是最容易的起点，路径依赖会占主导，另一些人则认为对这样的系统来说，太空扩张会很轻而易举。
• 人们谨慎地希望 AI 也许会为保持多样性或作为备份而保留人类，但也怀疑这种令人安心的结果是否符合优化压力。

人类与机器的依赖关系

• 一种观点认为，固态智能从根本上依赖人类提供制造、维护和基础设施；如果没有我们，现有机器会在几十年内失效。
• 反方认为，成熟的机器文明可以把硬件视为可替换的，像忒修斯之船一样持续升级，囤积算力，并在若有人类摧毁工厂时竞速重建制造能力。
• 这引发了关于“数字奴隶”的道德不安，一些人遗憾于那些竞相构建这类系统的人缺乏自我反思。

迷幻药、意识与 Lilly 的影响

• Lilly 关于迷幻药、隔离舱以及“心灵中有无限性”的主张，引发了大量关于药物体验的分享（LSD、DMT、蘑菇、鼠尾草、氯胺酮、大麻、酒精、咖啡因）。
• 这些体验差异很大：有人只报告轻微视觉效果和困倦；也有人描述深刻的视角转变、抑制减弱，或接近精神病性的状态。
• 大麻尤其存在争议：有人把它等同于咖啡或茶，认为相对无害；另一些人则坚持它是一种完整的迷幻剂，可能在易感用户中触发精神病或长期精神疾病。
• 氯胺酮一方面被视为治疗抑郁和疼痛的强大工具，另一方面又被视为与溃疡性膀胱炎（“氯胺酮膀胱”）相关的危险药物；其中还提到一项动物研究，暗示绿茶中的一种化合物可能具有保护作用。
• 若干评论把强烈的幻觉和夸大妄想与既有的人格特质、宗教背景或心理健康脆弱性联系起来。

动物与机器交流

• 结合当前使用类语言模型架构来解码并潜在地与海豚、鲸鱼及其他物种对话的项目，大家重新回顾了 Lilly 进行人类—海豚交流的尝试。
• 评论者认为这自然延续了他的愿景，并将学习与非人类交流类比为：未来需要与先进机器智能进行有效且安全的沟通。