AI 系统自组织以发展复杂生物大脑的特征

模型的性质与意义

• 一些评论者强调，这是一种关于神经元和网络结构的模型，而非关于“智能”本身的模型。
• 核心设置据说是在循环神经网络中加入空间距离和连线成本惩罚；在这些约束下，会涌现出类似枢纽的结构和多路复用式表征。
• 有人认为这几乎是平凡的或早已为人所知：如果最小化布线成本，枢纽就会出现。也有人反驳说，这篇论文严谨、设计良好，而且特别对神经科学而不仅仅是 AI 有价值。
• 讨论还涉及：这类类脑约束究竟会提升性能，还是只是生物学上的产物，而人工系统并不需要照搬。

“扮演上帝”与生存风险

• 一条很长的讨论分支在争论，这类进展是否让我们更接近“扮演上帝”——一些人将其定义为创造出不可控、会扩张、并造成不可逆大规模伤害的技术。
• 几位评论者认为，人类几千年来一直在“扮演上帝”（农业、化石燃料、气候变化、金钱、财产），这本就是文明和科学的一部分。
• 也有人警告，我们的认知局限和历史上的意外后果，使得继续推进 AGI 尤其危险，并援引核军备竞赛的动态以及先行者的非对称力量。
• 还有人担心全球协调很薄弱：即使大多数参与者都执行安全措施，少数人也可能抢先冲刺；讨论中还提到了相互确保毁灭以及工程化病原体的类比。
• 有人建议用多个相互竞争的 AI 来形成制衡；也有人认为，自我改进会让“先发者”主导地位和快速失控变得有可能。

技术、生活质量与死亡

• 一条强烈的反技术观点认为，现代技术（AI、智能手机、化石燃料、工业化食品）尽管物质更丰富，却降低了人类福祉；理想生活是更简单、与自然相连的生活。
• 反对者则指出，现代舒适、医疗保健和生存率都依赖高科技和石化产品。
• 讨论还争执过去的人是否更快乐；反驳意见指出历史记录存在选择偏差，而且疾病和早逝十分普遍。
• 另一个子线程在讨论治愈所有疾病：批评者担心过度人口和“不人性化”的永生；而其他人则认为，接受本可避免的痛苦在道德上令人厌恶。

神经架构与生物大脑

• 几位评论指出，现代 ANN 大多是前馈式且是二维的，而大脑是三维的、循环的、持续活动的，并且高度依赖反馈。
• 循环网络、注意力机制、脉冲网络和空间约束被提及为向生物真实性迈出的部分步骤，但它们通常比标准的、基于反向传播的分层模型更难训练，也不那么实用。
• 有人认为，类人智能可能需要类脑约束（空间性、时延、具身性、多模态输入）；也有人认为这些约束对有用的机器智能并非必要，主要与大脑建模相关。

数学与结构侧记

• 讨论涉及类似网格细胞的表征、多路复用编码，以及傅里叶变换和其他基变换的类比，在这些变换中每个单元都编码整体结构。
• 还简短提到了用于可解释性的距离正则化网络，以及图和信号处理中的其他变换（例如基于切比雪夫的方法）。