AI 现在可以设计出可功能性的病毒了。我们该担心吗？

AI 是否在引入新的生物能力？

• 几位评论者认为，AI 设计病毒并没有从根本上带来全新的能力；有经验的人类早就能够设计或改造病毒。
• 另一些人则反驳说，即便能力并不新，AI 也降低了所需的专业门槛和时间成本，而这本身就会影响风险。
• 对于创造一种真正新颖、且高度致病的病毒在短期内是否现实，还是仍属于“科幻”，各方存在分歧。

从基因组设计到活病毒：真正困难的是什么？

• 讨论中反复强调，设计序列只是最容易的一步；要把它变成具有感染性的病毒，还需要昂贵的设备、高级实验室技能和非平凡的操作流程。
• 有人坚持说并不存在能“邮寄给你一只病毒”的服务；你最多只能订购 DNA/RNA 片段，而组装和表达仍是重大障碍。
• 另一些人回应说，这些障碍正在降低，而对一名合格生物学家来说，“几天的台上实验”并不能构成令人安心的安全缓冲。

DNA 合成服务与防护措施

• 据称商业基因合成公司会筛查订单，有时还会核实机构隶属关系和付款来源。
• 一次被引用的红队演练显示，1918 年流感基因组的经过修改片段仍然可以买到，这表明当前筛查并不完美。
• 争论的焦点还包括：用 AI 自动筛查输入序列是否真的会有实质帮助，因为只要有一个疏忽或失控的实验室，就可能破坏整个体系。

监管、 DNA 打印机与全球执法

• 有人提出应监管 DNA 打印机和合成实验室，并可能借助 AI 对序列进行审查。
• 另一些人指出，在约 200 个国家范围内执行这些措施很困难，而且从结构上看，生物技术比核技术或 EUV 光刻更难控制。
• 一些人认为，未来家用或爱好者级别的 DNA 打印机会最终出现；一旦如此，现有控制措施可能会失效。

合成大流行病的风险

• 有人预测，本世纪至少发生一次 AI 辅助或合成的大流行病的概率很高，可能通过对现有病毒做少量功能增强式改动实现。
• 另一些人则认为，制造多基因、可空气传播且高致死性的病原体仍然极其困难，基本上仍属于真正的国家级行为体的领域。

更广泛的存在性风险与“脆弱世界”框架

• 几条评论将讨论扩展到这样一个趋势：技术让越来越小的群体也能造成大规模伤害。
• 有人引用了进攻—防御不对称和“脆弱世界假说”：如果进攻变得廉价而防御变得困难，社会可能需要更强的监控或更有力的全球治理。
• AI “末日论者”和乐观派之间存在尖锐分歧；一些人把 AI 看作生存性威胁，另一些人则认为这类担忧只是媒体驱动的悲观情绪。