¿Puede la IA diseñar ahora virus funcionales? ¿Deberíamos preocuparnos?
Los sistemas de IA ya son capaces de diseñar genomas virales novedosos, lo que plantea dudas sobre si esto aumenta de forma significativa el riesgo de pandemias diseñadas. Muchos comentaristas sostienen que los cuellos de botella reales siguen siendo la experiencia en laboratorio húmedo, el equipo y los controles de síntesis de ADN, por lo que la IA aún no ha introducido capacidades biológicas bélicas fundamentalmente nuevas, aunque sí puede acelerar el desarrollo de vacunas y terapias. Otros se preocupan más por la trayectoria a largo plazo: a medida que la impresión de ADN y el conocimiento biológico se abaraten y se generalicen, incluso pequeños grupos o individuos podrían ganar el poder de causar daños a gran escala, lo que haría cada vez más críticas la gobernanza, las salvaguardas de laboratorio y las tecnologías de detección rápida.
¿Está la IA introduciendo nuevas capacidades biológicas?
- Varios comentaristas sostienen que el diseño de virus por IA no añade capacidades fundamentalmente nuevas; los humanos con experiencia llevan mucho tiempo pudiendo diseñar o modificar virus.
- Otros responden que, aunque las capacidades no sean nuevas, la IA reduce la experiencia y el tiempo necesarios, lo cual sigue siendo importante para el riesgo.
- Hay desacuerdo sobre si inventar un virus realmente novedoso y altamente patógeno es realista a corto plazo o sigue siendo “ciencia ficción”.
Del diseño del genoma al virus vivo: ¿qué es realmente difícil?
- Se hace mucho énfasis en que diseñar una secuencia es la parte fácil; convertirla en un virus infeccioso requiere equipos costosos, habilidades avanzadas de laboratorio y protocolos no triviales.
- Algunos insisten en que no existen servicios que “te envíen un virus por correo”; solo puedes pedir fragmentos de ADN/ARN, y el ensamblaje/expresión sigue siendo una barrera importante.
- Otros responden que estas barreras están disminuyendo y que “unos pocos días de trabajo en bancada” para un biólogo competente ya no son un margen de seguridad tranquilizador.
Servicios de síntesis de ADN y salvaguardas
- Se informa que las empresas comerciales de síntesis genética revisan los pedidos y, a veces, verifican afiliaciones institucionales y fuentes de pago.
- Un ejercicio de red team citado mostró que aún podían comprarse fragmentos modificados del genoma de la gripe de 1918, lo que sugiere que el filtrado actual es imperfecto.
- Debate sobre si usar IA para filtrar automáticamente las secuencias entrantes ayudaría de forma significativa, dado que un solo laboratorio negligente o deshonesto podría desbaratar el sistema.
Regulación, impresoras de ADN y aplicación global
- Entre las propuestas figuran regular las impresoras de ADN y los laboratorios de síntesis, posiblemente usando IA para verificar secuencias.
- Otros señalan que la aplicación es difícil en unos 200 países y que la biotecnología es estructuralmente más difícil de controlar que la tecnología nuclear o la litografía EUV.
- Algunos ven como inevitable que en el futuro existan impresoras de ADN domésticas o para aficionados, momento en el cual los controles podrían fracasar.
Riesgo de pandemias sintéticas
- Algunos prevén una alta probabilidad de al menos una pandemia asistida por IA o sintética este siglo, posiblemente mediante pequeños ajustes de ganancia de función en virus existentes.
- Otros argumentan que crear agentes multigénicos, de transmisión aérea y altamente letales sigue siendo extremadamente difícil y que en gran medida es terreno de actores estatales serios.
Riesgo existencial más amplio y el marco del “mundo vulnerable”
- Varios comentarios amplían la discusión hacia la tendencia de la tecnología a permitir que grupos cada vez más pequeños causen daño masivo.
- Se invocan conceptos como la asimetría ofensiva-defensiva y la “hipótesis del mundo vulnerable”: si la ofensiva se vuelve barata y la defensa difícil, las sociedades podrían necesitar una vigilancia intensa o una gobernanza global más fuerte.
- Hay un fuerte desacuerdo entre los “doomers” de la IA y los optimistas, con algunos viendo la IA como una amenaza existencial y otros considerando esos temores como un pesimismo impulsado por los medios.