Lo siento, no vas a morir por un supervirus diseñado por IA
Los temores de que los modelos de lenguaje grandes permitan pronto a aficionados solitarios diseñar “supervirus” apocalípticos de ingeniería de IA reciben un escepticismo contundente por parte de muchos comentaristas, incluidos biólogos, que subrayan que el desarrollo real de armas biológicas está limitado menos por las ideas que por el trabajo experimental duro, la infraestructura de seguridad y la realidad molecular, que es desordenada. Otros responden que la IA sí reduce de forma significativa las barreras para Estados o grupos organizados al acelerar el diseño de armas biológicas más simples, mejorar el objetivo o el sigilo y ampliar la ingeniería social, aunque no pueda “pensar” un supervirus perfecto hasta hacerlo existir. El intercambio se amplía hacia la pregunta de cuánto de rápido avanzarán las capacidades de la IA y la automatización de laboratorios, si los controles actuales de bioseguridad y de cadena de suministro son adecuados, y cómo equilibrar la investigación abierta en IA con el riesgo de amenazas biológicas más accesibles.
Sentimiento general
- El hilo está dividido: muchos ven los supervirus diseñados por IA como algo exagerado; otros consideran que el artículo es complaciente o ingenuo.
- La mayoría coincide en que la IA no permitirá pronto que un adolescente aleatorio destruya a la humanidad, pero discrepan sobre los riesgos a medio y largo plazo y sobre cuál debería ser la respuesta política adecuada.
Viabilidad de las armas biológicas y limitaciones
- Varios comentaristas con experiencia en biología subrayan que la ingeniería viral es fundamentalmente difícil: la física molecular es compleja, las predicciones son limitadas y los experimentos en biología real son inevitables.
- Las armas biológicas eficaces requieren experimentos iterativos con humanos (o animales), una bioseguridad estricta, equipo especializado y cadenas de suministro, que se consideran los verdaderos cuellos de botella.
- Se citan accidentes históricos de laboratorio y la vigilancia de aguas residuales para mostrar lo difícil que es manejar agentes altamente contagiosos sin fugas.
Argumentos de que el riesgo bio de la IA está exagerado
- Si fabricar armas biológicas potentes fuera fácil, ya veríamos más uso en el terrorismo y la guerra; en cambio, dominan las armas convencionales.
- Los agentes nerviosos y el ántrax existentes son técnicamente accesibles, pero rara vez se usan; la barrera es la logística, el rigor y la intención, no la información.
- Se compara la IA con una herramienta de diseño útil que sigue dependiendo del trabajo experimental; creer que el puro “pensamiento” puede saltarse la prueba en el mundo real se asemeja a tratar a la IA como magia.
- Algunos sostienen que la regulación planteada en torno a “un hacker adolescente fabrica un supervirus” sirve sobre todo a los intereses de captura regulatoria de los grandes proveedores de IA.
Argumentos de que la IA aumenta de forma significativa el riesgo biológico
- Otros sostienen que la dificultad actual no es evidencia sobre las capacidades futuras; el progreso de la IA (por ejemplo, en el modelado de proteínas) ha sido rápido y podría extenderse a la función y al diseño de fármacos o toxinas.
- El riesgo no se limita a los virus: la IA podría ayudar a optimizar venenos de molécula pequeña, agentes más sigilosos o una diseminación más fácil.
- Preocupa que la IA reduzca mucho más la barrera para Estados renegados o grupos bien financiados que para adolescentes aislados.
- Algunos proponen estrategias de búsqueda caóticas (recombinación/mutación masiva) en lugar de un diseño finamente dirigido, con una probabilidad baja pero no nula de “algo realmente malo”.
Superinteligencia, alineamiento y agencia
- Una minoría argumenta que una verdadera superinteligencia probablemente encontraría alguna forma de matarnos, con virus o sin ellos, incluso mediante nanotecnología o manipulaciones sutiles de la fertilidad/infertilidad.
- Otros replican que incluso una superinteligencia no puede eludir la necesidad de datos empíricos y experimentación física.
Amenazas históricas y existentes
- Se mencionan la viruela, la despoblación de los nativos americanos y la Peste Negra como evidencia de que son posibles patógenos altamente letales y altamente transmisibles.
- Los contraargumentos señalan que estos episodios dependían del contexto (sin higiene, sin inmunidad) y no implican de forma directa “virus del fin del mundo” fácilmente diseñables hoy.
Gobernanza, regulación y modelos abiertos
- Algunos proponen controlar el acceso a suministros y químicos clave de laboratorio (como ya se hace en cierta medida) en lugar de restringir el conocimiento o los modelos de IA de código abierto.
- Otros argumentan que los modelos potentes sin barreras acabarán estando disponibles y que la sociedad no está preparada para la productividad de laboratorio impulsada por IA y las posibles fugas.
Experiencia, exceso de confianza y tono
- Varios comentarios critican a comentaristas de tecnología/economía que opinan con seguridad sobre virología y armas biológicas sin experiencia en el área.
- Otros advierten contra un credencialismo estricto, pero aun así se quejan de tratamientos simplistas o de hombre de paja de los riesgos bio de la IA.
- Hay frustración tanto con las narrativas alarmistas de “un adolescente mata al 90% de la humanidad” como con los argumentos despectivos de “esto no puede pasar porque no veo cómo”.