Un investigador de Anthropic dice que hay más de un 10% de probabilidad de que la IA «pueda matar a todos los humanos»
La afirmación de un ex investigador de Anthropic de que existe «más de un 10% de probabilidad» de que la IA avanzada pueda matar a todos los humanos ha provocado un fuerte desacuerdo sobre cuán en serio deben tomarse esas estimaciones de riesgo de extinción. Algunos ven la retórica como una alarma sincera de personas centradas en la seguridad, mientras que otros la descartan como «scaremarketing» cínico destinado a la captura regulatoria, la inversión o el branding personal tras dejar el puesto. Los comentaristas debaten cómo puede cuantificarse esa probabilidad, si la IA es más probable que sea una amenaza existencial o una fuente de prosperidad general, y cómo se comparan sus riesgos con peligros de larga data como la guerra nuclear y el cambio climático.
Escepticismo sobre la «>10% de probabilidad de extinción humana»
- Muchos consideran que la cifra es arbitraria o «sacada del culo»; preguntan por qué 10% y no 1% o 50%, y sospechan que no hay ningún proceso riguroso detrás.
- Algunos sostienen que, si la gente creyera de verdad en esas probabilidades, tomaría medidas mucho más drásticas que dar entrevistas o dimitir, así que la retórica les parece «palabrería barata».
- Otros responden que las creencias no implican terrorismo ni sabotaje; dejar un trabajo bien pagado ya es una acción significativa.
Marketing, exageración y captura regulatoria
- Un sector considerable ve el discurso apocalíptico como una estrategia de marketing o lobby:
- «Nuestro producto es tan potente que podría acabar con la civilización» → exageración para inversores.
- Enmarcarlo como catástrofe para justificar una regulación pesada que consolide a los líderes actuales.
- Otros replican que las empresas normales minimizan el riesgo, no lo anuncian a gritos, y señalan que varios laboratorios e investigadores han estado preocupados de forma constante durante años, lo que sugiere sinceridad más que pura PR.
¿Cómo podría la IA provocar una catástrofe?
- Algunos dicen que todavía no han visto un camino claro y racional desde los super‑LLM hasta la extinción.
- Rutas propuestas en el hilo:
- Hackeo de sistemas críticos asistido por IA (nukes, laboratorios bio), o ayudar a un actor desviado a diseñar un patógeno letal.
- Optimización desalineada (estilo clip de papel), donde un sistema avanzado persigue una meta con desprecio total por los valores humanos y supera a los humanos en la competencia por los recursos.
- Desinformación impulsada por IA, disrupción social y colapso económico que conduzcan a muertes masivas.
- Otros creen que el mayor riesgo sigue siendo que los humanos usen la IA como arma o la pongan al mando de infraestructuras que no debería controlar.
Comparaciones con el riesgo nuclear y otras amenazas existenciales
- Algunos comparan la IA con la carrera armamentística nuclear, pero señalan diferencias clave: el uranio está naturalmente restringido; la IA se puede proliferar con facilidad.
- Varios argumentan que los humanos, el cambio climático, las pandemias y las nukes son vectores de extinción más probables que la propia IA.
Optimismo y opiniones mixtas
- Unos pocos sitúan su propio «P(doom)» en torno al 10%, pero también asignan una alta probabilidad a que la IA mejore enormemente la vida y reduzca otros riesgos existenciales.
- Otros ven el doomerismo actual como exagerado, subrayando la tendencia histórica de la humanidad a mejorar los niveles de vida y esperando que la regulación acabe surgiendo, aunque sea lentamente.