Detectar y contrarrestar el uso indebido de la IA: septiembre de 2026
El último informe de inteligencia sobre amenazas de Anthropic acerca del uso indebido de la IA provoca un intenso debate tanto sobre los riesgos como sobre la respuesta de la empresa. Los comentaristas señalan casos en los que Claude supuestamente se usó para ayudar en el desarrollo de armas, sistemas de vigilancia e investigación biológica de doble uso, al tiempo que cuestionan cuánto peligro adicional aportan realmente los LLM más allá del conocimiento científico existente. Muchos expresan su preocupación de que las prácticas de supervisión y bloqueo de Anthropic puedan frenar la investigación legítima y servir a sus intereses comerciales y de lobby, especialmente en torno al acceso a modelos, el uso de datos y el control regulatorio.
Uso indebido de armas convencionales y vigilancia
- Los comentaristas destacan los ejemplos del informe: un sistema de vigilancia de SIM a escala poblacional vinculado a Mali y actores yemeníes usando Claude para cohetes y misiles guiados.
- Varios señalan que la guiado de misiles en teléfonos es técnicamente plausible, citando antiguos ordenadores de misiles de crucero y altímetros de radar / controladores de vuelo baratos.
- Otros sostienen que estas actividades eran posibles mucho antes de los LLM; la IA principalmente reduce la barrera de habilidades y amplía el acceso.
Armas biológicas e investigación de doble uso
- Muchos ven los riesgos de armas biológicas como serios, pero enfatizan la dificultad actual: se necesita equipo, destreza tácita de laboratorio, infraestructura de seguridad y materiales controlados.
- Otros subrayan que los LLM pueden “desprofesionalizar” partes del trabajo, extendiendo el conocimiento experto a más actores maliciosos, especialmente a personas internas, no solo a legos.
- Hay una crítica extensa a los estudios de caso de Anthropic en los que Claude se usó para:
- Terapias derivadas de veneno con andamiajes de toxinas de doble uso.
- Investigación de ganancia de función de gripe aviar y chikungunya o de patógenos de alto riesgo.
- Los críticos argumentan que Claude principalmente brindó ayuda administrativa o para redactar subvenciones y que bloquear ese uso perjudica la investigación médica legítima, incluidas las enfermedades desatendidas.
La supervisión de Anthropic y las preocupaciones sobre la privacidad
- El estilo detallado y narrativo del informe inquieta a algunos: implica un registro y análisis intensivos de los prompts de los usuarios.
- A la gente le preocupa que la denuncien a las fuerzas del orden por preguntas “incorrectas” (por ejemplo, violencia, salud reproductiva, inmigración), y recomienda modelos locales o alojados en el extranjero por privacidad.
- Otros señalan que Anthropic ha sido abierto respecto a que supervisa por motivos de seguridad, pero la granularidad y la publicación de ejemplos resultan invasivas.
Afirmaciones sobre laboratorios chinos y “destilación ilícita”
- Las acusaciones del informe de que proveedores chinos (Kimi, DeepSeek, MiniMax) habrían proxificado en secreto a Claude para destilar su comportamiento reciben un fuerte escepticismo.
- Algunos creen que este comportamiento de destilación de modelos es plausible; otros cuestionan los incentivos (¿por qué pagar por un modelo más caro?) y las pruebas de Anthropic.
- La “destilación ilícita” es presentada por los críticos sobre todo como un problema de términos de servicio / modelo de negocio, no de seguridad pública.
Motivos, entusiasmo y captura regulatoria
- Muchos ven el informe como marketing: una forma de exhibir el “poder” de Claude y justificar una regulación más estricta que favorecería a unos pocos laboratorios de EE. UU. frente al software abierto y a competidores extranjeros.
- Otros lo ven como una advertencia temprana genuina sobre los riesgos de doble uso y argumentan que los actores no estatales son precisamente donde la IA podría resultar más desestabilizadora.