Funcionarios se alarmaron por Fable 5 tras «arregla este código», no un jailbreak, dicen investigadores

Qué era realmente el comportamiento de «arregla este código»

• Fable fue diseñado para derivar las solicitudes «relacionadas con ciberseguridad» a un modelo más débil, pero aun así mejoraba felizmente el código cuando se le pedía «arregla este código».
• Los revisores dicen que corrigió vulnerabilidades reales y sembradas, y escribió pruebas; los diffs o las pruebas podrían revelar exploits.
• Muchos sostienen que esto es solo el flujo de trabajo defensivo normal (buscar–arreglar–probar) y no un jailbreak ingenioso; otros señalan que eludir las barreras de seguridad reformulando la solicitud es, en la práctica, un jailbreak.

Defensa frente a ofensiva en ciberseguridad

• Varios comentarios subrayan que las mismas habilidades y herramientas encuentran fallos tanto para defensa como para ataque; intentar separar las capacidades «defensivas» y «ofensivas» se considera conceptualmente incorrecto.
• Algunos temen que los controles de exportación, en la práctica, impidan a los defensores usar las mejores herramientas mientras que los atacantes motivados aún pueden obtenerlas (a través de otros modelos, identidades robadas o pesos robados).
• Otros argumentan que incluso unas barreras imperfectas que aumenten los costes (más tokens, más fricción, revisión humana) siguen ralentizando de forma significativa el uso ofensivo a gran escala.

La estrategia de Anthropic y las barreras de seguridad de IA

• Muchos dicen que meses de mensajes de Anthropic del tipo «esto es como las bombas nucleares» hicieron políticamente inevitable una represión en cuanto se encontró cualquier fallo.
• Hay un amplio escepticismo de que los filtros de seguridad «a prueba de balas» sean posibles; los LLM no pueden inferir la intención de forma fiable, se les puede mentir fácilmente, y la clasificación tiende a ser frágil o demasiado amplia.
• Algunos sugieren clasificadores más sofisticados, modelos del mundo o acceso basado en credenciales al código sensible, pero otros califican estas ideas de inviables o dañinas para el trabajo legítimo de código abierto.

Interpretaciones políticas y regulatorias

• Un gran contingente ve la prohibición como represalia política o una extorsión previa a la salida a bolsa de Anthropic, no como una verdadera política de seguridad.
• Otros lo enmarcan como pasos iniciales hacia un control centralizado, posiblemente autoritario, de la IA «de frontera», con paralelismos trazados con los controles de exportación, las batallas sobre puertas traseras en criptografía y la lógica de seguridad nacional.
• Unos pocos comentaristas dudan por completo de la narrativa oficial y sugieren que el episodio puede estar en parte escenificado o ser una oportunidad de relaciones públicas.

Implicaciones para usuarios, mercados y modelos abiertos

• Los desarrolladores están frustrados: el mismo sistema que ayuda a crear fallos (modelos anteriores) puede ahora quedar prohibido para arreglarlos a gran escala.
• Las empresas temen depender de modelos que pueden desconectarse de la noche a la mañana por razones políticas no relacionadas.
• Varios prevén un interés creciente en modelos con pesos abiertos y proveedores fuera de EE. UU., e incluso un posible «tope de inteligencia» para la IA de consumo mientras sistemas más potentes pasan a estar restringidos como armas.