Los clasificadores que Anthropic pone delante de Fable son demasiado celosos

Alcance y comportamiento de los clasificadores de Fable

• Muchos comentaristas describen el clasificador de seguridad de Fable como de “gatillo fácil”, especialmente para biología, ciberseguridad, investigación en ML, infraestructura y autenticación.
• Filtrado de biología extremadamente amplio: incluso prompts sobre células, digestión, frecuencia cardíaca al correr, CO₂ interior, abstinencia de nicotina, trivia de zoología, “plant”, preguntas inocuas sobre anguilas y temas médicos básicos se degradan.
• Las herramientas de ciberseguridad y ML también provocan rechazos: correos de pentesting, revisiones OWASP, auditorías de seguridad, código de SDN/autenticación, cambios en GPU/vLLM, pipelines de ML, código de libtorch/OpenCL, e incluso bibliotecas o nombres de variables que contienen “bio” o “DNA”.
• Algunas preguntas puramente matemáticas o de teoría de la computación se bloquean, al parecer porque el modelo las mapea internamente a contextos de biología/filogenética (“seguridad de la complejidad”).

Experiencia de usuario y casos de uso

• Usuarios de bioinformática, biología, medicina, neuroimagen y física médica dicen que Fable es, en la práctica, inutilizable para su trabajo profesional, a veces incluso para actualizar un CV.
• Otros no reportan rechazos en absoluto para arquitectura de software a gran escala, depuración y programación general, lo que sugiere dominios distintos o puntuaciones/historias de seguridad diferentes.
• Algunos consideran que Fable es excelente para matemáticas, revisión de nivel de investigación, consejos de vida y comprobaciones de “último pase”, superando claramente a Opus 4.8 cuando se le permite ejecutarse.
• Varios señalan un consumo severo de tokens y tiempo; un solo prompt puede agotar límites diarios u horarios sin aportar un valor proporcional.

Degradaciones, “jail” de la cuenta y Opus

• Cuando se activa, Fable degrada de forma transparente a Opus 4.8 con un banner visible; algunos temen que también haya degradaciones silenciosas (no está claro en el hilo).
• Algunos especulan que los intentos repetidos de “sanitizar” prompts pueden llevar a las cuentas a un estado más sensible de “jail”, donde el clasificador salta con aún más facilidad.
• Las experiencias varían mucho: para algunos, solo ~15% de las tareas disparan el filtro; para otros, lo hacen el 80–90% de los prompts de revisión de código o relacionados con ML.

Motivaciones, alineación y asimetría de poder

• Entre las posibles causas se mencionan la presión del gobierno de EE. UU./controles de exportación, una cultura de seguridad “longtermist” excesivamente cautelosa y el miedo al bioterrorismo; otros ven “teatro de seguridad” y narrativas apocalípticas impulsadas por relaciones públicas.
• Algunos piensan que Fable es un banco de pruebas para barandillas que luego se pondrán delante de otros modelos; otros especulan sobre versiones restringidas de alta capacidad para pharma o “socios de confianza”.
• Discusión más amplia: la dificultad de alinear modelos con morales humanas inconsistentes; analogía con armas de fuego/secretos de Estado, donde los civiles reciben herramientas “nerfeadas” mientras los estados conservan todo el poder.
• Preocupación de que futuros modelos SOTA estén fuertemente controlados por gobiernos y unas pocas corporaciones, aumentando la asimetría de poder; contrapeso: los incentivos de beneficio y los modelos competidores (incluidos los extranjeros y los abiertos) limitarán esto.

Privacidad, retención y riesgo comercial

• Política destacada: el contenido de las sesiones marcadas puede conservarse hasta 2 años y las puntuaciones de seguridad hasta 7 años; por tanto, los falsos positivos del clasificador amplían la retención de datos a largo plazo.
• Los datos marcados pueden usarse para entrenar sistemas de seguridad incluso cuando se aplican exclusiones normales de entrenamiento, lo que preocupa a usuarios que realizan trabajo “sensible pero legítimo”.
• Algunos concluyen que depender de IA propietaria y controlada centralmente es arriesgado porque las capacidades y el acceso pueden cambiar de repente; otros responden que todos los modelos de primer nivel son actualmente propietarios, aunque ahora existen fuertes alternativas abiertas.