Feds se assustaram com Fable 5 depois de 'corrija este código', não de jailbreak, dizem pesquisadores

O que o comportamento de “corrija este código” realmente era

• O Fable foi projetado para encaminhar prompts “relacionados à cibersegurança” para um modelo mais fraco, mas ainda assim melhorava código prontamente quando lhe pediam para “corrigir este código”.
• Revisores dizem que ele corrigiu vulnerabilidades reais e inseridas de propósito e escreveu testes; diffs ou testes poderiam revelar explorações.
• Muitos argumentam que isso é apenas um fluxo de trabalho defensivo normal (encontrar–corrigir–testar) e não um jailbreak sofisticado; outros observam que contornar guardrails ao reformular a solicitação é, na prática, um jailbreak.

Defesa vs. ofensiva em cibersegurança

• Vários comentários enfatizam que as mesmas habilidades e ferramentas encontram bugs tanto para defesa quanto para ataque; tentar separar capacidades “defensivas” e “ofensivas” é visto como conceitualmente inválido.
• Alguns temem que controles de exportação, na prática, impeçam defensores de usar as melhores ferramentas, enquanto atacantes motivados ainda conseguem obtê-las (por meio de outros modelos, identidades roubadas ou pesos roubados).
• Outros argumentam que mesmo guardrails imperfeitos que aumentem custos (mais tokens, mais atrito, revisão humana) ainda desaceleram de forma significativa o uso ofensivo em larga escala.

A estratégia da Anthropic e os guardrails de IA

• Muitos dizem que meses de mensagem da Anthropic de que “isso é como nukes” tornaram politicamente inevitável um aperto assim que qualquer falha foi encontrada.
• Há amplo ceticismo de que filtros de segurança “à prova de bala” sejam possíveis; LLMs não conseguem inferir intenção com confiabilidade, são fáceis de enganar e a classificação tende a ser frágil ou excessivamente ampla.
• Alguns sugerem classificadores mais sofisticados, modelos de mundo ou acesso por credenciais a código sensível, mas outros chamam isso de inviável ou prejudicial ao trabalho legítimo de código aberto.

Interpretações políticas e regulatórias

• Uma grande parcela vê a proibição como retaliação política ou uma extorsão às vésperas do IPO da Anthropic, e não como política séria de segurança.
• Outros enquadram isso como passos iniciais rumo a um controle centralizado, possivelmente autoritário, sobre IA “de fronteira”, com paralelos traçados a controles de exportação, disputas por backdoors em criptografia e lógica de segurança nacional.
• Alguns poucos comentaristas duvidam da narrativa oficial por completo e sugerem que o episódio pode ter sido em parte encenado ou uma oportunidade de PR.

Implicações para usuários, mercados e modelos abertos

• Desenvolvedores estão frustrados: o mesmo sistema que ajuda a criar bugs (modelos anteriores) pode agora ser impedido de corrigi-los em escala.
• Empresas temem depender de modelos que podem ser desligados da noite para o dia por razões políticas não relacionadas.
• Vários preveem maior interesse em modelos de pesos abertos e provedores fora dos EUA, e até um possível “teto de inteligência” para IA de consumo, enquanto sistemas mais fortes se tornam restritos como armas.