Acompanhamento das vulnerabilidades descobertas pela Anthropic

Sistemas de IA como o Glasswing/Mythos da Anthropic estariam gerando dezenas de milhares de descobertas de vulnerabilidades em software open source e proprietário, mas apenas uma pequena fração está sendo corrigida ou claramente explorada, levantando dúvidas sobre impacto, priorização e hype de marketing. Comentadores destacam altas taxas de falso positivo e de severidade baixa em muitos relatórios, além da carga que isso impõe a mantenedores já sobrecarregados, enquanto outros dizem que as ferramentas descobriram falhas sérias e não públicas dentro de grandes empresas. A tensão mais ampla é se os modelos de fronteira estão realmente melhorando a segurança ou apenas sobrecarregando equipes humanas com ruído, e como equilibrar a detecção precoce com a capacidade limitada de verificar e remediar problemas.

Impacto geral das descobertas Glasswing / Mythos

  • Muitos veem as estatísticas públicas (≈38 mil descobertas, ≈7 mil públicas, ≈200 corrigidas) como prova de que a IA é muito melhor em encontrar problemas do que em produzir correções ou aumentar a capacidade de remediação.
  • Outros argumentam que essa é uma amostra tendenciosa: o “ledger” é majoritariamente OSS sob divulgação coordenada, enquanto o principal uso do Glasswing é em código proprietário, onde as correções supostamente são triadas e aplicadas internamente.
  • Vários observam que a métrica “explorado no mundo real” é uma má proxy aqui, já que o objetivo da descoberta antecipada é justamente impedir a exploração.

PHP2Shell e expectativas de “exploração catastrófica”

  • Houve um longo debate sobre a vulnerabilidade em PHP: alguns a chamam de um bug dramático, mas administrável; outros argumentam que era grave, subestimado e mal coberto por uma postagem inicial cética.
  • O experimento “stealmybitcoin” (servidor PHP vulnerável com uma chave privada) foi explorado com sucesso em menos de um dia, aparentemente usando um agente de IA, citado como prova da explorabilidade.
  • Ainda assim, não houve uma aparente “apocalipse” de invasões em massa impulsionadas por PHP, com explicações que vão de patching emergencial rápido à complexidade real da exploração no mundo real.

Qualidade, falsos positivos e carga sobre mantenedores

  • Vários mantenedores relatam altas taxas de falso positivo ou problemas “tecnicamente verdadeiros, mas de baixo impacto prático”, especialmente do scanner de OSS; os números mencionados variam de ~50% de falsos positivos a apenas ~30% realmente importantes.
  • Outros relatam o oposto: lotes em que cada descoberta era um bug real, com ótimos casos de teste, mas patches que precisavam de refinamento humano.
  • Mesmo quando corretos, os relatórios de IA muitas vezes reapresentam bugs já conhecidos, pequenas questões de hardening ou problemas previamente discutidos, adicionando carga de triagem sem ganho de segurança proporcional.

Correções, patches e fluxo de trabalho

  • Comentadores observam que os modelos podem gerar patches, e que algumas ferramentas da Anthropic já enviam correções sugeridas.
  • Mantenedores frequentemente consideram muitos desses patches de baixa qualidade ou arriscados, e dizem que revisá-los pode custar tanto quanto escrever uma correção do zero.
  • Há uma preocupação ampla de que “descobertas slop” geradas por IA sobrecarreguem o tempo limitado dos mantenedores de OSS, reforçando a necessidade de melhor pontuação de explorabilidade/risco e priorização.

Panorama mais amplo de segurança

  • Vários engenheiros da indústria dizem que modelos da classe Mythos descobriram grandes quantidades de problemas graves em bases de código privadas que nunca virarão CVEs ou posts de blog.
  • Alguns temem que LLMs encadeiem muitas falhas de “baixa severidade” em explorações reais; outros enfatizam que erro humano, e não 0-days exóticos, ainda é o que impulsiona muitas invasões.
  • O próprio artigo é amplamente visto como alinhado ao modelo de negócios do fornecedor (priorização de vulnerabilidades), então alguns tratam seu enquadramento negativo como parcialmente movido por marketing.