AlphaProof Code

O novo sistema AlphaProof Code da Google DeepMind, que usa múltiplos agentes de IA e o assistente de provas Lean para verificar formalmente a biblioteca de criptografia compilada do Signal, está gerando tanto entusiasmo quanto ceticismo. Os comentadores destacam a importância da verificação formal assistida por máquina para código crítico de segurança, mas enfatizam que as garantias se aplicam apenas a propriedades estritamente especificadas do protocolo criptográfico — não ao aplicativo mais amplo do Signal, aos sistemas operacionais ou ao hardware, e nem ao fato de as próprias especificações estarem corretas. O debate se amplia para os limites impostos pelo problema da parada, o risco de a IA “trapacear” em provas ou testes e se essas técnicas podem realisticamente escalar para software de uso geral ou permanecer uma ferramenta especializada para sistemas de alta garantia.

Reação ao resultado do Signal / AlphaProof Code

  • Muitos ficam impressionados que uma grande base de código de criptografia do mundo real possa ser formalmente verificada de alguma forma; o código do protocolo do Signal é visto como de alto calibre.
  • Alguns enfatizam que isso cobre a biblioteca do protocolo, não o app completo do Signal nem o sistema operacional, que continuam sendo superfícies de ataque muito maiores.
  • Alguns expressam suspeita sobre a independência do Signal/EFF e possíveis vínculos com inteligência; outros rebatem ou ignoram isso como especulação.

O que foi realmente provado (escopo e limites)

  • Foi esclarecido que a prova mira o binário ELF compilado de libsignal-cli, modelando instruções Arm em Lean, sob suposições simplificadoras (single-threaded, linkagem estática, syscalls/crypto simulados).
  • Eles formalizaram os objetivos de segurança do Signal e provaram que a implementação satisfaz esses objetivos, não que o código não tenha bugs.
  • Comentadores enfatizam que isso é “à prova de falhas sob as propriedades de segurança modeladas”, não uma garantia contra todos os crashes, deadlocks, side channels ou problemas no nível do app/SO.
  • Há ceticismo de que nenhum bug novo foi encontrado; provavelmente as propriedades provadas eram relativamente estreitas e a própria especificação poderia estar errada.

Verificação formal, problema da parada e especificações

  • Várias explicações: o problema da parada bloqueia a verificação universal de programas, mas muitos programas/propriedades específicos podem ser provados.
  • O esforço de prova costuma ser 50–100× escrever o código; a IA tenta reduzir esse custo.
  • Limitação central: você só pode provar que o código corresponde a uma especificação; não pode provar que a especificação corresponde a “o que realmente queremos”. Bugs na especificação simplesmente substituem bugs no código.
  • Discussão sobre Curry–Howard, tipos dependentes e provas de terminação via medidas decrescentes; muitos sistemas de verificação restringem deliberadamente a expressividade para evitar não terminação.

IA como assistente de provas / agente de programação

  • Alguns usaram LLMs para gerar provas ou especificações em Lean/Coq e acharam que elas parecem corretas, mas podem estar sutilmente erradas ou “trapacear”, então revisão adversarial e especialistas humanos continuam cruciais.
  • O AlphaProof é visto como um pipeline multiagente, assistido por IA, que escala o trabalho de especialistas para uma base de código muito maior, não como um verificador de botão único.
  • Experiências com “agentic coding” na indústria: maior velocidade às vezes libera tempo para melhores testes e confiabilidade; outros alertam que testes escritos por IA podem ser vazios, mas ainda assim ficar todos verdes.

Hardware, modelo de ameaça e verificação de CPU

  • Há desejo de estender a verificação até as CPUs; alguns observam esforços de hardware aberto, mas enfatizam que efeitos físicos, side channels e injeção de falhas continuam fora dos modelos formais típicos.
  • Vários alertam contra equiparar “formalmente verificado dentro do escopo X” com “seguro”, dado o comportamento real de hardware, compiladores e SOs.

Impacto mais amplo e perspectivas futuras

  • Alguns preveem um futuro em que executar software crítico não verificado pareça imprudente, de forma análoga a HTTP em texto puro hoje.
  • Outros argumentam que a maior parte do software real (por exemplo, GUIs complexas, lógica de negócio) é muito pouco especificada e bagunçada; a verificação pode continuar focada em kernels, protocolos, compiladores, criptografia e infraestrutura.
  • Debate sobre desenvolvimento “spec-first” versus adaptação posterior de provas: mais fácil se for projetado para verificação desde o início, mas desempenho e habilidade dos desenvolvedores são grandes restrições.
  • Comparações são feitas com o trabalho da Anthropic/Theorem verificando nixpkgs no nível de assembly; ambas as abordagens constroem grandes semânticas confiáveis e usam LLMs para lidar com a escala.