Escrever software correto é difícil e a matemática sozinha não vai nos ajudar (2016)

Métodos formais e provas matemáticas podem garantir corretude para partes pequenas e bem especificadas de código, mas os comentaristas argumentam que eles desmoronam rapidamente diante de software do mundo real: requisitos mutáveis, sistemas operacionais bagunçados, hardware pouco confiável e fluxos de trabalho centrados em humanos. Muitos veem a verificação como essencial para componentes de segurança crítica ou sensíveis à segurança, mas impraticável como abordagem universal, defendendo em vez disso uma combinação de tipos, testes, especificações cuidadosas e empirismo. A ascensão do código gerado por IA intensifica essas preocupações, tanto por aumentar o volume de software frágil quanto por tentar as pessoas a superestimar o que o raciocínio automatizado e as provas formais podem realisticamente garantir.

O que “Corretude” Significa e Por que é Difícil

  • Muitos comentários destacam que corretude é relativa a uma especificação, e acertar essa especificação é a parte mais difícil.
  • Sistemas reais têm requisitos difusos, mutáveis e politicamente contestados (por exemplo, “o que conta como uma venda”, “desenhe algo que pareça bom”).
  • Para muito comportamento de negócios e de UX, a formalização completa é vista como impraticável ou impossível; empirismo e testes dominam.

Limites da Teoria (Halting, Rice, Gödel)

  • O problema da parada e o teorema de Rice são citados como mostrando que a verificação totalmente genérica é impossível, mas vários argumentam que isso se aplica sobretudo a “programas arbitrários”, não ao código típico do mundo real.
  • Alguns apontam que indecidibilidade não proíbe provas para programas específicos; ela proíbe um procedimento universal.
  • Há alguma discordância sobre se o artigo se apoia demais nesses resultados e exagera o pessimismo.

Métodos Formais na Prática

  • Verificação formal é vista como essencial, mas cara, em domínios como sistemas de segurança crítica, médicos, militares, criptográficos e alguns sistemas de alta segurança.
  • Várias pessoas relatam que o excesso de ênfase em provas pode paralisar o progresso, especialmente quando as provas se apoiam em suposições irrealistas (por exemplo, sensores ideais).
  • Um tema recorrente: esforços de prova são frágeis diante de requisitos em mudança; provas grandes podem se tornar irrecuperáveis quando as suposições mudam.

Garantias Parciais: Tipos, Propriedades e Ferramentas

  • Sistemas de tipos fortes, sistemas de capacidades e métodos formais leves são elogiados como um meio-termo prático.
  • Ideias como subtipos, funções puras e verificação de propriedades podem garantir invariantes importantes sem provar programas inteiros.
  • Análise estática e raciocínio limitado são subutilizados, mas oferecem benefícios relativamente baratos.

Complexidade do Ambiente e do SO

  • Vários argumentam que primitivas de SO e sistemas de arquivos são intrinsecamente difíceis de modelar; grande parte da dificuldade está nessa fronteira, e não nos algoritmos centrais.
  • Microkernels, capacidades e designs de SO centrados em dados são discutidos como formas de facilitar o raciocínio, mas ainda assim muito difíceis.

IA, “Vibe Coding” e Confiabilidade

  • Alguns se preocupam que código gerado por LLMs e “vibe coding” normalizem uma atitude desdenhosa em relação à corretude e possam reduzir a confiabilidade.
  • Outros observam que o software já era pouco confiável muito antes da IA; LLMs também podem ajudar com especificação, provas e ferramentas, se forem cuidadosamente restringidos.