Escrever software correto é difícil e a matemática sozinha não vai nos ajudar (2016)
Métodos formais e provas matemáticas podem garantir corretude para partes pequenas e bem especificadas de código, mas os comentaristas argumentam que eles desmoronam rapidamente diante de software do mundo real: requisitos mutáveis, sistemas operacionais bagunçados, hardware pouco confiável e fluxos de trabalho centrados em humanos. Muitos veem a verificação como essencial para componentes de segurança crítica ou sensíveis à segurança, mas impraticável como abordagem universal, defendendo em vez disso uma combinação de tipos, testes, especificações cuidadosas e empirismo. A ascensão do código gerado por IA intensifica essas preocupações, tanto por aumentar o volume de software frágil quanto por tentar as pessoas a superestimar o que o raciocínio automatizado e as provas formais podem realisticamente garantir.
O que “Corretude” Significa e Por que é Difícil
- Muitos comentários destacam que corretude é relativa a uma especificação, e acertar essa especificação é a parte mais difícil.
- Sistemas reais têm requisitos difusos, mutáveis e politicamente contestados (por exemplo, “o que conta como uma venda”, “desenhe algo que pareça bom”).
- Para muito comportamento de negócios e de UX, a formalização completa é vista como impraticável ou impossível; empirismo e testes dominam.
Limites da Teoria (Halting, Rice, Gödel)
- O problema da parada e o teorema de Rice são citados como mostrando que a verificação totalmente genérica é impossível, mas vários argumentam que isso se aplica sobretudo a “programas arbitrários”, não ao código típico do mundo real.
- Alguns apontam que indecidibilidade não proíbe provas para programas específicos; ela proíbe um procedimento universal.
- Há alguma discordância sobre se o artigo se apoia demais nesses resultados e exagera o pessimismo.
Métodos Formais na Prática
- Verificação formal é vista como essencial, mas cara, em domínios como sistemas de segurança crítica, médicos, militares, criptográficos e alguns sistemas de alta segurança.
- Várias pessoas relatam que o excesso de ênfase em provas pode paralisar o progresso, especialmente quando as provas se apoiam em suposições irrealistas (por exemplo, sensores ideais).
- Um tema recorrente: esforços de prova são frágeis diante de requisitos em mudança; provas grandes podem se tornar irrecuperáveis quando as suposições mudam.
Garantias Parciais: Tipos, Propriedades e Ferramentas
- Sistemas de tipos fortes, sistemas de capacidades e métodos formais leves são elogiados como um meio-termo prático.
- Ideias como subtipos, funções puras e verificação de propriedades podem garantir invariantes importantes sem provar programas inteiros.
- Análise estática e raciocínio limitado são subutilizados, mas oferecem benefícios relativamente baratos.
Complexidade do Ambiente e do SO
- Vários argumentam que primitivas de SO e sistemas de arquivos são intrinsecamente difíceis de modelar; grande parte da dificuldade está nessa fronteira, e não nos algoritmos centrais.
- Microkernels, capacidades e designs de SO centrados em dados são discutidos como formas de facilitar o raciocínio, mas ainda assim muito difíceis.
IA, “Vibe Coding” e Confiabilidade
- Alguns se preocupam que código gerado por LLMs e “vibe coding” normalizem uma atitude desdenhosa em relação à corretude e possam reduzir a confiabilidade.
- Outros observam que o software já era pouco confiável muito antes da IA; LLMs também podem ajudar com especificação, provas e ferramentas, se forem cuidadosamente restringidos.