AlphaProof Code
El nuevo sistema AlphaProof Code de Google DeepMind, que utiliza múltiples agentes de IA y el asistente de pruebas Lean para verificar formalmente la biblioteca de cifrado compilada de Signal, está provocando tanto entusiasmo como escepticismo. Los comentaristas destacan la importancia de la verificación formal asistida por máquina para código crítico de seguridad, pero subrayan que las garantías solo se aplican a propiedades estrechamente especificadas del protocolo criptográfico, no a la app más amplia de Signal, los sistemas operativos o el hardware, ni a si las especificaciones en sí son correctas. El hilo se amplía hacia cuestiones sobre los límites impuestos por el problema de la parada, el riesgo de que la IA “haga trampa” en pruebas o tests, y si estas técnicas pueden escalar de forma realista al software de propósito general o seguirán siendo una herramienta especializada para sistemas de alta confianza.
Reacción al resultado de Signal / AlphaProof Code
- Muchos están impresionados de que una gran base de código criptográfica del mundo real pueda verificarse formalmente en absoluto; el código de protocolo de Signal se ve como de alto nivel.
- Algunos subrayan que esto cubre la biblioteca del protocolo, no la app completa de Signal ni el SO, que siguen siendo superficies de ataque mucho mayores.
- Unos pocos expresan sospechas sobre la independencia de Signal/EFF y posibles vínculos con inteligencia; otros rechazan esto o lo ignoran como especulación.
Qué se demostró realmente (alcance y límites)
- Se aclaró que la prueba apunta al binario ELF compilado de
libsignal-cli, modelando instrucciones Arm en Lean, bajo supuestos simplificadores (un solo hilo, enlace estático, syscalls/crypto simulados). - Formalizaron los objetivos de seguridad de Signal y demostraron que la implementación satisface esos objetivos, no que el código no tenga ningún bug.
- Los comentaristas enfatizan que esto es “a prueba de fallos bajo las propiedades de seguridad modeladas”, no una garantía contra todos los fallos, deadlocks, canales laterales o problemas a nivel de app/SO.
- Escepticismo de que no se hayan encontrado bugs nuevos; probablemente las propiedades demostradas eran relativamente estrechas y la especificación en sí podía estar defectuosa.
Verificación formal, problema de la parada y especificaciones
- Varias explicaciones: el problema de la parada bloquea la verificación universal de programas, pero muchos programas/propiedades específicos sí pueden demostrarse.
- El esfuerzo de prueba suele ser 50–100× escribir el código; la IA pretende reducir ese costo.
- Limitación central: solo puedes demostrar que el código coincide con una especificación; no puedes demostrar que la especificación coincida con “lo que realmente queremos”. Los bugs de la especificación simplemente reemplazan a los bugs del código.
- Discusión de Curry–Howard, tipos dependientes y pruebas de terminación mediante medidas decrecientes; muchos sistemas de verificación restringen deliberadamente la expresividad para evitar la no terminación.
IA como asistente de pruebas / agente de programación
- Algunos han usado LLM para generar pruebas o especificaciones en Lean/Coq y han comprobado que parecen correctas pero pueden ser sutilmente erróneas o “hacer trampa”, por lo que la revisión adversarial y los expertos humanos siguen siendo cruciales.
- AlphaProof se ve como una canalización multiagente asistida por IA que escala el trabajo de expertos a una base de código mucho mayor, no como un verificador de un solo botón.
- Experiencias con “programación agentic” en la industria: una mayor velocidad a veces libera tiempo para mejores pruebas y fiabilidad; otros advierten que las pruebas escritas por IA pueden ser vacías pero seguir apareciendo en verde.
Hardware, modelo de amenazas y verificación de CPU
- Existe el deseo de extender la verificación hasta las CPU; algunos mencionan esfuerzos de hardware abierto, pero subrayan que los efectos físicos, los canales laterales y la inyección de fallos quedan fuera de los modelos formales típicos.
- Varios advierten contra equiparar “formalmente verificado dentro del alcance X” con “seguro”, dado el comportamiento real del hardware, los compiladores y el SO.
Impacto más amplio y perspectiva futura
- Algunos predicen un futuro en el que ejecutar software crítico no verificado parecerá temerario, análogo al HTTP en texto plano hoy.
- Otros argumentan que la mayor parte del software real (por ejemplo, interfaces gráficas complejas, lógica de negocio) está demasiado mal especificado y es demasiado caótico; la verificación podría seguir centrada en kernels, protocolos, compiladores, criptografía e infraestructura.
- Debate sobre desarrollo “spec-first” frente a añadir pruebas a posteriori: es más fácil si se diseña para la verificación desde el principio, pero el rendimiento y la habilidad del desarrollador son restricciones importantes.
- Se hacen comparaciones con el trabajo de Anthropic/Theorem verificando nixpkgs a nivel de ensamblador; ambos enfoques construyen grandes semánticas de confianza y usan LLM para manejar la escala.