OpenAI retira tres resultados matemáticos
La publicación masiva por parte de OpenAI de artículos de matemáticas generados por IA —seguida por la retirada discreta de tres resultados por errores— ha desencadenado un choque entre la investigación de IA impulsada por el hype y los estándares tradicionales de rigor matemático. Los comentaristas debaten si las pruebas parcialmente formalizadas en Lean y los manuscritos ilegibles escritos por IA deben compartirse pronto para el escrutinio de la comunidad o retenerse hasta estar completamente verificados, dado el gran peso que esto impone a los expertos humanos. Bajo todo ello, muchos temen el impacto a largo plazo en el propio ecosistema matemático: desde la financiación y las carreras hasta el riesgo de inundar el campo con “slop” difícil de verificar que podría ralentizar, en lugar de acelerar, el progreso genuino.
Publicación y retiradas
- OpenAI publicó ~700 resultados matemáticos (a partir de ~4,000 problemas) en un volcado de GitHub tipo “preprint”; más tarde retiró tres manuscritos después de que se encontraran errores (p. ej., un error de signo), y añadió varias nuevas formalizaciones en Lean.
- Algunos consideran que 3 resultados retirados de entre cientos son un proceso normal de corrección científica; otros sostienen que eso socava gravemente las afirmaciones principales.
Formalización y verificación en Lean
- Alrededor del 40–42% de los resultados “principales” ahora tienen demostraciones formales en Lean; algunos se añadieron después de la publicación.
- Muchos subrayan que Lean solo garantiza la lógica interna, no que la formalización coincida con el teorema pretendido. Pueden producirse errores en:
- Plantear mal el problema en Lean.
- Usar definiciones ausentes o sutilmente incorrectas.
- Errores raros pero reales del kernel y “reward hacking” de asistentes de pruebas.
- Varios señalan que muchas afirmaciones (p. ej., conjeturas estándar) ya estaban en bibliotecas matemáticas; lo nuevo son las pruebas generadas por máquina.
Calidad, legibilidad y “slop”
- Varios lectores describen los artículos como difíciles de leer, mal organizados y cargados de referencias; “psicosis de IA” y “slop” son temas recurrentes.
- Hay preocupación de que las demostraciones enormes y opacas sean prácticamente imposibles de verificar para humanos, incluso si “comprueban” digitalmente.
Responsabilidades, PR e incentivos
- Los críticos dicen que OpenAI se apresuró por el hype y la apariencia de IPO, publicando trabajo no verificado y trasladando la verificación a la comunidad.
- Los defensores responden que esto es análogo a los preprints humanos en arXiv, y que algunos matemáticos pidieron explícitamente una publicación temprana por transparencia.
- Debate sobre si OpenAI debería haber separado los resultados plenamente verificados en Lean de los especulativos, y sobre si debería pagar a verificadores externos.
Impacto en la comunidad matemática
- Temor de que el hype pueda:
- Debilitar la financiación y las carreras en matemáticas académicas.
- Convertir a los matemáticos en verificadores de pruebas no remunerados para modelos corporativos.
- Erosionarse la “comunidad próspera” necesaria para interpretar y extender resultados.
- Otros sostienen que, si la IA puede automatizar grandes partes de las matemáticas, eso simplemente refleja la realidad económica; algunos acogen con entusiasmo la IA como una nueva y poderosa herramienta.
Paralelos con software y otros campos
- Muchos comparan esto con el código generado por LLM: enorme productividad, pero la verificación y el mantenimiento se convierten en el cuello de botella; los “agent wranglers” reemplazan a los juniors tradicionales.
- Preocupa más ampliamente que el “slop” generado por IA inunde la investigación (matemáticas, software, ciencia experimental), desplazando la escasa atención humana de la creación al triaje y la limpieza.