Los loros estocásticos al parecer han demostrado la Hipótesis de Riemann

El titular sarcástico de un destacado científico de la computación teórica sobre que los “loros estocásticos” han demostrado la Hipótesis de Riemann se ha convertido en un punto de choque para argumentos más amplios sobre qué hacen realmente los modelos de lenguaje grandes y cuán en serio tomar sus logros. Los comentaristas debaten si las pruebas de teoremas profundos asistidas por LLM y verificadas con Lean representan un razonamiento genuino o solo una búsqueda masiva y guiada sobre patrones generados por humanos, y cuánta confianza depositar en pruebas formales de 17 millones de líneas y en los propios verificadores de pruebas. El intercambio se amplía hacia preocupaciones sobre el impacto de la IA en las carreras, la estratificación económica y la comprensión humana, con algunos viendo una herramienta poderosa para extender las matemáticas y otros temiendo un futuro en el que el trabajo científico central exceda la comprensión humana.

Título y marco de “loros estocásticos”

  • Muchos leen el titular como sarcástico: una pulla a quienes insistían en que los LLM son “solo loros estocásticos”, no a los sistemas en sí.
  • Algunos encuentran el tono desagradable o condescendiente; otros creen que es una crítica justa y tardía a años de retórica despectiva sobre los LLM.
  • Varios señalan que “loro estocástico” se refería originalmente a riesgos/sesgos, no a inutilidad, pero desde entonces se ha convertido en un meme y en un hombre de paja.

Papel de la IA frente al matemático humano y Lean

  • Se repite que esto fue una colaboración: un matemático de primer nivel, el asistente de pruebas Lean y un LLM.
  • Algunos sostienen que el verdadero poder es “matemático + Lean + IA”, no la IA sola; otros invierten retóricamente esto a “las instalaciones de cómputo necesitan matemáticos”.
  • Hay escepticismo hacia las afirmaciones de que “la IA demostró RH” sin poner en primer plano la guía humana y las formalizaciones ya existentes en Mathlib.

Confianza, verificación y comprensibilidad

  • Preocupa que nadie vaya a “entender” de verdad una prueba de Lean de 17 millones de líneas; la analogía es bajar de la montaña con tablas de piedra.
  • Contraargumento: no hace falta releer todas las líneas, solo verificar la formalización de la hipótesis/axiomas y confiar en el kernel de Lean.
  • Algunos subrayan que Lean sigue teniendo errores y dudas de solidez en la teoría de tipos; una IA suficientemente capaz podría explotarlos.
  • Debate sobre si una prueba que solo una máquina puede comprobar avanza de manera significativa la comprensión humana, o si es un “créeme” salido de una computadora.

¿Siguen siendo los LLM “loros estocásticos”?

  • Un bando: son inherentemente loros estocásticos por diseño; el entrenamiento al estilo RL y el chain-of-thought solo “doblan números” y no crean razonamiento real.
  • El otro bando: llamarles loros ahora es engañoso; con verificación y búsqueda al estilo RL realizan auténtica resolución de problemas, incluidas pruebas novedosas.
  • Varias analogías: moho mucilaginoso o agua resolviendo laberintos, el teorema de los monos infinitos, búsqueda aleatoria filtrada, “loros estocásticos motivados”.
  • Desacuerdo sobre si las capacidades observadas cuentan como “razonamiento” o solo como interpolación sofisticada de patrones; no hay consenso.

Cómputo, límites de hardware y economía

  • Especulación de que el cómputo futuro superará con creces al actual, permitiendo muchos más avances de este tipo; otros advierten sobre límites físicos, económicos y energéticos.
  • Comparaciones con la aviación: la velocidad se estancó por razones económicas/ambientales; el cómputo podría toparse también con techos de costo.
  • Algunos esperan correcciones de inversión en entrenamientos masivos; otros sostienen que los incentivos de beneficio y la maximización de entropía mantendrán el escalado.

Implicaciones sociales, profesionales y existenciales

  • Ansiedad de que los trabajos intelectuales de alto nivel (incluida la matemática teórica y la CS) se devalúen; otros argumentan que los humanos seguirán eligiendo problemas y teorías.
  • Visiones divergentes sobre el impacto macro: desde una IA que empeora la estratificación, hasta un eventual colapso del sistema y distribución estatal de recursos, pasando por un optimista “nuevas fronteras”.
  • Preocupación más amplia de que los humanos usen cada vez más herramientas que no pueden comprender profundamente, convirtiéndose en “gatos felices” mientras las máquinas hacen la verdadera ciencia; otros responden que la mayoría ya vive así en otros ámbitos.