El efecto LLMentalist (2023)
El escepticismo sobre los grandes modelos de lenguaje choca con capacidades que mejoran rápidamente, desde ayudar con pruebas matemáticas importantes hasta generar software complejo. Los comentaristas debaten si los LLM realmente exhiben inteligencia o solo crean una poderosa ilusión “al estilo psíquico” que explota los sesgos humanos, y cuánto crédito debe ir a los modelos frente a los expertos que los dirigen. Debajo de todo ello, hay una preocupación más amplia por las afirmaciones corporativas opacas, el exceso de hype sobre la “AGI” y cuánta confianza deberíamos depositar en herramientas que son extremadamente útiles y, a la vez, fundamentalmente no transparentes.
Contexto y reacción al ensayo de 2023
- Muchos señalan que la publicación es de mediados de 2023 y la ven como una instantánea ya anticuada; algunos dicen que “tenía sentido entonces”, pero que ahora parece equivocada dado el progreso posterior.
- Otros sostienen que, aunque las capacidades hayan cambiado, partes de la advertencia sobre el hype, la opacidad y el sesgo humano siguen siendo relevantes.
Inteligencia, AGI y definiciones
- Largo debate sobre si los LLM son “inteligentes”, “piensan” o si solo son modelos estadísticos.
- Algunos dicen: inteligencia = resolver problemas difíciles y novedosos; por ese criterio, los LLM califican.
- Otros insisten en que la inteligencia o el pensamiento requieren conciencia o mecanismos similares a los humanos, que los LLM no tienen.
- Varios señalan que no existe una definición consensuada de “inteligencia” o “conciencia”, lo que vuelve circulares los debates.
Navier–Stokes y resultados matemáticos de frontera
- Intensa discusión sobre afirmaciones de que un LLM “resolvió” Navier–Stokes de un solo golpe.
- Un lado: los modelos de frontera produjeron de forma independiente ideas clave, operan a nivel humano superior o por encima en algunas áreas y merecen crédito sustancial.
- El otro lado: los humanos formularon y dirigieron el trabajo; las herramientas no reciben crédito; el proceso es opaco, con prompts, datos e implicación humana desconocidos.
- Disputa sobre una supuesta coincidencia con trabajos previos de un grupo académico; algunos ven “plagio”, otros dicen que la contribución de la IA aun así fue sustancial.
Analogía con el psíquico / estafador
- Afirmación central del artículo: los chatbots funcionan como psíquicos: seguros de sí mismos, adaptables y buenos para guiar a los humanos mientras reciben demasiado crédito.
- Los partidarios destacan la sugestionabilidad humana, la sobreatribución y cómo la confianza junto con ayuda parcial puede parecer magia.
- Los críticos responden que, a diferencia de los psíquicos, los LLM ahora demuestran teoremas verificablemente, encuentran errores, escriben software, etc., así que la analogía solo llega hasta cierto punto.
Capacidades frente a limitaciones
- Los comentaristas pro-IA enumeran éxitos: pruebas formales, resolución de problemas matemáticos de larga data, generación de código funcional, detección de vulnerabilidades reales.
- Los escépticos destacan alucinaciones, coincidencia superficial de patrones (por ejemplo, matemáticas incorrectas, sesgo en acertijos) y fragilidad; temen que ya debas conocer la respuesta para confiar en la salida.
- Algunos presentan a los LLM como “herramientas inteligentes” muy potentes cuya fiabilidad depende mucho de arneses, prompts y experiencia humana.
Opacidad, hype y escepticismo
- Gran preocupación por los modelos propietarios y opacos, y por un marketing que los vende como casi AGI mientras oculta detalles clave.
- Otros argumentan que los saltos repetidos de capacidad entre generaciones de modelos son evidencia empírica, y que descartarlo por completo ahora parece “cope”.
Ética, conciencia y alineación
- Debate sobre si hacen falta agencia, autonomía o “stakes” para una alineación segura; algunos prevén futura “IA soberana”, otros rechazan un peligro inminente.
- Una minoría plantea una preocupación moral: si algún sistema llegara a ser consciente, el uso actual podría parecer esclavitud; otros dicen que los sistemas de hoy claramente no son conscientes.
Trabajo, empleo y adaptación
- Algunos prevén efectos en cadena de décadas, comparables a los coches, los PCs o Internet, con muchos trabajos de conocimiento reconfigurados o desplazados.
- Otros dicen que la estrategia individual es tratar los LLM como herramientas en evolución: aprender continuamente en qué son fuertes o débiles e integrarlos en el propio flujo de trabajo.