Cosas que descubrimos sobre la IA en 2023
Los modelos de lenguaje grandes en 2023 están llevando a la gente a replantearse tanto la inteligencia artificial como la humana: hasta dónde pueden llegar los sistemas solo de texto, qué revelan sobre la cognición humana multicapa y si las máquinas digitales podrán llegar a aproximarse por completo a los cerebros analógicos. Los comentaristas debaten cuestiones técnicas y filosóficas como la credulidad en los modelos, los límites de las arquitecturas transformer, el significado de “IA” frente a “AGI” y si los sistemas actuales realmente “comprenden” o solo son herramientas potentes. Otros se centran en impactos prácticos, desde la generación de código y el trabajo creativo hasta cómo los LLM exponen sesgos culturales y pueden reconfigurar las ciencias sociales y nuestra idea de la singularidad humana.
Inteligencia humana vs. inteligencia de máquina
- Varios comentaristas sostienen que los LLM revelan cuánto depende la cognición humana del lenguaje, pero también cuánto más hay (pensamiento visual, habilidades motoras, emoción, multimodalidad).
- Algunos describen los cerebros como multicapa: algo parecido a un LLM más modelos de la física del mundo, lógica y razonamiento simbólico.
- Historias personales (lesión cerebral, TDAH, discapacidades) se usan para contrastar la flexibilidad y la compensación humanas con las capacidades estrechas de los LLM basadas en texto.
- Otros señalan que gran parte del discurso humano cotidiano ya se parece a una “continuación al estilo LLM” de guiones muy trillados.
Analógico vs. digital, límites de la computación
- Un bando afirma que la inteligencia humana es fundamentalmente analógica y no puede emularse perfectamente de forma digital, invocando el argumento diagonal de Cantor y una “barrera de cardinalidad”.
- Los opositores responden que los sistemas digitales pueden aproximar arbitrariamente bien los procesos físicos (computables en números reales); el problema es la eficiencia, no la posibilidad.
- Hay desacuerdo sobre si una inteligencia similar a la del cerebro es simulable en la práctica o solo en principio.
Credulidad y verdad
- Algunos creen que la credulidad puede mitigarse con mejor entrenamiento (datos contrafactuales, RAG, comportamiento de verificación de hechos).
- Otros sostienen que los transformers no comprenden realmente el significado, señalando un comportamiento inconsistente entre idiomas y la sensibilidad a la frecuencia de datos de entrenamiento contradictorios.
- Hay un amplio acuerdo en que los humanos también son crédulos, lo que hace que la “robustez ideal” sea un objetivo muy difícil.
Complejidad, “caja negra” e inteligencia
- Se señala que las arquitecturas centrales de los LLM son sorprendentemente pequeñas (cientos de líneas) una vez que se asume la existencia de pilas de software ya existentes, aunque los críticos dicen que esto oculta el enorme ecosistema circundante.
- Debate sobre si los LLM son “cajas negras”: las matemáticas y el código se entienden, pero el comportamiento emergente parecido a la inteligencia no se puede explicar por completo.
- Algunos insisten en que los LLM son solo herramientas potentes, no “inteligentes”, y trazan analogías con motores de ajedrez que juegan de forma inhumana, con estilo “basura”, aunque sean imbatibles.
IA vs. AGI, terminología e impacto social
- Continúa el desacuerdo sobre si “IA” debería abarcar ML/LLM o reservarse para la AGI/nivel humano; muchos señalan que históricamente la IA siempre ha sido un término amplio.
- Los LLM se ven como espejos de la cultura en línea: los datos de entrenamiento en bruto frente a las barreras impuestas a posteriori resaltan conflictos sociales y deseos de censura.
- La discusión toca las pruebas de Turing, los zombis filosóficos y si los sistemas actuales realmente desafían el excepcionalismo humano o más bien exponen los límites de conceptos anteriores de inteligencia.
LLMs para programar y trabajar
- Algunos advierten que “solo ejecuta el código para ver si es correcto” es engañoso; los modelos mentales y la revisión cuidadosa siguen siendo esenciales.
- Otros informan que los LLM ayudan significativamente a explicar, refactorizar y escribir pruebas, pero enfatizan la calidad por encima de la velocidad bruta.