Mitificar la IA hace más probable que no sepamos operarla bien (2023)
Los argumentos sobre qué debería contar como “inteligencia artificial” dominan este intercambio, y muchos contraponen los modelos de lenguaje actuales —sistemas estadísticos potentes pero propensos a errores— con el objetivo largamente imaginado de una inteligencia de nivel humano o “AGI”. Los comentaristas debaten si los modelos actuales realmente razonan o solo lo simulan, cómo las definiciones cambiantes de “inteligencia” y “IA” distorsionan las expectativas públicas, y por qué sobreexagerar o mitificar la tecnología podría llevar a una mala gestión, miedos mal ubicados y políticas deficientes. Junto a esto, hay llamados a una terminología más clara, a la procedencia digital de las salidas de IA y a una cultura de cautela tanto respecto a los impactos económicos como a los futuros riesgos existenciales.
Alcance y actualidad del artículo
- Varios señalan que el artículo tiene ~3 años; algunos creen que sigue siendo válido porque los LLM modernos son versiones ampliadas del mismo enfoque básico.
- Otros ven su publicación ahora como un anzuelo, dada la rapidez con la que han avanzado los modelos y lo a la defensiva que se ponen algunos usuarios cuando se critica a los LLM.
Qué cuenta como “IA” e “inteligencia”
- Hay un fuerte desacuerdo sobre llamar “IA” a los LLM:
- Unos dicen que son generadores avanzados de texto, no inteligencias autónomas; “IA” debería reservarse para sistemas de nivel humano o de “AGI”.
- Otros argumentan que el campo lleva décadas usando “IA” para todo, desde IA de juegos hasta NPCs, y que los LLM claramente encajan en “artificial” + “comportamiento inteligente” en la práctica.
- Muchos señalan que “inteligencia” carece de una definición clara y medible; la gente habla sin entenderse y a menudo mueve la meta cuando las computadoras dominan una tarea.
- Algunos sugieren abandonar “inteligencia” como término científico y, en cambio, hablar de capacidades o habilidades específicas.
Capacidades y fallos de los LLM
- Los defensores subrayan que pueden resolver problemas matemáticos originales, programar y aprobar exámenes; esto no puede compararse de forma significativa con las calculadoras.
- Los escépticos destacan modos de fallo: alucinaciones, planes absurdos (p. ej., caminar frente a conducir), inyección de prompts, confusiones con el estado de las herramientas, deriva lingüística y razonamiento frágil.
- Debate sobre si estos fallos son fundamentalmente distintos de los errores humanos o solo otro matiz de un razonamiento falible.
- Algunos comparan las configuraciones actuales de múltiples llamadas/agentes con algoritmos probabilísticos: ejecutarlos muchas veces hasta que aparezca una respuesta suficientemente buena.
Test de Turing, AGI y antropomorfización
- Hay desacuerdo sobre si los modelos modernos “superan” pruebas de Turing robustas, especialmente frente a jueces humanos motivados.
- Algunos ven a los LLM como una inteligencia “alienígena”; otros dicen que llamar a esto “razonamiento” es solo renombrar la coincidencia de patrones.
- Preocupa que mitificar y antropomorfizar sistemas (términos de marketing como “razonamiento”, “agentes”) engañe al público y a los responsables de políticas.
Riesgo, autonomía y utilidad
- Un bando: los sistemas actuales son herramientas potentes, pero no están ni cerca de una toma de control autónoma; hablar de “riesgo existencial” parece prematuro o cuasirreligioso.
- Otro: no es demasiado pronto para ser cautelosos; una autonomía creciente junto con acceso a infraestructura podría ser peligroso, especialmente a medida que mejoren los modelos locales y rápidos.
Procedencia, privacidad y gobernanza
- Gran interés en la “procedencia digital” de las salidas de IA: un equivalente a “View Source” que explique qué patrones de datos de entrenamiento moldearon el comportamiento, para apoyar la rendición de cuentas y la depuración.
- Algunos prefieren definir la privacidad como control sobre qué datos se extraen, en lugar de un vago “derecho a que te dejen en paz” o a “no ser manipulado”.
- Varios sostienen que los nombres y el encuadre conceptual importan mucho: nombrar mal las tecnologías puede llevar a expectativas erróneas, exageración y errores de política.