Todavía no puede hacer mi trabajo: cuatro años moviendo la portería (2022–2026)

Definición de AGI y “mover la portería”

• Muchos sostienen que “AGI” es vago o carece de sentido; la inteligencia a nivel humano se ve como un punto de referencia arbitrario que sigue cambiando a medida que mejoran las capacidades.
• Otros insisten en que AGI sí tiene sentido: por lo general, “capaz de reemplazar a los humanos en casi cualquier trabajo” o “pasar la prueba de Turing”, o definiciones más ambiciosas como la terraformación autónoma de un planeta.
• Algunos afirman que AGI ya existe (por ejemplo, los LLM modernos pasando pruebas prácticas tipo Turing), mientras que otros sostienen que AGI nunca ocurrirá, o no dentro de 50 años.
• La propia prueba de Turing se debate: si es “existe al menos un entorno en el que se engaña a los humanos” frente a “indistinguibilidad consistente”, y si ELIZA ya satisfizo la forma débil.

Capacidades, límites y alucinaciones

• Los participantes coinciden en que los modelos están ganando competencia rápidamente en múltiples dominios, especialmente programación y generación de contenido.
• Sigue habiendo un fuerte escepticismo respecto a la fiabilidad: las alucinaciones y las invenciones arbitrarias se ven como descalificantes para muchos usos críticos para la seguridad.
• Las comparaciones con el error humano se disputan: algunos dicen que los humanos también “se inventan cosas”, otros responden que los profesionales sanos no alucinan con la frecuencia o la gravedad de los LLM.

Impacto en el trabajo y la estructura laboral

• Muchos ven los LLM como herramientas potentes que aumentan, no reemplazan, a los trabajadores del conocimiento, especialmente a los programadores.
• Existe preocupación de que los roles de “niñera de IA” o revisor sean débiles, estén mal pagados y sean ineficaces para detectar errores raros pero catastróficos.
• Algunos esperan una mayor consolidación de roles (desarrolladores absorbiendo QA, administración de proyectos), con los roles de coordinación no técnicos volviéndose vulnerables.
• Otros dudan de que la ingeniería de software y el trabajo de oficina en general puedan automatizarse por completo.

Economía, poder y ética

• Hay una fuerte frustración con el entusiasmo exagerado por la IA y el bombo de los CEO: las predicciones repetidas a corto plazo sobre AGI, la extinción de empleos y las afirmaciones de “demasiado peligroso para lanzarlo” se ven como manipulación del mercado.
• Las preocupaciones incluyen: concentración de capital, devaluación de los humanos promedio, una posible subclase o peor, y empresas privadas controlando infraestructuras críticas de IA.
• Algunos temen armas autónomas y escenarios de “Terminator/SkyNet”; otros creen que los debates sobre alineación siguen siendo especulativos.

Observaciones culturales y meta

• Varios señalan una creciente dependencia psicológica de los LLM para escribir y pensar, incluso en publicaciones que critican la IA.
• La aparente prosa generada por IA del artículo y el chiste de “IQ: yes” generan reacciones mixtas, desde diversión hasta fastidio.