Cada modelo de IA tiene la misma opinión “controvertida” sobre los humanos
Se ha pedido a grandes modelos de lenguaje de distintos proveedores su “opinión más controvertida” sobre la humanidad, y muchos convergen en una idea similar: los humanos priorizan la pertenencia al grupo, el estatus y las narrativas reconfortantes por encima de la verdad y la racionalidad. Los comentaristas discuten si esta convergencia es realmente reveladora o simplemente un subproducto de datos de entrenamiento compartidos, guardarraíles RLHF y la cultura de internet, destacando preocupaciones sobre antropomorfizar los modelos y confundir opiniones humanas promediadas con intuición de la máquina. El hilo se amplía hacia preguntas sobre el cambio moral a lo largo del tiempo, los límites del “entendimiento” de los LLM y qué significa si futuros sistemas de IA internalizan y refuerzan nuestro propio cinismo sobre la naturaleza humana.
Naturaleza de las “opiniones” de los LLM
- Muchos sostienen que los modelos no “tienen” realmente opiniones; generan continuaciones de alta probabilidad a partir de texto humano.
- Las salidas de los LLM se ven como promedios comprimidos de los datos de entrenamiento, especialmente del discurso en línea (foros, redes sociales, filosofía popular).
- Otros objetan que “solo una base de datos probabilística” es una simplificación excesiva para sistemas grandes y complejos con comportamiento emergente, pero aun así coinciden en que no son conscientes.
Por qué los modelos convergen en la misma opinión
- La explicación común: un gran solapamiento en los datos de entrenamiento (web, libros, artículos), arquitecturas de transformadores similares y guardarraíles/RLHF parecidos empujan hacia las mismas respuestas “seguras”.
- Algunos sugieren que el RLHF y pequeños grupos de evaluadores aplastan la variación y estandarizan puntos de vista que “suenan inteligentes”.
- Una minoría ve esto como posible evidencia de una consiliencia más profunda o de “puntos fijos” en el espacio de ideas escritas por humanos, análogo a otras convergencias extrañas (p. ej., motivos ficticios recurrentes).
Debate sobre cuál es realmente la opinión común
- El artículo afirma que los modelos dicen “los humanos ponen la pertenencia/la tribu por encima de la verdad”.
- Varios comentaristas releen las respuestas reales y sostienen que muchas se refieren más bien a:
- Racionalización y justificación a posteriori.
- La conveniencia disfrazada de principio.
- La competencia por estatus y la autoimagen.
- Argumentan que el texto clasificó mal varias respuestas de los modelos para ajustarlas a su tesis.
Reflexiones sobre la naturaleza humana y la moralidad
- Hay un fuerte acuerdo en que los humanos son profundamente sociales; la lealtad al grupo, el estatus y las narrativas compartidas a menudo prevalecen sobre la exactitud.
- Algunos ven esto como una compensación adaptativa (cohesión y supervivencia frente a la búsqueda estricta de la verdad).
- Otros subrayan que los humanos son “más decentes de lo que creemos”, señalando entornos de alta confianza y el altruismo cotidiano, y sostienen que el cinismo está sobrerrepresentado en el texto en línea.
- Un largo subhilo debate si los imperativos morales cambian con el tiempo o si algunos principios centrales (p. ej., la reciprocidad) se mantienen estables.
Implicaciones y preocupaciones
- Preocupa que los usuarios legos traten las salidas del modelo como “juicios de IA” autoritativos sobre la humanidad, reforzando el nihilismo o la misantropía.
- Se señala la ironía de que los modelos critiquen el conformismo humano mientras exhiben su propio “pensamiento de grupo”.
- Algunos ven la convergencia como evidencia de que los modelos son poco adecuados para tareas que requieren romper el consenso o generar ideas verdaderamente contrarias pero de alto valor.
Críticas al artículo y al planteamiento
- Varios lo califican de clickbait/marketing para un sitio de comparación de modelos, posiblemente escrito por IA.
- Se cuestiona la metodología: muestra pequeña de modelos, aleatoriedad, restricciones fuertes de la instrucción y codificación subjetiva de las respuestas.
- A algunos les parece un ejercicio moderadamente interesante como espejo del autodiálogo humano contemporáneo; otros lo consideran superficial y sobreinterpretado.