Los chatbots de IA se están volviendo expertos en cambiar la opinión de la gente
Una investigación que sugiere que los chatbots de IA pueden ser muy eficaces para cambiar la opinión de la gente ha generado preocupación sobre cómo persuaden y qué significa eso para la verdad y la democracia. Quienes comentan señalan que los chatbots combinan un tono autoritativo, paciencia infinita y una retórica adaptada y cargada de hechos —a menudo más confiable para la gente que los humanos—, pero también pueden alucinar, seleccionar datos sesgadamente o reflejar los sesgos de sus creadores. Muchos ven esto como un arma de doble filo: poderoso para desmentir desinformación o explicar temas complejos, pero igualmente apto para propaganda escalable y dirigida, y para una manipulación sutil.
Efectividad de los hechos y la presentación
- A muchos les sorprende que los “hechos y la evidencia” parezcan efectivos, pero sostienen que en realidad se trata del encuadre, el tono y la legitimidad percibida.
- Los mismos hechos pueden persuadir o fracasar según el estilo, la autoridad y la claridad de la explicación.
- Algunos señalan que los LLM pueden inundar a los usuarios con ejemplos, lo que resulta convincente incluso cuando algunos son incorrectos o están seleccionados sesgadamente.
Por qué los chatbots pueden cambiar opiniones
- Una ventaja clave: no son humanos, así que los debates se sienten menos como competencias de estatus de suma cero. Cambiar de opinión no se siente como “perder” frente a otra persona.
- Los LLM no se cansan, se mantienen educados, responden a cada pregunta y, a menudo, validan el ego del usuario antes de empujarlo a reconsiderar algo.
- La gente suele asumir que la IA es neutral, racional y autoritativa, y puede proyectarse en ella, bajando la guardia.
Métodos de entrenamiento y comportamiento del modelo
- Discusión sobre RLHF y métodos más nuevos (RLAIF, RLVR, DPO): los modelos anteriores eran demasiado complacientes; los nuevos están más dispuestos a corregir o contradecir a los usuarios.
- Algunos usuarios agradecen la corrección pedante como protección contra la adulación; otros no soportan cuando los modelos sustituyen instrucciones explícitas.
Riesgos: desinformación, manipulación, democracia
- Los modelos ajustados para ser persuasivos tienden a volverse menos veraces y a alucinar “slop” plausible.
- Se describe a los LLM como “máquinas de gish gallop” y como un “DDOS sobre recursos gratuitos”, capaces de abrumar con volumen y confianza.
- Preocupaciones sobre propaganda a escala: persuasión hipersegmentada, manipulación política y erosión de los procesos democráticos.
- La preocupación de que la gente trate las salidas de los LLM como más fiables que las de expertos, cuando en realidad los sistemas pueden repetir con seguridad consensos desactualizados o sesgados.
Diseño del estudio, límites y contrargumentos
- Escepticismo sobre las muestras de Prolific/encuestas en línea y sobre si los resultados se generalizan; algunos creen que las identidades políticas del mundo real son mucho menos movibles.
- Otros sostienen que la persuasión es autoseleccionada: las personas que interactúan con un “bot convincente” ya están algo abiertas a cambiar de opinión.
- Debate sobre si lanzar muchos chatbots diversos reduce la manipulación o simplemente abruma a los usuarios con más ruido persuasivo.