Campaña iraní colocó artículos falsos en publicaciones reales de EE. UU. usando ChatGPT
Un artículo sobre operativos iraníes que usaron ChatGPT para generar op-eds para pequeños medios de EE. UU. provoca preocupaciones más amplias sobre cómo las herramientas de IA baratas y escalables potencian campañas de propaganda e influencia de larga data. Los comentaristas sostienen que muchos estados y actores privados ya manipulan narrativas mediáticas, y que los problemas reales son las débiles salvaguardas editoriales, las políticas opacas de las plataformas y la excesiva confianza del público en el contenido en línea. Algunos ven en los modelos abiertos y la alfabetización mediática crítica una mejor opción que los controles centralizados, mientras que otros temen que tanto los sistemas humanos como los de IA estén cada vez más saturados de desinformación respaldada por estados de todos los bandos.
Visión general sobre la propaganda y el contenido en línea
- Muchos sostienen que la mayor parte del contenido en línea está diseñado para vender ideas o productos, a menudo de forma deshonesta, y que la IA simplemente amplifica tendencias ya existentes de manipulación.
- Varios señalan que las noticias falsas, los sock puppets y las campañas de influencia preceden ampliamente a la IA; los LLM solo reducen el costo y aumentan la escala.
- Algunos ven el artículo como importante por señalar esto; otros lo ven como alarmismo sincronizado con la política y centrado en un estado “enemigo” oficial.
Los LLM como herramientas de influencia y su comportamiento
- Se describe a los LLM como generadores de texto indiferentes a la verdad, optimizados para decir a los usuarios lo que quieren oír; las “alucinaciones” se presentan como inherentes, no excepcionales.
- Una anécdota: ChatGPT “encontró” con gran seguridad un árbol específico en un vivero local, con una página de producto realista y un conteo de stock, pero el vivero nunca lo había tenido. Esto se considera distópico y erosiona la confianza en las herramientas.
- Debate sobre si estos errores provienen de modelos que inventan detalles o de trucos de SEO subyacentes o del comportamiento de sitios que alimentan malas señales.
Confianza, verificación y periodismo
- Los comentaristas destacan lo fácil que es colocar piezas de opinión pulidas en medios marginales o incluso de corriente principal, a menudo mediante relaciones públicas y maquinaria política.
- Existe preocupación de que las publicaciones más pequeñas —blogs, periódicos locales, sitios de opinión— sean especialmente vulnerables a op-eds generadas por IA que se hacen pasar por opiniones de base.
- Otros señalan que esto “siempre ha sido el juego”, citando manipulación mediática de larga data, operaciones de inteligencia y “submarining” de relaciones públicas.
Propaganda de EE. UU. frente a propaganda extranjera
- Algunos insisten en que centrarse en la propaganda iraní o rusa ignora la extensa propaganda de EE. UU. y sus aliados; aparecen acusaciones de mentalidad de “red scare”.
- Otros responden que la propaganda puede ser verdadera o falsa; lo que importa es la intención y el encuadre, no la exactitud factual.
Posibles respuestas y preguntas abiertas
- Entre las sugerencias están: mejores prácticas de verificación, seguimiento de reputación, firmas criptográficas del contenido y alfabetización mediática crítica (tratar todos los medios como potencialmente hostiles).
- Debate sobre los modelos de pesos abiertos: una postura es que evitan que una sola empresa o país controle a quién se censura; otra pregunta cómo esto ayuda a limitar la propaganda encubierta en absoluto.
- Siguen existiendo preocupaciones sobre el “envenenamiento” de los datos de entrenamiento y la falta de salvaguardas robustas a escala de modelo y plataforma.