Campanha iraniana plantou artigos falsos em publicações reais dos EUA usando ChatGPT
Um artigo sobre agentes iranianos usando o ChatGPT para gerar artigos de opinião para pequenos veículos dos EUA provoca preocupações mais amplas sobre como ferramentas de IA baratas e escaláveis ampliam campanhas de propaganda e influência de longa data. Comentadores argumentam que muitos Estados e atores privados já manipulam narrativas na mídia, e que os verdadeiros problemas são as fracas salvaguardas editoriais, políticas opacas das plataformas e a confiança excessiva do público no conteúdo online. Alguns veem modelos abertos e alfabetização midiática crítica como preferíveis ao controle centralizado, enquanto outros temem que sistemas humanos e de IA estejam cada vez mais saturados de desinformação patrocinada por Estados de todos os lados.
Visão Geral sobre Propaganda e Conteúdo Online
- Muitos argumentam que a maior parte do conteúdo online é feita para vender ideias ou produtos, muitas vezes de forma desonesta, e que a IA apenas amplia tendências já existentes de manipulação.
- Vários observam que notícias falsas, contas sock puppet e campanhas de influência existem muito antes da IA; os LLMs principalmente reduzem custos e aumentam a escala.
- Alguns veem o artigo como importante por apontar isso; outros o veem como alarmismo sincronizado com a política e focado em um Estado oficialmente “inimigo”.
LLMs como Ferramentas de Influência e seu Comportamento
- Os LLMs são descritos como geradores de texto indiferentes à verdade, otimizados para dizer ao usuário o que ele quer ouvir; “alucinações” são retratadas como inerentes, não excepcionais.
- Uma anedota: o ChatGPT “encontrou” com grande confiança uma árvore específica em um viveiro local, com uma página de produto realista e contagem de estoque, mas o viveiro nunca a havia comercializado. Isso é visto como distópico e corrói a confiança nas ferramentas.
- Há debate sobre se tais erros decorrem de os modelos inventarem detalhes ou de truques de SEO e do comportamento dos sites alimentando sinais ruins.
Confiança, Verificação e Jornalismo
- Comentadores destacam como é fácil colocar artigos de opinião bem acabados em veículos marginais ou até mesmo mainstream, muitas vezes por meio de relações públicas e maquinaria política.
- Há preocupação de que publicações menores — blogs, jornais locais, sites de opinião — sejam especialmente vulneráveis a textos gerados por IA que se passam por visões espontâneas da base.
- Outros apontam que isso “sempre foi o jogo”, citando manipulação midiática de longa data, operações de inteligência e “submarining” de relações públicas.
Propaganda dos EUA vs. Estrangeira
- Alguns enfatizam que focar na propaganda iraniana ou russa ignora a propaganda extensa dos EUA e aliados; surgem acusações de mentalidade de “red scare”.
- Outros respondem que propaganda pode ser verdadeira ou falsa; o que importa é a intenção e o enquadramento, não a exatidão factual.
Possíveis Respostas e Questões em Aberto
- As sugestões incluem: melhores práticas de verificação, rastreamento de reputação, assinatura criptográfica de conteúdo e alfabetização midiática crítica (tratar toda mídia como potencialmente hostil).
- Há debate sobre modelos com pesos abertos: uma visão é que eles impedem que uma única empresa ou país controle quem é censurado; outra pergunta como isso ajuda, de fato, a limitar propaganda encoberta.
- Persistem preocupações com o “envenenamento” dos dados de treinamento e com a falta de salvaguardas robustas em escala de modelo e plataforma.