Meta veiculou anúncios que continham imagens de abuso sexual infantil geradas por IA
As plataformas de anúncios da Meta para Facebook, Instagram, Messenger e Threads foram encontradas aprovando e veiculando imagens de abuso sexual infantil geradas por IA, reacendendo preocupações sobre o quão pouco as grandes empresas de tecnologia investem em moderação significativa de anúncios. Comentadores argumentam que, na escala da Meta, ferramentas automatizadas falham rotineiramente e a revisão humana é totalmente viável ao menos para anúncios pagos, mas é evitada porque reduziria o lucro. Muitos pedem regulação mais dura e responsabilidade pessoal para executivos, regras mais rígidas para publicidade online e até limites para a escala das plataformas, sustentando que multas se tornaram apenas mais um custo de fazer negócios.
Reação geral
- Forte condenação à Meta por veicular anúncios com imagens de abuso sexual infantil geradas por IA (CSAM / “conteúdo de exploração sexual infantil”).
- Muitos argumentam que isso cruza uma linha vermelha porque a Meta foi paga para distribuir o material, ao contrário de postagens puramente geradas por usuários.
- Tema recorrente: se indivíduos fizessem isso, seriam presos; corporações e executivos, em grande parte, enfrentam apenas multas administráveis.
Responsabilidade, regulação e punição
- Há um sentimento generalizado de que as multas atuais são apenas um “custo de fazer negócios” e não mudam o comportamento.
- As propostas incluem: responsabilidade criminal pessoal para executivos, “três strikes” levando à dissolução e prisão, e uma espécie de pena de morte corporativa de facto para casos repetidos ou graves.
- Outros sugerem calibrar as multas ao dano social real, reconhecendo que alguns erros são estatisticamente inevitáveis em escala.
- A Seção 230 é debatida, com vários argumentando que ela nunca deveria ter coberto anúncios pagos.
Moderação em escala vs. modelo de negócios
- Um lado: no tamanho da Meta, uma moderação totalmente segura é praticamente impossível, especialmente para postagens de usuários; a verdadeira conclusão deveria ser que nenhum serviço deveria ter permissão para operar em escala ingovernável.
- O outro lado: a Meta tem lucros enormes e poderia pagar moderação humana em massa, ao menos para anúncios; se não consegue fazer isso com segurança, não deveria ser autorizada a operar o negócio como está.
- Sugestões concretas: revisão humana de todos os anúncios, gasto mínimo mais alto em anúncios para financiar a revisão, onboarding e verificação de identidade mais rígidos para anunciantes, escrutínio em camadas para compradores novos/de baixa reputação.
Papel da IA
- A IA é culpada tanto por gerar conteúdo problemático (por exemplo, ferramentas de “nudify”) quanto por não conseguir detectá-lo.
- Alguns argumentam que a IA é a única ferramenta viável nessa escala; outros a veem como uma forma de evitar responsabilidade ao culpar “o algoritmo”.
- Preocupação com uma corrida armamentista: geração de anúncios por IA versus moderação por IA.
Problemas mais amplos do ecossistema de anúncios
- Vários relatos anedóticos de anúncios fraudulentos, sexuais ou violentos na Meta, YouTube, Google Play etc., com denúncias rotineiramente descartadas.
- Observação de que as plataformas são muito mais eficazes em fazer cumprir direitos autorais e os interesses de grandes marcas do que em bloquear fraudes ou CSAM.
- Desconfiança generalizada dos pipelines de anúncios; bloqueadores de anúncios e clientes alternativos são amplamente recomendados.
Definições e estatísticas
- Debate sobre “CSAM” versus “conteúdo de exploração sexual infantil” e se nudez gerada por IA ou não abusiva deveria ser colocada no mesmo grupo.
- Alguns observam que grandes partes do material sinalizado envolvem sexting de adolescentes ou pais que compartilham demais, o que complica a pergunta “por que não há milhões presos?”.
- A suposta remoção de 36 milhões de itens pela Meta em um ano é vista tanto como evidência da escala quanto de uma falha sistêmica persistente.