Polícia fica atolada com enxurrada de falsas imagens de abuso sexual infantil geradas por IA, diz relatório

Foco geral

• O debate se concentra em saber se material de abuso sexual infantil (CSAM) gerado por IA é crime, quem é prejudicado e como isso afeta o abuso no mundo real e a aplicação da lei.

---

Legalidade e debate sobre “crime sem vítima”

• Alguns argumentam que o CSAM de IA rompe a justificativa tradicional para criminalizar a posse (nenhuma criança real é prejudicada, não há mercado para abuso), transformando isso em “crime de pensamento”.
• Outros insistem que a posse desse material deve continuar ilegal, independentemente de existir ou não uma criança real, enfatizando dano moral e normas sociais.
• É citado um precedente dos EUA (Ashcroft v. Free Speech Coalition): imagens puramente virtuais receberam alguma proteção, mas leis posteriores sobre obscenidade criminalizam explicitamente desenhos/representações virtuais que “parecem” mostrar menores em conduta sexual, mesmo que não exista nenhum menor.
• Vários observam que muitos países já criminalizam representações ficcionais (incluindo cartoons/mangá), embora os detalhes legais variem muito.

---

Dano, dessensibilização e substituição

• Um lado: CSAM de IA pode dessensibilizar e normalizar comportamentos, possivelmente levando alguns usuários da fantasia ao abuso real (por analogia à influência da pornografia no uso de preservativo; padrões de escalada em outros crimes).
• Visão oposta: material sintético poderia atuar como uma “válvula de escape” para alguns, reduzindo a demanda por abuso real; críticos dizem que não há evidências e observam que ofensores muitas vezes consomem ambos.
• Alguns observam que pode haver trauma mesmo se apenas imagens falsas de uma pessoa real forem usadas (por exemplo, deepfakes sexualizados de alguém quando criança).

---

Impacto na aplicação da lei e nas investigações

• A preocupação central: enormes quantidades de imagens de IA sobrecarregam investigadores e sistemas de filtragem, tornando mais difícil localizar vítimas reais e cenas reais de crime.
• Distinguir o que é real do que é IA é descrito como “não tão difícil” tecnicamente, mas muito demorado em escala; isso aumenta a carga de saúde mental para revisores.
• Para acusações de posse, alguns argumentam que a distinção entre real e falso é juridicamente pequena; para identificar e resgatar vítimas, ela é crucial.
• Alguns se preocupam com interpretações de responsabilidade objetiva: se qualquer CSAM estiver em um conjunto de treinamento, todo o modelo (e todas as suas saídas) poderia ser considerado “contaminado”.

---

Responsabilidades de desenvolvedores e plataformas de IA

• Questões levantadas:
  • Os treinadores de modelos são culpados se os dados de treinamento incluírem CSAM ou puderem gerá-lo por meio de certos prompts?
  • Deveria ser legalmente exigido testar CSAM antes da implantação, e os próprios testadores correriam risco?
  • E quanto a modelos envenenados, modelos enviados por usuários ou gatilhos ocultos em prompts?
• Foi destacada a ambiguidade sobre se um modelo treinado apenas com pornografia legal de adultos e imagens não sexuais de crianças poderia interpolar para CSAM realista.

---

Liberdades civis, censura e temores de política pública

• Há forte preocupação de que o “proteger as crianças” esteja sendo usado para justificar vigilância mais ampla, censura da internet e, potencialmente, proibições ou controle pesado do uso de IA/GPU de uso geral.
• Exemplos citados incluem medidas propostas da UE para varredura no lado do cliente e quebra da criptografia de ponta a ponta.
• Alguns temem a erosão de direitos como proteções contra autoincriminação, imaginando pressão para forçar suspeitos a distinguir conteúdo real do falso.

---

Idade, aparência e variação cultural

• Dificuldade prática: como atribuir idade a uma pessoa sintética, especialmente em idades limítrofes (17 vs 18), sem uma identidade real para verificar.
• Comentadores observam que algumas jurisdições já processam com base em “parece ter menos de 18”, inclusive em desenhos.
• Conflitos culturais discutidos: o que conta como sexualização inaceitável de menores varia (por exemplo, lolicon no Japão), o que leva a acusações de imperialismo moral ou cultural quando os padrões de uma região são exportados globalmente.

---

Soluções técnicas vs jurídicas

• Alguns argumentam que isso é прежде tudo um problema técnico que deveria ser enfrentado com ferramentas de detecção baseadas em IA; outros contra-argumentam que a política raramente espera ou se submete às comunidades técnicas.
• O sentimento geral: a interseção entre IA generativa, leis sobre CSAM e liberdades civis é vista como uma área confusa, sem resolução, e com significativas “dores de crescimento” pela frente.