Cuban: Facebook sabe que veicula anúncios fraudulentos com deepfakes de IA; documentos dizem que há US$16 bilhões em receita de fraude

Facebook e outras grandes plataformas de anúncios são acusadas de lucrar conscientemente com fraudes em grande escala, incluindo anúncios fraudulentos com deepfakes gerados por IA que se fazem passar por figuras públicas e promovem investimentos ou produtos falsos. Comentadores debatem se leis existentes como a Seção 230 são adequadas, argumentam que plataformas e anunciantes deveriam responder legalmente por anúncios fraudulentos e apontam incentivos fracos e regulação deficiente como razões para a tolerância das big tech aos golpes. Muitos veem o modelo mais amplo de ad-tech — movido por vigilância, otimização de engajamento e verificação mínima — como inerentemente propenso a abusos e prejudicial aos usuários e à sociedade.

Prevalência de anúncios fraudulentos em várias plataformas

  • Muitos participantes dizem que anúncios enganadores ou claramente fraudulentos agora são onipresentes no Facebook, Instagram, YouTube, Google, Amazon, eBay e outras plataformas.
  • Os exemplos incluem esquemas falsos de investimento usando a imagem de celebridades, produtos milagrosos para a saúde, alegações impossíveis sobre gadgets, produtos falsificados, drogas ilegais e até conteúdo sugerindo material de abuso infantil.
  • Várias pessoas relatam que praticamente “todo outro anúncio” ou “metade de todos os anúncios” que veem são golpes óbvios.

Conhecimento da Meta e incentivos internos

  • Uma investigação da Reuters citada afirma que a Meta projetou internamente que cerca de 10% da receita anual (~US$16 bilhões) vem de anúncios fraudulentos ou banidos.
  • Documentos supostamente mostram que a Meta só bane anunciantes quando sistemas automatizados têm ≥95% de confiança de que são golpes; abaixo disso, os anúncios permanecem no ar, mas pagam taxas mais altas.
  • Alguns com experiência em publicidade ou interna afirmam que a Meta afrouxa a fiscalização para grandes gastadores.

Experiências dos usuários e danos

  • Há vários relatos de usuários e parentes perdendo dinheiro com anúncios fraudulentos; algumas vítimas são idosas.
  • Muitos dizem que denunciam repetidamente anúncios flagrantemente fraudulentos ou perturbadores e recebem respostas de “nenhuma violação encontrada”.
  • Isso alimenta a desconfiança e a sensação de que as plataformas priorizam receita acima da segurança.

Responsabilidade jurídica e debate sobre a Seção 230

  • Um lado argumenta que remover ou reformar a Seção 230, especialmente para anúncios pagos, forçaria as plataformas a verificar anunciantes como a mídia tradicional.
  • Outros rebatem que:
    • A Seção 230 já não protege conduta criminosa.
    • Removê-la apenas consolidaria os gigantes que podem arcar com processos e destruiria fóruns menores.
  • Há discordância sobre se as redes sociais são “publicadoras” no sentido legal e sobre se as definições jurídicas deveriam mudar.

IA, automação e responsabilidade

  • Alguns discutem usar IA para detectar e bloquear automaticamente anúncios fraudulentos, observando que as plataformas já usam perfis sofisticados para publicidade.
  • Outros enfatizam que a automação não deve reduzir a responsabilidade: se uma empresa implanta IA que aprova golpes, a empresa ainda deve ser responsável.
  • São feitas analogias com engenharia de pontes, carros autônomos e ferramentas perigosas: a organização humana que implanta o sistema deve arcar com o risco.

Remédios propostos e regulação

  • As ideias incluem:
    • Tornar as plataformas legalmente responsáveis por anúncios fraudulentos que distribuem.
    • Regras de “conheça seu cliente” para anunciantes.
    • Acabar com ou limitar feeds algorítmicos; voltar a conteúdo cronológico e opcional.
    • Proteção ao consumidor e aplicação criminal mais fortes, especialmente para grandes plataformas.
    • Propostas mais radicais: banir anúncios online, ou mover anúncios para diretórios de produtos regulamentados e administrados por consumidores.

Crítica mais ampla à publicidade e às plataformas

  • Muitos veem o ad-tech como intrinsecamente desalinhado com os interesses do usuário, otimizando manipulação e captura de atenção.
  • Alguns argumentam que a normalização de golpes reflete problemas mais profundos: regulação fraca, indiferença movida pelo lucro e uma cultura que tolera marketing enganoso.