Cuban: Facebook sabe que veicula anúncios fraudulentos com deepfakes de IA; documentos dizem que há US$16 bilhões em receita de fraude
Facebook e outras grandes plataformas de anúncios são acusadas de lucrar conscientemente com fraudes em grande escala, incluindo anúncios fraudulentos com deepfakes gerados por IA que se fazem passar por figuras públicas e promovem investimentos ou produtos falsos. Comentadores debatem se leis existentes como a Seção 230 são adequadas, argumentam que plataformas e anunciantes deveriam responder legalmente por anúncios fraudulentos e apontam incentivos fracos e regulação deficiente como razões para a tolerância das big tech aos golpes. Muitos veem o modelo mais amplo de ad-tech — movido por vigilância, otimização de engajamento e verificação mínima — como inerentemente propenso a abusos e prejudicial aos usuários e à sociedade.
Prevalência de anúncios fraudulentos em várias plataformas
- Muitos participantes dizem que anúncios enganadores ou claramente fraudulentos agora são onipresentes no Facebook, Instagram, YouTube, Google, Amazon, eBay e outras plataformas.
- Os exemplos incluem esquemas falsos de investimento usando a imagem de celebridades, produtos milagrosos para a saúde, alegações impossíveis sobre gadgets, produtos falsificados, drogas ilegais e até conteúdo sugerindo material de abuso infantil.
- Várias pessoas relatam que praticamente “todo outro anúncio” ou “metade de todos os anúncios” que veem são golpes óbvios.
Conhecimento da Meta e incentivos internos
- Uma investigação da Reuters citada afirma que a Meta projetou internamente que cerca de 10% da receita anual (~US$16 bilhões) vem de anúncios fraudulentos ou banidos.
- Documentos supostamente mostram que a Meta só bane anunciantes quando sistemas automatizados têm ≥95% de confiança de que são golpes; abaixo disso, os anúncios permanecem no ar, mas pagam taxas mais altas.
- Alguns com experiência em publicidade ou interna afirmam que a Meta afrouxa a fiscalização para grandes gastadores.
Experiências dos usuários e danos
- Há vários relatos de usuários e parentes perdendo dinheiro com anúncios fraudulentos; algumas vítimas são idosas.
- Muitos dizem que denunciam repetidamente anúncios flagrantemente fraudulentos ou perturbadores e recebem respostas de “nenhuma violação encontrada”.
- Isso alimenta a desconfiança e a sensação de que as plataformas priorizam receita acima da segurança.
Responsabilidade jurídica e debate sobre a Seção 230
- Um lado argumenta que remover ou reformar a Seção 230, especialmente para anúncios pagos, forçaria as plataformas a verificar anunciantes como a mídia tradicional.
- Outros rebatem que:
- A Seção 230 já não protege conduta criminosa.
- Removê-la apenas consolidaria os gigantes que podem arcar com processos e destruiria fóruns menores.
- Há discordância sobre se as redes sociais são “publicadoras” no sentido legal e sobre se as definições jurídicas deveriam mudar.
IA, automação e responsabilidade
- Alguns discutem usar IA para detectar e bloquear automaticamente anúncios fraudulentos, observando que as plataformas já usam perfis sofisticados para publicidade.
- Outros enfatizam que a automação não deve reduzir a responsabilidade: se uma empresa implanta IA que aprova golpes, a empresa ainda deve ser responsável.
- São feitas analogias com engenharia de pontes, carros autônomos e ferramentas perigosas: a organização humana que implanta o sistema deve arcar com o risco.
Remédios propostos e regulação
- As ideias incluem:
- Tornar as plataformas legalmente responsáveis por anúncios fraudulentos que distribuem.
- Regras de “conheça seu cliente” para anunciantes.
- Acabar com ou limitar feeds algorítmicos; voltar a conteúdo cronológico e opcional.
- Proteção ao consumidor e aplicação criminal mais fortes, especialmente para grandes plataformas.
- Propostas mais radicais: banir anúncios online, ou mover anúncios para diretórios de produtos regulamentados e administrados por consumidores.
Crítica mais ampla à publicidade e às plataformas
- Muitos veem o ad-tech como intrinsecamente desalinhado com os interesses do usuário, otimizando manipulação e captura de atenção.
- Alguns argumentam que a normalização de golpes reflete problemas mais profundos: regulação fraca, indiferença movida pelo lucro e uma cultura que tolera marketing enganoso.