Cubano: Facebook ejecuta a sabiendas anuncios fraudulentos con deepfakes de IA; documentos dicen que generó 16 mil millones de dólares en fraude
Facebook y otras grandes plataformas publicitarias son acusadas de beneficiarse a sabiendas del fraude a gran escala, incluidos anuncios fraudulentos con deepfakes generados por IA que suplantan a figuras públicas y promocionan inversiones o productos falsos. Los comentaristas debaten si las leyes vigentes como la Sección 230 son adecuadas, argumentan que las plataformas y los anunciantes deberían asumir responsabilidad legal por los anuncios fraudulentos y señalan los débiles incentivos y la escasa regulación como razones por las que las grandes tecnológicas toleran las estafas. Muchos ven el modelo más amplio de ad-tech —impulsado por la vigilancia, la optimización del engagement y una verificación mínima— como intrínsecamente propenso al abuso y dañino para los usuarios y la sociedad.
Prevalencia de anuncios fraudulentos en todas las plataformas
- Muchos participantes dicen que los anuncios sospechosos o claramente engañosos ahora son omnipresentes en Facebook, Instagram, YouTube, Google, Amazon, eBay y otras plataformas.
- Los ejemplos incluyen falsas схемas de inversión usando la imagen de celebridades, productos milagrosos para la salud, afirmaciones imposibles sobre aparatos, productos falsificados, drogas ilegales e incluso contenido que insinúa material de abuso infantil.
- Varias personas informan que, esencialmente, “cada dos anuncios” o “la mitad de todos los anuncios” que ven son estafas obvias.
Conocimiento de Meta e incentivos internos
- Una investigación de Reuters citada dice que Meta proyectó internamente que alrededor del 10% de los ingresos anuales (~16 mil millones de dólares) proviene de anuncios fraudulentos o prohibidos.
- Los documentos, según se informa, muestran que Meta solo prohíbe a los anunciantes cuando los sistemas automatizados tienen una confianza ≥95% de que son estafas; por debajo de eso, los anuncios siguen activos pero pagan tarifas más altas.
- Algunos con experiencia en publicidad o interna afirman que Meta relaja la aplicación de normas para los grandes anunciantes.
Experiencias de los usuarios y daños
- Múltiples reportes de usuarios y familiares que pierden dinero por anuncios fraudulentos; algunas víctimas son personas mayores.
- Muchos dicen que informan repetidamente anuncios descaradamente fraudulentos o perturbadores y reciben respuestas de “no se encontró infracción”.
- Esto fomenta la desconfianza y la sensación de que las plataformas priorizan los ingresos por encima de la seguridad.
Responsabilidad legal y debate sobre la Sección 230
- Un sector sostiene que eliminar o reformar la Sección 230, especialmente para anuncios pagados, obligaría a las plataformas a verificar a los anunciantes como los medios tradicionales.
- Otros responden que:
- La Sección 230 ya no protege la conducta criminal.
- Eliminarla probablemente afianzaría a los gigantes que pueden permitirse demandas y destruiría los foros más pequeños.
- Hay desacuerdo sobre si las redes sociales son “publicadores” en el sentido legal y sobre si deberían cambiar las definiciones legales.
IA, automatización y responsabilidad
- Algunos hablan de usar IA para detectar y bloquear automáticamente anuncios fraudulentos, señalando que las plataformas ya usan perfiles sofisticados para la publicidad.
- Otros subrayan que la automatización no debería reducir la responsabilidad: si una empresa despliega IA que aprueba estafas, la empresa sigue siendo responsable.
- Se trazan analogías con la ingeniería de puentes, los coches autónomos y las herramientas peligrosas: la organización humana que despliega el sistema debe asumir el riesgo.
Remedios y regulación propuestos
- Las ideas incluyen:
- Hacer legalmente responsables a las plataformas por los anuncios fraudulentos que distribuyen.
- Normas de “conozca a su cliente” para los anunciantes.
- Eliminar o limitar los feeds algorítmicos; volver a contenidos cronológicos y opt-in.
- Mayor protección al consumidor y aplicación penal, especialmente para las grandes plataformas.
- Propuestas más radicales: prohibir la publicidad en línea o trasladar los anuncios a directorios de productos regulados y operados por consumidores.
Crítica más amplia de la publicidad y las plataformas
- Muchos consideran que la ad-tech está intrínsecamente desalineada con los intereses de los usuarios, al optimizar la manipulación y la captura de la atención.
- Algunos sostienen que la normalización de las estafas refleja problemas más profundos: regulación débil, indiferencia impulsada por el lucro y una cultura que tolera el marketing engañoso.