Meta publicó anuncios que contenían imágenes de abuso sexual infantil generadas por IA
Se descubrió que las plataformas publicitarias de Meta para Facebook, Instagram, Messenger y Threads habían aprobado y mostrado imágenes de abuso sexual infantil generadas por IA, reavivando la preocupación por lo poco que las grandes tecnológicas invierten en una moderación publicitaria significativa. Los comentaristas sostienen que, a la escala de Meta, las herramientas automatizadas fallan con frecuencia y que una revisión humana es perfectamente viable al menos para los anuncios pagados, pero se evita porque reduciría los beneficios. Muchos piden una regulación más dura y responsabilidad personal para los ejecutivos, normas más estrictas para la publicidad en línea e incluso límites a la escala de las plataformas, argumentando que las multas ya se han convertido en otro coste de hacer negocios.
Reacción general
- Fuerte condena a Meta por publicar anuncios con imágenes de abuso sexual infantil generadas por IA (CSAM / “contenido de explotación sexual infantil”).
- Muchos sostienen que esto cruza una línea roja porque Meta recibió dinero para distribuir el material, a diferencia de las publicaciones generadas puramente por usuarios.
- Tema recurrente: si los individuos hicieran esto, acabarían en la cárcel; las corporaciones y los ejecutivos en gran medida solo afrontan multas asumibles.
Responsabilidad, regulación y castigo
- Existe un sentimiento generalizado de que las multas actuales son solo un “coste de hacer negocios” y no cambian el comportamiento.
- Entre las propuestas figuran: responsabilidad penal personal para los ejecutivos, “tres strikes” que conduzcan a la disolución y la cárcel, y una especie de pena de muerte corporativa de facto para casos reincidentes o especialmente graves.
- Otros sugieren ajustar las multas al daño social real, reconociendo que a esa escala algunos errores son estadísticamente inevitables.
- Se debate la Sección 230, y varios argumentan que nunca debió cubrir anuncios pagados.
Moderación a escala frente al modelo de negocio
- Un lado: a la escala de Meta, una moderación totalmente segura es prácticamente imposible, especialmente para publicaciones de usuarios; la conclusión real debería ser que no se debería permitir operar a ningún servicio a una escala inmanejable.
- El otro lado: Meta obtiene enormes beneficios y podría permitirse una moderación humana masiva, al menos para anuncios; si no puede hacerlo con seguridad, no debería poder dirigir el negocio tal como está.
- Sugerencias concretas: revisión humana de todos los anuncios, mayor gasto mínimo en anuncios para financiar la revisión, incorporación y verificación de identidad más estrictas para anunciantes, y escrutinio escalonado para compradores nuevos o con baja reputación.
El papel de la IA
- Se culpa a la IA tanto por generar contenido problemático (por ejemplo, herramientas de “nudify”) como por no detectarlo.
- Algunos sostienen que la IA es la única herramienta viable a esta escala; otros la ven como una forma de eludir responsabilidades culpando al “algoritmo”.
- Preocupa una carrera armamentística: generación de anuncios por IA frente a moderación por IA.
Problemas más amplios del ecosistema publicitario
- Múltiples anécdotas sobre anuncios fraudulentos, sexuales o violentos en Meta, YouTube, Google Play, etc., con informes desestimados de forma rutinaria.
- Se observa que las plataformas son mucho más eficaces haciendo cumplir los derechos de autor y los intereses de grandes marcas que bloqueando estafas o CSAM.
- Desconfianza general hacia los canales publicitarios; se recomiendan ampliamente los bloqueadores de anuncios y los clientes alternativos.
Definiciones y estadísticas
- Debate sobre “CSAM” frente a “contenido de explotación sexual infantil” y sobre si la desnudez generada por IA o no abusiva debería meterse en el mismo saco.
- Algunos señalan que grandes partes del material señalado implican sexting entre adolescentes o padres que comparten demasiado, lo que complica la pregunta de “¿por qué no hay millones en la cárcel?”.
- La supuesta eliminación por parte de Meta de 36 millones de piezas en un año se ve tanto como evidencia de escala como de un fracaso sistémico persistente.