La UE exigirá etiquetas en contenido de IA de aspecto auténtico a partir del 2 de agosto
Las nuevas normas de la UE exigirán pronto etiquetas en imágenes, audio y video generados por IA de “aspecto auténtico”, especialmente deepfakes que podrían engañar a los espectadores. Los comentaristas están divididos entre quienes ven esto como una medida necesaria para proteger a los consumidores y la democracia frente a la desinformación producida en masa, y quienes temen que sea ineficaz, demasiado amplia o una captura burocrática del poder que los malos actores simplemente ignorarán. El debate se centra en cuestiones prácticas como cómo definir la IA y lo “auténtico”, si las etiquetas terminarán siendo solo ruido de fondo y si los sistemas criptográficos de procedencia u otras herramientas técnicas serían más eficaces.
Propósito general de la norma
- Muchos ven el objetivo como proteger a los consumidores y la democracia del fraude y de la propaganda deepfake, no prohibir la IA.
- Los partidarios la presentan como algo similar a “Hecho en X” / advertencias sanitarias: la gente tiene derecho a saber qué está viendo y cuán sintético es.
- Los críticos argumentan que apunta a “AI BAD” mientras ignora la manipulación de imágenes de larga data (Photoshop, VFX, modelos retocados).
Argumentos a favor de las etiquetas obligatorias de IA
- Ayuda a las personas a filtrar el “AI slop” y a encontrar voces humanas auténticas que, de otro modo, podrían quedar ahogadas.
- Se considera análogo al etiquetado del asbesto, airbags, alcohol, cigarrillos: los individuos no pueden verificarlo todo de manera realista por sí mismos.
- Se ve como un primer paso limitado centrado en la IA generativa engañosa (deepfakes, eventos falsos), no en cualquier herramienta menor de IA.
- Algunos argumentan que crea palanca legal y consecuencias reputacionales cuando se detecta que entidades etiquetan mal u omiten etiquetas.
Argumentos en contra / preocupaciones
- Temor a la censura, a “comisarios de la IA”, a capturas burocráticas de poder y a la corrupción habilitada por nuevas herramientas de aplicación.
- Preocupación de que las etiquetas generen falsa confianza: sin etiqueta no significa auténtico, pero los usuarios pueden inferir eso.
- Inquietud por la carga regulatoria que favorece a los grandes actores; las etiquetas pueden convertirse en ruido de fondo como los banners de cookies o los omnipresentes avisos de “puede causar cáncer”.
- Algunos se oponen filosóficamente: la gente debería verificar las fuentes por sí misma en lugar de delegar la confianza en los reguladores.
Alcance, definiciones y ambigüedad
- Debate sobre qué cuenta como “de aspecto auténtico”, “personas reales” y “sistema de IA”; algunos señalan que la ley de la UE se basa en estándares de “persona razonable”, no en precisión de tipo código.
- Límites poco claros entre contenido generado por IA, asistido por IA y procesamiento trivial (canales de imagen de smartphones, seam carving, pequeños cambios de estilo).
- Algunos señalan que el texto oficial se centra en los deepfakes y el contenido que probablemente se confunda con hechos reales, no en todo uso de IA.
Practicidad y alternativas
- Escepticismo de que los malos actores (por ejemplo, propagandistas extranjeros) vayan a cumplir; la aplicación solo alcanza a quienes están al alcance.
- Otros dicen que incluso el cumplimiento parcial más multas (por ejemplo, % de los ingresos) puede tener un efecto disuasorio sobre los grandes infractores.
- Sugerencias de medidas complementarias: firmas criptográficas en cámaras, cadenas de procedencia (por ejemplo, C2PA) y marcas de agua robustas.