La «Ley No AI Fraud» podría prohibir parodias, caricaturas políticas y más

Artículo original ↗ Discusión en Hacker News ↗

Una propuesta estadounidense de «No AI Fraud Act», que otorgaría a las personas derechos de propiedad sobre su parecido digital y su voz, está generando alarma por sus límites no deseados a la sátira, las imitaciones y la expresión política. Los comentaristas debaten la necesidad de frenar estafas realistas con deepfakes, porno sin consentimiento y anuncios engañosos frente a un lenguaje tan amplio que podría criminalizar parodias, cargar a cómicos y creadores, y empujar a plataformas como YouTube hacia una moderación de mano dura. Muchos esperan impugnaciones constitucionales y señalan que las leyes existentes sobre fraude y difamación ya cubren gran parte de la conducta más dañina, aunque sea difícil de hacer cumplir a escala de Internet.

Alcance percibido y amplitud excesiva

  • Muchos ven que el proyecto de ley es mucho más amplio que el «fraude de IA»: cubre cualquier «tecnología digital» (incluido software genérico) usada para crear o alterar un parecido o una voz «total o parcialmente».
  • Preocupa que se parezca a las leyes existentes de protección del parecido o que las supere, creando en la práctica un derecho de propiedad amplio sobre la imagen y la voz de una persona.
  • El gancho de «comercio interestatal» es criticado por ser tan amplio que, en teoría, podría abarcar la vigilancia rutinaria (cámaras de seguridad, cámaras corporales) y usos no relacionados con la IA.
  • La cláusula dirigida a los «servicios de clonación personalizados» se ve como algo que podría prohibir una amplia gama de herramientas generativas legítimas.

Libertad de expresión, sátira y parodia

  • Hay un fuerte temor de que caricaturas políticas, memes, sitios de sátira, imitaciones y comedia de sketches (por ejemplo, impersonaciones al estilo SNL) puedan ser disuadidos o litigados.
  • Algunos proponen permitir parodias realistas si están claramente etiquetadas como tales; otros rechazan esto como «discurso forzado» inconstitucional.
  • Contraargumento: la sátira obvia y la crítica al gobierno probablemente estarán protegidas por los tribunales, como ocurre con la doctrina actual de la Primera Enmienda.
  • Debate sobre el realismo: algunos sostienen que los deepfakes indistinguibles deberían restringirse; otros señalan que muchas personas ya no reconocen la sátira, por lo que una «prueba del jurado» es poco fiable.

Fraude, publicidad y derechos sobre el parecido

  • Varios argumentan que la ley existente ya prohíbe gran parte del comportamiento dañino: publicidad falsa, difamación, fraude, suplantación en anuncios.
  • Se hace una distinción entre:
    • Engaño para comedia o comentario (ampliamente defendido), y
    • Engaño para vender productos o llevar a cabo estafas (ampliamente condenado).
  • Hay desacuerdo sobre si las imitaciones engañosas pero no comerciales constituyen «fraude» o solo «mentir», y sobre cómo deben definirse el «beneficio personal» o el «daño».

Aplicación y responsabilidad de las plataformas

  • Existe un escepticismo generalizado de que el proyecto de ley detenga las estafas con deepfakes, el porno o la cultura de memes; los modelos locales y las cuentas anónimas hacen difícil la aplicación.
  • Críticas fuertes a las plataformas (especialmente Google/YouTube) por aprobar automáticamente anuncios fraudulentos con deepfakes; se sugieren:
    • Multas por instancia para anuncios claramente fraudulentos.
    • Hacer que las plataformas sean parcialmente responsables por la publicidad engañosa que distribuyen.
    • Controles de identidad al estilo KYC en las plataformas sociales (se señala que esto plantea problemas de privacidad).
  • Otros advierten que la responsabilidad estricta impulsaría bloqueos excesivos, abusos similares a los de la DMCA y una censura más dura justificada como «cumplimiento».

Preocupaciones constitucionales y de gobernanza

  • Algunos esperan que partes importantes del proyecto sean anuladas o vaciadas por los tribunales bajo las protecciones de la Primera Enmienda.
  • Preocupa que los legisladores aprueben a propósito leyes inconstitucionales por imagen pública, confiando en que luego los tribunales arreglen el problema.
  • Unos pocos sugieren consecuencias para los legisladores cuyos proyectos sean declarados inconstitucionales; otros dicen que eso socavaría el sistema de pesos y contrapesos.
  • El hilo termina con recordatorios de que la ley estadounidense ya excluye del amparo el fraude, la difamación y la incitación; las falsificaciones realistas por IA podrían tratarse simplemente como otra clase de prueba falsificada.