Un análisis de privacidad de agentes conversacionales de IA web y móviles [pdf]

Artículo original ↗ Discusión en Hacker News ↗

Los investigadores han encontrado que populares servicios de chat de IA web y móviles filtran o comparten datos sensibles de conversación con rastreadores de terceros, incluidos historiales completos de chat mediante URL de acceso público, capturas de pantalla y títulos generados automáticamente vinculados a identificadores de usuario. Los comentaristas debaten si se trata de incompetencia o de un modelo de negocio ad-tech deliberado, pero en general coinciden en que crea graves riesgos de privacidad y regulatorios, especialmente bajo marcos como el RGPD. Muchos ven esto como una prueba más de que no se debe confiar en herramientas de IA en la nube con información privada y abogan por modelos locales o de código abierto como alternativas más seguras.

Mecanismos de exposición de datos

  • Varios proveedores exponen conversaciones completas mediante permalinks de “compartir” sin autenticación; cualquiera con la URL (incluidos rastreadores y rastreadores web) puede leer el chat completo.
  • Las capturas de pantalla de chats enviadas a apps sociales (por ejemplo, durante los flujos de compartición) pueden filtrar el contenido visible de la conversación a esas apps.
  • Los artefactos derivados de la conversación (títulos, prompts, resúmenes) se vinculan a identificadores persistentes o cookies, lo que permite la atribución y perfiles altamente sensibles (por ejemplo, salario inferido, ubicación, hipoteca).
  • Algunas interfaces web envían prompts parciales o incompletos a los servidores mientras el usuario escribe; el propósito no está claro (caché frente a seguimiento del comportamiento frente a detección de bots).

Modelo de seguridad y preocupaciones de implementación

  • Críticas duras a la “seguridad por oscuridad”: URLs largas con UUID tratadas como privadas aunque terminan en el historial del navegador, portapapeles, vistas previas, complementos y acortadores de URL.
  • Las apps móviles y web incrustan rastreadores comunes de anuncios/analítica (Google, TikTok, Meta, etc.) mediante CSP, lo que permite a terceros ver metadatos derivados de los prompts.
  • Las interfaces de chat se describen como “campos minados” donde un solo clic equivocado puede compartir datos o usarlos para entrenamiento.

Filtración vs. venta vs. incompetencia

  • Algunos lo plantean como una venta/compartición intencional de datos, no como “filtraciones”, señalando condiciones que permiten acceso de terceros.
  • Otros argumentan que gran parte es incompetencia apresurada, “vibecoded”, y seguimiento mal configurado en lugar de monetización sofisticada.
  • Contrapunto: a esta escala, la “incompetencia” sigue exigiendo plena responsabilidad; una incompetencia avanzada puede ser indistinguible de la malicia.

Ángulos legales y regulatorios

  • Varios comentarios sugieren que el RGPD de la UE probablemente vuelve ilegales algunas de estas prácticas.
  • En EE. UU., la gente espera que técnicamente sea “legal”, pero éticamente dudoso.

Modelo de negocio e incentivos

  • Debate sobre si las empresas de IA acapararán datos para su propia segmentación publicitaria (como las grandes plataformas sociales) o si entregarán el valor a redes publicitarias externas.
  • Algunos ven esto como inevitable una vez que los anuncios entren en los productos de chat; otros señalan que las empresas todavía están quemando efectivo y pueden estar intercambiando privacidad por ingresos a corto plazo.

Reacciones de los usuarios y mitigación

  • Muchos expresan que no les sorprende y desconfían profundamente: asumen que cualquier chat de IA en la nube queda registrado y monetizado.
  • Las recomendaciones incluyen:
    • Usar modelos locales/de pesos abiertos cuando sea posible.
    • Acceder a modelos frontier mediante API a través de clientes de terceros o interfaces autoalojadas para evitar el seguimiento web/móvil (con la salvedad de que el comportamiento de la API es opaco).
    • Evitar compartir enlaces y capturas de pantalla; ser cuidadoso con los permisos y las cookies de marketing.
  • Algunos proponen tácticas adversarias como sembrar cuentas con historiales de chat falsos y contradictorios, aunque esto puede activar sanciones de la plataforma.

Preocupaciones sociales más amplias

  • Temor de que los datos de chat de IA creen perfiles conductuales y psicológicos mucho más profundos que la tecnología publicitaria anterior.
  • Preocupación de que ese perfilado pueda alimentar la vigilancia y el control en el mundo real, más allá de la publicidad por sí sola.