La crisis de confianza en la IA
Los crecientes escándalos de privacidad y las prácticas opacas con los datos están erosionando la confianza pública en la IA y las plataformas en la nube, y el uso compartido por defecto de archivos de usuarios de Dropbox con OpenAI se cita como un ejemplo reciente. Los comentaristas sostienen que, aunque las empresas prometan no “entrenar con” datos personales, el simple hecho de transmitirlos a terceros, junto con mecanismos de consentimiento débiles y una aplicación legal limitada, hace que esas garantías sean difíciles de creer. Muchos ven el cifrado de extremo a extremo, los modelos de IA locales o autoalojados y una regulación más fuerte como las únicas formas realistas de recuperar el control sobre la información personal en un ecosistema cada vez más hambriento de datos.
Dropbox, OpenAI y el consentimiento
- Muchos se indignan de que la opción de Dropbox para “usar IA de terceros” estuviera activada por defecto y se presentara como “consentimiento” a posteriori.
- La gente distingue claramente entre:
- Entrenar modelos con datos públicos de la web, versus
- Enviar datos privados de almacenamiento en la nube, por los que se paga, a terceros, incluso “temporalmente” o “solo para inferencia”.
- Varios consideran que esto es un problema de consentimiento y fraude, no solo de redacción: hacer algo primero y luego enterrarlo en los TOS se ve como ilegítimo.
- Algunos señalan posibles problemas regulatorios (GDPR, HIPAA/BAA) si se compartieron datos privados o regulados sin un acuerdo explícito.
Confianza, ley y aplicación
- Sentimiento generalizado: las grandes tecnológicas han quemado la confianza repetidamente; ahora los usuarios por defecto desconfían incluso cuando las empresas niegan un uso indebido.
- Hay escepticismo sobre que el riesgo reputacional o las multas disuadan de manera significativa las malas prácticas; las sanciones se ven como “coste de hacer negocios”.
- El GDPR se considera conceptualmente acertado, pero poco aplicado y manipulado con dark patterns.
- Algunos argumentan que conceptos existentes como fraude y contratos abusivos ya se aplican; otros creen que los TOS digitales y los reguladores débiles hacen que esto sea, en gran medida, teórico.
Modelo de amenaza de privacidad más allá del “entrenamiento”
- Varios subrayan que el riesgo principal no es solo el entrenamiento del modelo, sino:
- Que más partes obtengan acceso de lectura,
- Los registros y el almacenamiento temporal,
- Empleados deshonestos, brechas de seguridad y flujos de datos poco claros.
- Un tema recurrente: “si pago por almacenamiento, no deberías enviar mis archivos a ningún sitio sin un consentimiento explícito, informado y opt-in”.
Modelos locales, cifrado y autoalojamiento
- Muchos ven los modelos locales o autoalojados como la respuesta a largo plazo: mejor privacidad, menos suposiciones de confianza y rendimiento suficiente dado el avance del hardware.
- Mitigaciones recomendadas: cifrado del lado del cliente/de extremo a extremo (Cryptomator, herramientas tipo Boxcryptor), Syncthing, Signal, NAS autoalojado + VPN/WireGuard/Tailscale.
- Algunos aceptan compromisos de comodidad; otros ya planean dejar Dropbox por alternativas o capas cifradas.
Crisis de confianza más amplia en la IA
- Los participantes vinculan la desconfianza en la IA con un entorno más amplio de “posconfianza”: modelos de negocio hambrientos de datos, rendición de cuentas débil y sistemas de ML opacos.
- Hay desacuerdo sobre cuánto difieren las empresas de IA del resto del sector tecnológico, pero existe un amplio consenso en que el mensaje actual de “confía en nosotros” es insuficiente sin restricciones verificables y transparencia.