DocuSign acaba de admitir que usa datos de clientes para entrenar IA

Artículo original ↗ Discusión en Hacker News ↗

La FAQ de IA actualizada de DocuSign revela que puede usar documentos de clientes para entrenar sus modelos de IA propietarios, lo que suscita preocupaciones sobre la privacidad, el consentimiento y la viabilidad de anonimizar realmente datos sensibles de contratos. Los comentaristas cuestionan si el “consentimiento contractual” oculto en los términos del servicio puede considerarse un verdadero opt-in, especialmente cuando servicios como DocuSign son prácticamente obligatorios para muchos trabajos y relaciones comerciales. Otros señalan que esto refleja una tendencia más amplia de las plataformas SaaS a extraer datos de los usuarios para IA, mientras que DocuSign aclaró posteriormente que solo los clientes de programas específicos de IA que den su consentimiento explícito tienen sus datos desidentificados usados para el entrenamiento.

Origen y manejo de enlaces

  • A algunos les molesta usar una captura de pantalla de un tuit en lugar de la FAQ original de DocuSign, señalando que el artículo es público.
  • Otros argumentan que las capturas evitan ediciones posteriores por parte de DocuSign; el contrapunto es que los enlaces archivados (Wayback, archive.is) son mejores que capturas aleatorias.
  • Otra razón dada: Twitter rebaja las publicaciones con enlaces, así que la gente suele empezar con imágenes.

Lo que DocuSign dice que hace

  • El texto de la FAQ (citado en el hilo) dice que los datos pueden usarse para entrenar la IA interna de DocuSign “si has dado consentimiento contractual”, con anonimización/desidentificación.
  • Una respuesta posterior de DocuSign (enlazada) afirma que solo entrenan con datos de clientes que consienten explícitamente como parte de productos/betas específicas de IA, y solo después de la desidentificación.
  • Algunos señalan que el titular exagera: para las funciones de chat con OpenAI/Microsoft, usan APIs de pago que supuestamente no retienen datos.

Consentimiento, “consentimiento contractual” y legalidad

  • Debate sobre si el “consentimiento contractual” es un verdadero opt-in o solo una cláusula escondida en los términos.
  • Varios sostienen que, bajo el RGPD, el consentimiento no puede ir incluido en un contrato de esa forma y debe ser informado, revocable y no coercitivo.
  • Otros señalan que la base de la política de privacidad de DocuSign, “Consentimiento (cuando sea requerido)”, implica uso sin consentimiento cuando la ley lo permite.

Privacidad, anonimización y riesgos del entrenamiento de IA

  • Muchos subrayan que anonimizar de forma fiable documentos arbitrarios de clientes, especialmente texto libre con datos personales, es prácticamente imposible.
  • Entre las preocupaciones están que los modelos repitan cláusulas confidenciales, términos de acuerdos, contraseñas o detalles personales.
  • Algunos destacan daños no materiales: violación de las expectativas de confidencialidad y de propiedad de los datos, especialmente en un servicio comercializado por su seguridad y cumplimiento normativo.
  • Una minoría argumenta que la anonimización más la eliminación de campos de formulario podría ser suficiente, y que el riesgo real de filtración quizá sea pequeño, pero esto se discute.

Casos de uso y motivos de la IA en la firma electrónica

  • Usos legítimos propuestos: generación de contratos, ampliación, validación, detección de lagunas, detección de fraude/abuso (IDs falsos o reutilizados, documentos generados por IA).
  • Otros sospechan que la “IA” es sobre todo humo para inversores y monetización de datos de contratos; “los datos son el nuevo dinero”.

Poder del usuario, regulación y alternativas

  • Algunos sugieren regulación (por ejemplo, un control tipo “No entrenes IA con mi información personal” similar a otros enlaces o encabezados de privacidad).
  • Hay pesimismo sobre que la mayoría del SaaS explotará los datos de todos modos, así que la gente debería cifrar o autoalojar cuando sea posible.
  • Se menciona una alternativa autoalojada (Docuseal).
  • Preocupa que las personas a menudo no puedan negarse de forma significativa: empleadores, bancos y otros eligen DocuSign, y usarlo puede estar ligado a empleos o servicios financieros.

Sentimiento general

  • Predominantemente escéptico y crítico con el enfoque de DocuSign, especialmente en torno al consentimiento y la anonimización.
  • Algunos ven beneficios prácticos y aceptan el uso de IA con consentimiento estricto y salvaguardas, pero la confianza en la implementación y la aplicación es baja.