DocuSign acabou de admitir que usa dados de clientes para treinar IA

Artigo original ↗ Discussão no Hacker News ↗

O FAQ de IA atualizado da DocuSign revela que a empresa pode usar documentos de clientes para treinar seus modelos proprietários de IA, levantando preocupações sobre privacidade, consentimento e a viabilidade de realmente anonimizar dados sensíveis de contratos. Comentadores questionam se “consentimento contratual” escondido nos termos de serviço pode ser considerado um opt-in genuíno, especialmente quando serviços como a DocuSign são efetivamente obrigatórios para muitos empregos e relações comerciais. Outros observam que isso reflete uma tendência mais ampla de plataformas SaaS minerarem dados de usuários para IA, enquanto a DocuSign depois esclareceu que apenas clientes em programas específicos de IA que dão consentimento explícito têm seus dados desidentificados usados para treinamento.

Fonte e tratamento do link

  • Alguns discordam do uso de um tweet com captura de tela em vez do FAQ original da DocuSign, observando que o artigo é público.
  • Outros argumentam que capturas de tela evitam edições posteriores pela DocuSign; o contraponto é que links de arquivo (Wayback, archive.is) são melhores do que capturas aleatórias.
  • Outro motivo citado: o Twitter rebaixa posts com links, então as pessoas começam com imagens.

O que a DocuSign diz que faz

  • O texto do FAQ (citado no thread) diz que os dados podem ser usados para treinar a IA interna da DocuSign “se você tiver dado consentimento contratual”, com anonimização/desidentificação.
  • Uma resposta posterior da DocuSign (linkada) afirma que eles treinam apenas com dados de clientes que consentem explicitamente como parte de produtos/betas específicos de IA, e somente após a desidentificação.
  • Alguns observam que a manchete exagera: para recursos de chat com OpenAI/Microsoft, eles usam APIs pagas que supostamente não retêm dados.

Consentimento, “consentimento contratual” e legalidade

  • Debate sobre se “consentimento contratual” é um opt-in genuíno ou apenas uma cláusula enterrada nos termos.
  • Vários argumentam que, sob o GDPR, o consentimento não pode ser embutido em um contrato desse tipo e deve ser informado, revogável e sem coerção.
  • Outros observam que a base da política de privacidade da DocuSign, “Consent (where required)”, implica uso sem consentimento onde a lei permitir.

Privacidade, anonimização e riscos do treinamento de IA

  • Muitos enfatizam que anonimizar de forma confiável documentos arbitrários de clientes, especialmente texto livre com PII, é efetivamente impossível.
  • As preocupações incluem modelos regurgitando cláusulas confidenciais, termos de acordo, senhas ou detalhes pessoais.
  • Alguns destacam danos imateriais: violação das expectativas de confidencialidade e de propriedade dos dados, especialmente para um serviço comercializado com base em segurança/conformidade.
  • Uma minoria argumenta que anonimização mais remoção de campos de formulário pode ser suficiente, e que o risco real de vazamento pode ser pequeno, mas isso é contestado.

Casos de uso e motivações para IA em assinaturas eletrônicas

  • Usos legítimos propostos: geração de contratos, extensão, validação, detecção de brechas, detecção de fraude/abuso (IDs falsos ou reutilizados, documentos gerados por IA).
  • Outros suspeitam que “IA” seja בעיקרamente hype para investidores e monetização de dados contratuais; “dados são o novo dinheiro”.

Poder do usuário, regulação e alternativas

  • Alguns sugerem regulação (por exemplo, um controle “Não treine IA com minhas informações pessoais”, como outros links ou cabeçalhos de privacidade).
  • Há pessimismo de que a maioria dos SaaS vá minerar dados de qualquer forma, então as pessoas deveriam criptografar ou auto-hospedar quando possível.
  • Uma alternativa auto-hospedada (Docuseal) é mencionada.
  • Há a preocupação de que indivíduos muitas vezes não possam recusar de forma significativa: empregadores, bancos e outros escolhem a DocuSign, e o uso pode estar ligado a empregos ou serviços financeiros.

Sentimento geral

  • Predominantemente cético e crítico em relação à abordagem da DocuSign, especialmente quanto ao consentimento e à anonimização.
  • Alguns veem benefícios práticos e aceitam o uso de IA com consentimento estrito e salvaguardas, mas a confiança na implementação e na fiscalização é baixa.