Docusign 刚刚承认他们会使用客户数据来训练 AI

DocuSign 更新后的 AI FAQ 显示,它可能会使用客户文档来训练其专有 AI 模型,引发了人们对隐私、同意以及真正匿名化敏感合同数据是否可行的担忧。评论者质疑,埋在服务条款中的“合同性同意”是否能算真正的主动选择加入,尤其是在 DocuSign 这类服务对许多工作和商业关系而言几乎是强制性的情况下。也有人指出,这反映出 SaaS 平台为了 AI 正在普遍挖掘用户数据,而 DocuSign 后来澄清称,只有参与特定 AI 计划并明确同意的客户,其去识别化数据才会用于训练。

来源与链接处理

  • 有人反对使用截图推文而不是原始的 DocuSign FAQ,认为原文是公开的。
  • 也有人认为截图可以避免 DocuSign 之后修改内容;反驳则是归档链接(Wayback、archive.is)比随机截图更好。
  • 另一个给出的原因是:Twitter 会降低带链接帖子的排序,所以人们会先发图片。

DocuSign 声称自己在做什么

  • 线程中引用的 FAQ 文本称,如果你已给予“合同性同意(contractual consent)”,数据可能会被用于训练 DocuSign 自有的 AI,并会进行匿名化/去识别化处理。
  • DocuSign 后来的回应(有链接)声称,他们只会使用那些作为特定 AI 产品/测试版的一部分、明确同意的客户数据,并且也只会在去识别化之后训练。
  • 有人指出标题夸大其词:对于 OpenAI/Microsoft 的聊天功能,他们使用的是付费 API,据称这些 API 不会保留数据。

同意、“合同性同意”与合法性

  • 争论焦点在于“合同性同意”究竟是真正的主动选择加入,还是只是条款里埋得很深的一项条款。
  • 许多人认为,根据 GDPR,这样的同意不能被打包进合同里,必须是知情、可撤回且非胁迫的。
  • 也有人指出,DocuSign 隐私政策中的“Consent (where required)”表述意味着,在法律允许的情况下,可以在没有同意的情况下使用。

隐私、匿名化与 AI 训练风险

  • 许多人强调,要可靠地匿名化任意客户文档,尤其是包含 PII 的自由文本,实际上是不可能的。
  • 担忧包括模型吐出保密条款、和解条款、密码或个人细节。
  • 还有人强调非物质性伤害:违反了对保密性和数据所有权的预期,尤其是对一个以安全/合规为卖点的服务而言。
  • 少数人认为,匿名化加上移除表单字段可能已经足够,而且实际泄露风险也许很小,但这一点存在争议。

电子签名中的 AI 用例与动机

  • 被提出的正当用途包括:合同生成、续期、验证、漏洞检测、欺诈/滥用检测(伪造或重复使用的 ID、AI 生成的文档)。
  • 也有人怀疑“AI”主要是面向投资者的炒作,以及对合同数据的变现;“数据就是新钱”。

用户权力、监管与替代方案

  • 有人建议通过监管来约束(例如像其他隐私链接或头信息那样,增加一个“不要用我的个人信息训练 AI”的控制项)。
  • 也有悲观观点认为,大多数 SaaS 无论如何都会挖掘数据,所以人们应尽可能加密或自托管。
  • 文中提到了一个自托管替代方案(Docuseal)。
  • 还有人担心个人往往无法真正拒绝:雇主、银行和其他机构会选择 DocuSign,而使用它可能与工作或金融服务挂钩。

总体情绪

  • 整体上对 DocuSign 的做法持怀疑和批评态度,尤其是在同意和匿名化方面。
  • 也有人认为 AI 有实际好处,并接受在严格同意和保障措施下使用 AI,但对实施和执行的信任度很低。