欧盟达成协议，监管 ChatGPT 和 AI 技术

AI 法案现状 / 文本可用性

• 多位评论者指出，这项“协议”只是政治层面的，并非法律最终定案；具体立法文本和修正案当时尚未公开。
• 对法律是否已经“通过”存在一些混淆；线程中的共识是：已经达成折中方案，但法律起草、翻译和正式投票仍在等待中。

“AI”的范围与定义

• 欧盟的做法基于风险和用途（例如执法、庇护决定等“高风险”系统），并不只针对机器学习。
• 引用的附录式定义显示：AI 包括机器学习、基于规则/专家系统、基于逻辑的系统，以及统计/搜索/优化方法。
• 关于术语存在争论：有人认为这会让“有史以来写出的每个程序”都算 AI；也有人回应说，法律监管的是敏感的用途，而不只是技术手段。

生物识别、社会评分与操控

• 高风险/被禁止的领域包括：实时人脸识别（仅限极窄的执法例外）、基于敏感特征（种族、性取向、宗教、政治信仰）的生物识别分类、社会评分，以及认知/行为操控。
• 围绕禁止自动检测种族/特征存在争议：
  • 批评者认为这不现实，会削弱有用的分析能力，并会促使系统间接推断特征。
  • 支持者认为，基于敏感属性的自动画像本身就极其危险，而且很多时候即使人工这样做也早已违法。
• 对大规模监控、预测性警务和社会评分也有类似担忧，并提到了中国以及欧洲和其他地区的真实丑闻。

监管 vs 创新 / 欧盟竞争力

• 立场分裂明显：
  • 批评者：欧盟在“把自己管出市场”，重复或放大大型互联网平台时代看到的模式；小公司可能会对欧盟地区做地理封锁、推迟上线，或干脆回避这个市场；担心监管被大既得利益者俘获。
  • 支持者：具有巨大外部性的技术（监控、歧视、操控）必须受到约束；与其重演社交媒体的经验，不如尽早行动；一些人明确表示，比起不受监管的伤害，他们更愿意接受更慢的创新。
• 讨论还涉及欧洲更广泛的技术落后问题（美国主导的平台、资本池、碎片化市场），以及监管究竟是原因还是症状。

基础模型、开源与文档要求

• 围绕“基础模型”的谈判争议很大。
• 据称的折中方案：对强大的基础模型施加限制和透明义务，但对开源模型给予广泛豁免/优势。
• 有人欢迎这一点，认为这能防止大公司锁定和“黑箱”系统；也有人担心，对基础模型强制登记和文档要求，类似于复活“代码即弹药”式的控制。
• 对这是否会增强或抑制 FOSS 存在分歧；“训练”和“微调”在实践中如何区分仍不清楚。

责任、黑箱与高风险用途

• 许多人认为核心问题是问责：部署会做出改变人生决定的系统（信用、福利、警务、庇护、医疗分诊）的实体，必须承担完全责任并能够解释结果。
• 引用过去的伤害（算法歧视、福利丑闻、有偏差的健康与招聘工具）作为理由，说明需要超越通用数据保护法的明确 AI 规则。
• 反对观点：现有关于歧视和数据处理的法律（例如 GDPR）就已足够；再加一层 AI 特定规则会造成越权和官僚负担。

GDPR 类比与实施担忧

• 有人认为这会成为“新的 GDPR”：大公司可以吸收合规成本；小网站/产品可能会阻止欧盟用户访问。
• 也有人回应说，只要不做侵入式跟踪，GDPR 合规其实很容易；“cookie 横幅地狱”被描述为恶意或政治性的设计，而不是法律强制要求。
• 类似地，人们担心 AI 规则最终只会被最低限度、对抗性地遵守，产生糟糕的用户体验和防御性的法律主义，而不是真正的安全。

版权、训练数据与财产权

• 一部分人认为，除非模型的训练数据获得许可且可证明，否则模型不应被合法销售；另一些人回应说，这相当于颠倒举证责任，并会把大多数当前做法都刑事化。
• 另有关于废除或削弱版权 vs. 将其视为文化生产必需保障的辩论；没有共识。

元层面的担忧

• 背后的哲学分歧：
  • 一派不信任公司，支持更强监管，并认为 AI 是又一个需要公共控制的领域。
  • 另一派不信任国家和欧盟官僚机构，担心控制逐步加深和创新被扼杀，更愿意只关注有害用途，而不是技术本身。