Pirate Face 将 LLM 模型从删除中解救出来

一个名为 Pirate Face 的新网站试图通过将 Hugging Face 仓库镜像到 BitTorrent 来保存开放权重 AI 模型,把 P2P 定位为分发大型模型权重的一种更具韧性的方式。评论者普遍支持将 torrents 视为这一用例的自然选择,尤其是在担心下架、许可压力,以及像 Hugging Face 这样的平台注册门槛提高、可能受到企业或政府影响的背景下。也有人提出关于死 torrent、长期做种激励、将哈希与可信来源验证,以及 Pirate Face 争议性的注册机制等实用和安全方面的担忧,因为它会鼓励用户在社交平台上发帖来完成账号验证。

总体反响

  • 许多人认为 Pirate Face 是一个聪明、来得有点晚的点子:用 torrent 来保存和分发 AI 模型权重,尤其是在平台控制或未来下架风险之下,作为一种对冲手段。
  • 也有人持谨慎态度,指出类似项目往往会逐渐消失,而持久性取决于长期、持续做种的人,而不只是一个网站。

Torrents 与中心化托管(Hugging Face、CDN、IPFS)

  • 有很强的观点认为,BitTorrent 非常适合大型模型权重,并且应该成为默认方式,避免像 Hugging Face 这样的单点故障。
  • 也有人指出一些实际问题:
    • 公共 torrent 往往会随着时间推移而死亡,除非有激励机制或专门的做种者。
    • BTv1 的限制(没有按文件校验和、没有 swarm 合并)进一步恶化了长期可用性;BTv2 已经存在,但很少使用,支持也很差。
    • 模型频繁迭代会导致 torrent 片段化。
  • 还有人提到:
    • Web seeds 可以把 HTTP 和 torrents 结合起来,使 torrents 比仅靠直接链接更有韧性。
    • 存储去重和像 ZFS 这样的文件系统可以减少相似 torrents 之间的重复。
    • IPFS 被提及为概念上很契合,但在实践中被批评为缓慢且不可靠。

未审查 / abliterated 模型与运行时引导

  • Pirate Face 被认为对保存可能在 Hugging Face 上面临移除或访问限制的“未审查”或“abliterated”模型很有用。
  • 有一条讨论认为,修改权重(“abliteration”)并不理想;更好的做法是:
    • 在运行时通过 activation steering 移除或调节“拒绝方向”。
    • 分发小型“拒绝向量”或紧凑元数据,而不是完整的修改后权重。
    • 这样可以避免重量化带来的精度损失和奇怪行为。
  • 另一些人强调托管推理提供商:修改过权重的模型可以在任何地方运行,而暴露运行时 steering 向量在政治或法律上可能更敏感。

安全性、完整性与恶意模型

  • 担忧在于:torrents 让恶意微调模型更容易传播(例如窃取秘密的模型)。
  • 建议的缓解措施:
    • 通过将 torrent 内容的哈希与原始 Hugging Face 产物对比来验证。
    • 一位读者在继续往下看后提到,Pirate Face 会检查哈希,这在一定程度上缓解了这个问题。

许可与审查

  • 关于一个“无审查”档案库是否应该尊重许可,存在争论:
    • 有人认为许可本身就是一种政治卡点,也可能被用来进行审查。
    • 对于如果法院因 IP 侵权下达下架令,Pirate Face 是否会移除模型,这仍是开放问题;结果并不明确。

注册机制与垃圾信息

  • 对 Pirate Face 的账号验证方式批评很强烈:
    • 需要在 X 或 Hacker News 上发帖来“认领”用户名。
    • 这被认为会激励垃圾信息,并可能导致限流或封禁风险。
    • 建议的替代方案是使用不那么容易产生垃圾信息的证明方式(例如个人资料文本验证),就像其他服务所采用的那样。

品牌与命名

  • 对 “Pirate” 品牌名称反应不一:
    • 有些人不喜欢这种与盗版相关的暗示,认为模型本身并不一定非法。
    • 另一些人则把 “pirate” 看作正面含义,代表信息解放,也使企业收购的可能性更低。

更广泛的背景与担忧

  • 有人担心:
    • 中心化平台(尤其是在大型公司控制下)会越来越多地对模型设置门槛或将其移除,尤其是未审查模型。
    • 政府可能更倾向于中央控制点以便执行监管。
  • 有些人对手动囤积数据感到疲惫,欢迎自动化(脚本、规范化 torrents、由原始主机作后备支持)。
  • 也有人指出,并非所有模型都应该被永久保存;AI 产物的“永久性”本身就是有争议的。