Pirate Face rescata modelos LLM de la eliminación

Un nuevo sitio llamado Pirate Face pretende preservar modelos de IA de pesos abiertos espejeando repositorios de Hugging Face a BitTorrent, posicionando P2P como una forma más resiliente de distribuir grandes pesos de modelos. Los comentaristas apoyan en gran medida los torrents como una opción natural para este caso, especialmente ante el temor a retiradas, presión sobre licencias y un mayor control central a medida que plataformas como Hugging Face avanzan hacia el bloqueo por cuenta y la posible influencia corporativa o gubernamental. Otros plantean preocupaciones prácticas y de seguridad sobre torrents muertos, incentivos para el seeding a largo plazo, la verificación de hashes frente a fuentes de confianza y el controvertido mecanismo de registro de Pirate Face, que anima a los usuarios a hacer spam en plataformas sociales para verificar la cuenta.

Recepción general

  • Muchos consideran Pirate Face una idea inteligente y tardía: usar torrents para preservar y distribuir pesos de modelos de IA, especialmente como cobertura frente al control de la plataforma o futuras eliminaciones.
  • Otros son cautelosos y señalan que proyectos similares a menudo se desinflan y que la permanencia depende de seeders comprometidos a largo plazo, no solo de un sitio web.

Torrents vs. alojamiento centralizado (Hugging Face, CDNs, IPFS)

  • Hay un fuerte sentimiento de que BitTorrent encaja de forma natural con los grandes pesos de modelos y debería ser la opción predeterminada, evitando puntos únicos de fallo como Hugging Face.
  • Varios señalan problemas prácticos:
    • Los torrents públicos a menudo mueren con el tiempo si no hay incentivos o seeders dedicados.
    • Las limitaciones de BTv1 (sin checksums por archivo, sin fusión de swarms) empeoran la longevidad; BTv2 existe, pero rara vez se usa y tiene poco soporte.
    • Las revisiones frecuentes de los modelos provocan fragmentación de torrents.
  • Algunos señalan:
    • Los web seeds pueden combinar HTTP y torrents, haciendo que los torrents sean estrictamente más resilientes que los enlaces directos por sí solos.
    • La deduplicación de almacenamiento y sistemas de archivos como ZFS pueden reducir la duplicación entre torrents similares.
    • Se menciona IPFS como una opción conceptualmente adecuada, pero criticada por ser lenta y poco fiable en la práctica.

Modelos sin censura / abliterated y steering en tiempo de ejecución

  • Pirate Face se ve como útil para preservar modelos “sin censura” o “abliterated” que puedan enfrentarse a eliminación o bloqueo de acceso en Hugging Face.
  • Una línea de discusión sostiene que modificar los pesos (“abliteration”) es subóptimo; en su lugar:
    • Eliminar o modular la “dirección de rechazo” en tiempo de ejecución mediante activation steering.
    • Distribuir pequeñas “refusal vectors” o metadatos compactos en lugar de pesos alterados completos.
    • Esto evita la pérdida de precisión y el comportamiento extraño derivados de la re-cuantización.
  • Otros enfatizan a los proveedores de inferencia gestionada: los modelos con pesos modificados pueden ejecutarse en cualquier parte, mientras que exponer vectores de steering en tiempo de ejecución podría ser políticamente o legalmente más delicado.

Seguridad, integridad y modelos maliciosos

  • Preocupación: los torrents facilitan la distribución de modelos afinados de forma maliciosa (por ejemplo, para exfiltrar secretos).
  • Mitigaciones sugeridas:
    • Verificar el contenido de los torrents comparando hashes con los artefactos originales de Hugging Face.
    • Un lector que siguió leyendo señaló que Pirate Face comprueba hashes, lo que aborda parcialmente esto.

Licencias y censura

  • Debate sobre si un archivo “libre de censura” debería respetar las licencias:
    • Algunos argumentan que las licencias ya son un punto de estrangulamiento político y pueden usarse para censura.
    • Queda abierta la pregunta de si Pirate Face eliminaría modelos si los tribunales ordenaran retirarlos por violaciones de propiedad intelectual; el resultado no queda claro.

Mecanismo de registro y spam

  • Fuerte crítica a la verificación de cuentas de Pirate Face:
    • Requiere publicar en X o Hacker News para “reclamar” un nombre de usuario.
    • Se ve como un incentivo al spam y potencialmente riesgoso por límites de tasa o baneos.
    • Alternativa sugerida: pruebas no spammy (por ejemplo, verificación mediante texto de perfil), como hacen otros servicios.

Marca y nombre

  • Reacción mixta al branding “Pirate”:
    • A algunos no les gusta la connotación de piratería, argumentando que los modelos no son inherentemente ilegales.
    • Otros ven “pirate” como algo positivo, que implica liberación de información y hace menos probables las adquisiciones corporativas.

Contexto más amplio y preocupaciones

  • Preocupa que:
    • Las plataformas centralizadas (especialmente bajo propiedad de grandes corporaciones) vayan a restringir cada vez más o eliminar modelos, especialmente los sin censura.
    • Los gobiernos prefieran puntos de control centralizados para hacer cumplir normas.
  • Algunos expresan cansancio con el acaparamiento manual de datos y agradecen la automatización (scripts, torrents canónicos, respaldados por hosts originales).
  • Unos pocos señalan que no todos los modelos deberían preservarse para siempre; la “permanencia” de los artefactos de IA en sí misma es un tema controvertido.