La IA de código abierto debe ganar

Definiciones y alcance

• Distinción frecuente entre:
  • IA de código abierto (código, datos, recetas de entrenamiento abiertos).
  • Open weights (modelos descargables pero con datos y entrenamiento opacos/no documentados).
• Algunos sostienen que los open weights son “freeware, no open”; otros dicen que los pesos son el artefacto clave y ya permiten modificación y ajuste fino.
• La confusión terminológica (código abierto vs open weights) se ve como algo explotado estratégicamente por el marketing de los grandes laboratorios.

¿Pueden los modelos abiertos igualar a los laboratorios de vanguardia?

• Muchos creen que el capital, los datos expertos y los centros de datos a hiperescala dan a los laboratorios cerrados una ventaja duradera; los modelos abiertos serán como GIMP frente a Photoshop o Linux frente a Windows.
• Visión contraria: los modelos locales (p. ej., 30–70B+) ya son “tipo Sonnet” para programación y otras tareas; para la mayoría de los usuarios, los modelos abiertos “suficientemente buenos” bastan.
• Varios señalan rendimientos decrecientes en la frontera más avanzada: los modelos abiertos con un año de retraso respecto a la vanguardia aún pueden capturar la mayor parte del valor práctico.

Cómputo, hardware y descentralización

• Gran énfasis en que el verdadero foso defensivo son las GPU, la RAM y las interconexiones rápidas, no los pesos.
• Debate sobre si el hardware de consumo/prosumidor más el tiempo pueden llegar a rivalizar con los clústeres a hiperescala; algunos invocan la deflación tecnológica, las GPU empresariales de segunda mano y futuros ASIC.
• Muchas propuestas para entrenamiento e inferencia distribuidos/federados (estilo BOINC, MoE, compresión de gradientes), pero:
  • La latencia, el ancho de banda y la verificación/el envenenamiento son problemas importantes aún no resueltos.
  • Algunos ven el entrenamiento descentralizado principalmente como algo simbólico o como un elemento disuasorio, no como una vía hacia modelos de clase Fable.

Financiación y modelos de negocio

• Entrenar modelos de vanguardia se considera “inconcebiblemente caro”; hay escepticismo sobre que donaciones o voluntarios puedan sostener competidores realmente abiertos.
• Se proponen ideas como: centros de datos públicos, consorcios interuniversitarios o multinacionales, “LLMs públicos” financiados por el Estado, consorcios empresariales que conviertan en mercancía los complementos de los laboratorios cerrados.
• Desconfianza de que cualquier “laboratorio abierto” no termine pivotando luego hacia el lucro; se cita a OpenAI como precedente.

Control, seguridad y regulación

• Preocupación profunda por la dependencia de unas pocas megacorporaciones estadounidenses para la cognición, con riesgos asociados para la expresión, el trabajo y “el pensamiento mismo”.
• Algunos sostienen que democratizar modelos potentes es necesario para construir defensas contra la IA maliciosa; otros insisten en que el acceso abierto a sistemas de nivel de vanguardia es incompatible con la bioseguridad y la ciberseguridad.
• Se espera que un incidente serio vinculado a la IA pueda desencadenar una regulación dura de los modelos abiertos y posiblemente del cómputo de consumo.

Geopolítica y “ganar”

• Los laboratorios chinos de open weights son elogiados por impedir un monopolio estadounidense, pero también se los ve alineados con el Estado y no “abiertos” de forma altruista.
• “Ganar” se define de varias maneras:
  • Modelos abiertos de clase vanguardia.
  • Sistemas abiertos “suficientemente buenos” y ubicuos, ejecutables localmente.
  • Propiedad o gobernanza colectiva o pública de los modelos y la infraestructura.