Se você não consegue reproduzir o modelo, então ele não é de código aberto

Se modelos de IA devem ser chamados de “código aberto” é algo contestado, com muitos argumentando que liberar apenas os pesos do modelo — sem conjuntos de dados, pipelines de coleta de dados ou receitas completas de treinamento — fica aquém da transparência e da reprodutibilidade tradicionalmente esperadas em software de código aberto. Outros contrapõem que o que a maioria dos usuários quer é a capacidade de baixar, executar e fazer fine-tuning dos modelos, e que a liberação completa dos dados muitas vezes é impraticável por causa de custo, legalidade e privacidade. A discussão destaca uma divisão emergente entre “open weights” e modelos verdadeiramente reproduzíveis, além de esforços em andamento de grupos como a Open Source Initiative e o Debian para esclarecer o que “aberto” deve significar na era da IA.

O que “código aberto” significa para modelos de IA

  • Muitos argumentam que, se um modelo não pode ser reproduzido a partir de dados + código + receita de treinamento, ele não deveria ser chamado de “código aberto”, apenas de “open weights” ou “modelo disponível”.
  • Outros contrapõem que o código aberto clássico nunca garantiu reprodutibilidade ou acessibilidade financeira; o acesso ao código (ou pesos + executor) é suficiente, mesmo que a maioria das pessoas não tenha poder computacional.
  • Há debate sobre o que conta como “fonte” para ML: pesos, conjuntos de dados, scripts de treinamento ou todo o pipeline. Definições da GPL/OSI sobre “forma preferida para modificação” são frequentemente invocadas, mas aplicadas de forma inconsistente.

Papel dos dados, do código e da reprodutibilidade

  • Alguns veem os conjuntos de dados e os scripts de coleta/filtro como as peças cruciais que faltam; sem eles, não é possível retreinar, auditar vieses ou verificar alegações.
  • Outros afirmam que os pesos treinados são a “fonte” prática, porque a maior parte do trabalho útil acontece por meio de fine-tuning ou adição de camadas, e não por retreinamento do zero.
  • A reprodutibilidade é ainda mais complicada por treinamento não determinístico, custos enormes de computação e fontes de dados que desaparecem ou são privadas.

Valor prático vs. pureza filosófica

  • Um grupo se concentra nas liberdades do usuário: baixar, executar localmente, modificar (por meio de fine-tuning) e compartilhar derivados. Eles veem os LLMs “abertos” atuais como um ganho enorme em relação a serviços apenas via API.
  • Outro grupo enfatiza a autonomia de longo prazo: sem dados e receitas, a comunidade não pode realmente fazer fork ou continuar os modelos se os patrocinadores originais pararem de lançar versões.
  • São feitas comparações com blobs de firmware no Linux: melhor do que nada, mas não totalmente aberto.

Questões legais e éticas sobre dados

  • Muitos acreditam que os conjuntos de dados continuam fechados para evitar processos por direitos autorais e reação pública negativa a fontes controversas (por exemplo, livros, redes sociais, conteúdo pirateado).
  • Há preocupação de que usuários de modelos opacos possam, sem saber, depender de dados infratores ou enviesados.

Computação, viabilidade e esforços emergentes

  • Vários observam que treinar modelos de ponta está além da maioria dos indivíduos, mas modelos menores e úteis são viáveis para organizações sem fins lucrativos e laboratórios.
  • Alguns projetos (por exemplo, Pythia, StableLM, esforços como o RedPajama) são citados como tentativas de treinamento totalmente documentado ou com dados públicos, embora a reprodutibilidade real de ponta a ponta ainda seja rara.
  • Trabalhos de padronização (por exemplo, o “deep dive” da OSI, a política de ML do Debian) e ideias como “Dockerfiles para modelos” ou provas de conhecimento zero de treinamento são mencionados como possíveis caminhos adiante.