K2 Horizon: Uma frota conectada de seis modelos abertos

Artigo original ↗ Discussão no Hacker News ↗

Uma nova família de modelos de linguagem K2 Horizon “radicalmente aberta” está chamando atenção tanto por publicar pesos e grandes partes dos dados de treinamento quanto por buscar oferecer um pipeline de treinamento totalmente transparente. Os comentaristas acolhem mais um participante sério de stack aberto — especialmente um modelo 7B que apresenta benchmarks competitivos para código em hardware modesto — mas observam que variantes maiores ainda ficam atrás dos melhores modelos abertos como o Qwen e que alguns repositórios e receitas ainda estão incompletos. O lançamento também reaquece debates mais amplos sobre se modelos totalmente abertos podem ou devem incluir dados de treinamento, como copyright e fair use se aplicam e se a rápida enxurrada de novos LLMs está levando à “fadiga de modelos”.

Fadiga de modelos, hype e analogia com ciclos tecnológicos passados

  • Vários comentaristas expressam “fadiga de modelos” diante de lançamentos novos constantes.
  • Fazem-se comparações com eras anteriores de hype de CPUs e smartphones: os lançamentos iniciais eram eventos enormes; agora, só especialistas acompanham cada novo chip/telefone.
  • Há a expectativa de que os LLMs sigam um caminho semelhante: a maioria dos usuários apenas escolherá modelos “bons o suficiente”.
  • Alguns observam que “você não precisa prestar atenção”; o que você constrói com os modelos importa mais do que correr atrás dos lançamentos de fronteira.

Abertura, dados de treinamento e alegações de “radicalmente aberto”

  • Forte apoio a stacks totalmente abertos: pesos, código, dados de treinamento e receitas, para reduzir manipulação de caixa-preta.
  • Ceticismo em relação ao marketing de “radicalmente aberto” até que os dados de treinamento e as receitas completas realmente sejam publicados.
  • Observa-se que os conjuntos de dados de treinamento do K2 já estão no Hugging Face, mas os repositórios de pré/pós-treinamento ainda são placeholders.
  • Trabalhos anteriores do mesmo ecossistema (por exemplo, modelos K2 anteriores) fazem alguns esperarem receitas completas eventualmente, mas eles mantêm o julgamento em suspenso.

Desempenho e benchmarks

  • O Dense 32B é relatado (pelos próprios gráficos) como atrás de concorrentes abertos mais fortes, como o Qwen 3.8 27B; o Gemma 4 31B não está no conjunto de comparação.
  • Alguns argumentam que o 32B é rotulado como “stage 1” e está inacabado, então o lançamento inicial serve principalmente para mostrar o pipeline aberto.
  • O modelo 7B é repetidamente apontado como impressionante, potencialmente o “melhor abaixo de 10B” e competitivo em benchmarks de código (por exemplo, pontuações do SWE-bench-verified comparáveis às de modelos muito maiores).
  • Outros destacam que as comparações omitem modelos abertos fortes mais recentes e que classes/variantes de quantização não são correspondidas de forma consistente.

Capacidades de codificação e modelos pequenos

  • Alguns usuários testam modelos menores (3.7B, 7B) em problemas de programação no estilo de entrevista.
  • Relatos: o 3.7B falha em tarefas básicas, alucina APIs e fica travado; o 7B dá respostas mistas ou parcialmente corretas.
  • Debate sobre se modelos com menos de 10B são adequados para codificação séria ou apenas para autocomplete/resumo.
  • Alguns comparam com outros modelos pequenos de código que já lidam bem com essas tarefas.

Ferramentas, implantação e aspectos práticos

  • Interesse em executar o K2 localmente; usuários mencionam suporte ao vLLM e suporte recente do dflash2 para outros modelos.
  • Frustração de que novos lançamentos frequentemente oferecem suporte ao vLLM rapidamente, mas demoram no llama.cpp, que é crucial para hardware antigo/mais fraco.
  • Observações de que a demo hospedada do K2 é extremamente rápida quando funciona, embora inicialmente alguns modelos estivessem indisponíveis.

Debates mais amplos sobre PI, copyright e dados sintéticos

  • Longo subfio sobre se modelos totalmente abertos são sequer possíveis sob a legislação atual de direitos autorais.
  • Ideias discutidas:
    • Usar LLMs para gerar dados sintéticos de treinamento a partir de fontes sem permissão.
    • Corpora totalmente sintéticos ou apenas de domínio público.
    • Treinamento e armazenamento descentralizados.
  • Propostas controversas de tratar todos os dados da internet publicamente acessíveis como domínio público são defendidas e fortemente criticadas como impraticáveis e distópicas.
  • Alguns apontam projetos existentes (por exemplo, OLMo/Dolma e similares) como uma prova de conceito parcial para pipelines transparentes, mesmo que o conteúdo coletado subjacente não seja totalmente redistribuível.

Notas diversas

  • Alguns reclamam de gráficos do blog ausentes/travados e de visuais pequenos e difíceis de ler.
  • Confusão sobre a nomenclatura (“K2” já é usada em outro lugar).
  • Apreciação de que este lançamento coincide com grandes indisponibilidades de LLMs fechados, reforçando o valor percebido dos modelos abertos.