Inkling: Nosso Modelo de Pesos Abertos

Artigo original ↗ Discussão no Hacker News ↗

Um laboratório de IA americano lançou o Inkling, um grande modelo multimodal de pesos abertos posicionado como uma alternativa personalizável a líderes chineses como GLM 5.2, DeepSeek e Kimi. Os comentadores o veem como uma forte primeira tentativa — especialmente em seguimento de instruções e áudio/visão — embora ainda fique atrás dos melhores modelos de fronteira e dos modelos abertos chineses em muitos benchmarks. Grande parte do debate gira em torno de se laboratórios de pesos abertos conseguem construir negócios sustentáveis com fine‑tuning e hospedagem, quanto “fosso” realmente existe num mundo de troca barata de modelos e da importância estratégica de modelos abertos controlados domesticamente diante de crescente pressão geopolítica e regulatória.

Capacidades do modelo e benchmarks

  • Inkling é um modelo MoE multimodal, de contexto longo e com pesos abertos; também há uma variante menor, em teste, de 276B no total / 12B ativos.
  • Os benchmarks o colocam abaixo dos principais modelos abertos chineses como GLM‑5.2 e Kimi K2.7, e abaixo dos modelos fechados de fronteira (GPT‑5.x, Fable, etc.).
  • Alguns argumentam que estar “próximo” do GLM‑5.2 em um primeiro lançamento é impressionante e mostra que o fosso de treinamento está diminuindo; outros apontam que ele estreia em torno de #41 em um índice público e questionam o hype.
  • Vários comentadores enfatizam que benchmarks não capturam totalmente a utilidade no mundo real; algumas avaliações privadas iniciais relatam que o modelo supera significativamente suas pontuações públicas em tarefas de nicho.

Multimodalidade, contexto e comportamento

  • Principal atrativo: modelo com pesos abertos, visão e áudio, contexto longo (até ~1M de tokens no papel).
  • Há debate sobre a utilidade de contexto longo: alguns veem o desempenho despencando após ~150–200k tokens; outros afirmam que certos modelos (e tarefas) ainda se beneficiam bem além disso, enfatizando a necessidade de avaliações específicas por tarefa.
  • Vários usuários elogiam o seguimento de instruções do Inkling, o tom e o estilo conversacional “humano”; a capacidade de programação é vista como mais fraca do que a de modelos líderes focados em código.

Posicionamento em pesos abertos e modelos de negócio

  • A Thinking Machines é vista como um dos poucos laboratórios dos EUA cujos incentivos se alinham com lançar pesos abertos fortes, ligados ao seu produto de fine‑tuning e hospedagem (Tinker).
  • Modelos de receita propostos:
    • Hospedagem/inferência para seu próprio modelo aberto.
    • Fine‑tuning gerenciado (SFT/RL) e disponibilização de modelos personalizados.
    • Ser a “infraestrutura” para empresas que querem modelos específicos de domínio, mais baratos do que os de fronteira.
  • Muitos questionam o fosso competitivo: se os pesos são abertos, qualquer um (incluindo hyperscalers) pode hospedá-los; alguns concluem que, na prática, não há fosso duradouro e que os gastos atuais são sobre presença de marca e capacidade doméstica, não lucro imediato.

EUA vs. modelos abertos chineses e geopolítica

  • Há um amplo debate sobre a necessidade de alternativas “domésticas” de pesos abertos aos modelos chineses (DeepSeek, GLM, Kimi, Z.ai), tanto nos EUA quanto em outros lugares, em caso de bloqueios regulatórios ou censura.
  • Alguns argumentam que os modelos chineses são fortemente restringidos pelo Estado (por exemplo, consultas sobre Tiananmen), enquanto outros contrapõem que modelos dos EUA/UE também têm vieses políticos e restrições de conteúdo.
  • Há preocupação em finanças, governo e setores semelhantes em depender de modelos originados na China, independentemente da qualidade técnica.

Recepção da comunidade

  • Muitos estão entusiasmados: forte primeiro lançamento, pesos abertos americanos, multimodalidade e integração estreita com uma pilha de fine‑tuning.
  • Céticos destacam: não é SOTA no geral, relação custo/desempenho pouco clara em comparação com APIs de fronteira baratas, e ausência de gráficos de custo.
  • Consenso geral: competição é bem-vinda, estreia promissora, mas o valor real dependerá dos fluxos de trabalho de fine‑tuning, da precificação e da rapidez com que itera.