Mistral Large

Artigo original ↗ Discussão no Hacker News ↗

O lançamento do novo modelo principal “Mistral Large” pela Mistral AI, oferecido como API paga e no Azure, é visto como um movimento estratégico rumo ao topo dos LLMs comerciais ao lado da GPT‑4 e da Gemini. Os comentaristas se concentram em seu preço um pouco menor e em benchmarks próximos do estado da arte, mas muitos se decepcionam porque, ao contrário dos lançamentos anteriores da Mistral, os novos pesos do modelo são fechados e a marca da empresa se afastou de um compromisso explícito com pesos abertos. Essa mudança alimenta preocupações mais amplas de que “open source” em IA muitas vezes é uma estratégia temporária de marketing até que os fornecedores possam bloquear seus modelos mais fortes, com implicações para concorrência de longo prazo, pesquisa e controle do usuário.

Posicionamento entre aberto e fechado e “open source”

  • Muitos veem os novos modelos fechados da Mistral (e a mudança no texto do site de “Open-Weight models” para “Frontier AI in your hands”) como um afastamento da marca anterior centrada em pesos abertos, comparando isso à trajetória da OpenAI.
  • Alguns argumentam que “open source” realmente não se aplica a blobs opacos de pesos; outros respondem que os pesos são a “forma preferida para modificação” em ML e, portanto, contam razoavelmente.
  • Vários comentários enquadram os lançamentos abertos como uma etapa de marketing ou “freemium” até que um modelo seja competitivo o suficiente para ser vendido.
  • Uma minoria defende a Mistral: empresas precisam financiar treinamentos caros, e disponibilizar gratuitamente modelos abertos fortes pode beneficiar principalmente concorrentes “copiadores”.

Preços, integração com Azure e enfoque empresarial

  • Preços do Mistral Large: $8 / 1M tokens de entrada, $24 / 1M tokens de saída — um pouco mais barato que o GPT‑4‑Turbo ($10 / $30).
  • No Azure, a Mistral é marginalmente mais barata que o GPT‑4‑Turbo; o GPT‑4 clássico é muito mais caro.
  • Alguns se perguntam por que alguém usaria Mistral em vez de GPT‑4 quando ela fica um pouco pior nos benchmarks, mas custa apenas cerca de 20% menos.
  • Outros observam que a distribuição via Azure é essencial para empresas: contratos já existentes, conformidade (por exemplo, FedRAMP) e indenização tornam “apenas mais um serviço do Azure” muito mais fácil de comprar do que a própria hospedagem de uma startup.

Capacidades, benchmarks e testes no mundo real

  • Os próprios gráficos da Mistral mostram que ela fica um pouco abaixo da GPT‑4 e, segundo comentaristas, abaixo da Gemini 1.5 / Ultra em alguns benchmarks; a escolha da Gemini Pro 1.0 como comparador é criticada por estar desatualizada.
  • Usuários relatam resultados mistos no uso prático: alguns acham o Le Chat melhor que a GPT‑4 em tarefas específicas de programação; outros ainda veem a GPT‑4 como claramente superior em raciocínio, qualidade de código e compreensão de intenção.
  • O Mixtral 8x7B continua sendo elogiado como um modelo aberto excepcionalmente útil, especialmente para uso local, com alguns preferindo-o ao Google Search para consultas técnicas.

Mudanças na API, nomenclatura e linha de produtos

  • Os endpoints foram renomeados e versionados (por exemplo, open-mistral-7b, open-mixtral-8x7b, mistral-small-2402, mistral-large-2402), com aliases antigos programados para descontinuação.
  • Novos recursos incluem function calling e modo JSON para Mistral Small e Large, uma nova interface Le Chat e gestão de contas empresariais.
  • Alguns interpretam a divisão entre endpoints “open-*” e proprietários como um sinal de que futuros modelos de ponta permanecerão fechados.

Preocupações econômicas e do ecossistema

  • Há debate sobre se liberar os pesos prejudicaria de forma relevante a receita: alguns acham que as vantagens de infraestrutura e vendas preservariam o negócio da OpenAI/Mistral; outros apontam para a rapidez com que terceiros hospedam modelos abertos de forma mais barata e rápida.
  • Foram expressos temores sobre a concentração dos melhores modelos em torno de poucos grandes players (notavelmente alinhados à Microsoft), potencial antitruste/“enshittification” e a falta de esforços comunitários robustos e financiados para treinamento aberto.