Há pouca desvantagem em mudar para modelos abertos

Economia de Hardware e Inferência Local

• Vários comentaristas executam modelos abertos localmente (muitas vezes em Apple Silicon com muita RAM), considerando que é “totalmente viável” para programação apenas com 64–96GB+ de RAM; 16GB é geralmente visto como insuficiente.
• A memória unificada da Apple é vista como uma alternativa custo-efetiva a GPUs de ponta, que são descritas como extremamente caras e consumidoras de energia.
• Outros fazem as contas e concluem que hospedar localmente modelos grandes (por exemplo, GLM 5.2) é muito mais caro e mais lento do que a inferência na nuvem, a menos que você tenha uso sustentado e alto ou necessidades rigorosas de privacidade.
• Clusters locais cooperativos ou compartilhados são cogitados, mas em geral descartados por serem antieconômicos em comparação com provedores de nuvem que se beneficiam de escala e subsídios de investidores.

Diferença de Qualidade: Modelos Abertos vs. Frontier

• Muitos dizem que os modelos abertos estão “alguns meses atrás” dos melhores modelos proprietários, sendo bons o bastante para boilerplate, refatoração e tarefas de programação mais simples.
• Outros discordam fortemente, relatando que mesmo os melhores modelos de pesos abertos ainda não igualam os modelos frontier recentes em trabalhos complexos, especialmente em grandes tarefas de engenharia de software.
• Alguns destacam opções abertas de destaque (por exemplo, GLM 5.2, DeepSeek V4, variantes MiMo) como próximas de lançamentos frontier anteriores, particularmente para programação, mas observam instabilidade e comportamento irregular.

Preços, Assinaturas e Economia de Tokens

• São comparados provedores hospedados de pesos abertos (OpenRouter, OpenCode Go, vários roteadores da UE); os preços variam amplamente, com alguns planos de tarifa fixa oferecendo muito mais uso do que assinaturas frontier equivalentes.
• O debate sobre assinaturas versus cobrança puramente por token: usuários intensivos podem preferir assinaturas; usuários leves/pesados relatam gastos muito baixos com API devido ao cuidado no design de prompts e ferramentas.

Confiabilidade, Degradação e Lock-in de Fornecedor

• Vários comentaristas relatam uma suposta “degradação” de modelos proprietários ao longo do tempo (possivelmente por quantização, roteamento para variantes menores ou restrições de capacidade) e observam quedas em benchmarks acompanhados.
• Isso alimenta o interesse em pesos abertos como proteção contra enshittification e rug-pulls: uma vez que os pesos são públicos, qualquer pessoa pode hospedá-los e você pode continuar usando uma versão preferida indefinidamente.

Privacidade, Jurisdição e Ética

• Há fortes preocupações sobre enviar dados sensíveis ou regulados pela UE para empresas dos EUA; alguns insistem em roteadores de propriedade/hospedagem da UE com garantias rígidas de retenção de dados, mesmo a um custo mais alto.
• Outros desconfiam de todos os grandes provedores dos EUA devido ao suposto envolvimento em alvos militares e a preocupações mais amplas de vigilância.
• Contra-argumentos observam que até mesmo os estados da UE querem vigilância; alguns afirmam que a verdadeira segurança exige auto-hospedagem completa.

Casos de Uso, Ferramentas e Harnesses

• Chamada de ferramentas (busca na web, fetch HTTP, etc.) é enfatizada como uma característica do harness, não como uma capacidade intrínseca do modelo; modelos abertos podem igualar os modelos frontier nisso se forem encapsulados corretamente.
• Vários relatam que, para 80–95% do trabalho “braçal” ou de nível júnior, modelos abertos menores ou mais baratos são suficientes; modelos frontier são reservados para tarefas com forte componente de design ou de alto risco.
• Alguns destacam que trocar modelos é fácil, mas manter harnesses complexos e pilhas de prompts funcionando de forma idêntica não é trivial.

Críticas ao Artigo e Perspectivas Futuras

• Vários leitores observam que o título do artigo (“pouca desvantagem”) não é sustentado por evidências concretas; o texto é visto mais como aspiracional do que comprovado.
• Há desacordo sobre a trajetória: alguns esperam que os modelos abertos alcancem ou superem a qualidade frontier recente dentro de 1–3 anos; outros argumentam que restrições de computação e dados os manterão atrás sem grandes avanços ou apoio em nível estatal.
• O risco regulatório é levantado: modelos abertos podem ser restringidos ou banidos sob pretextos de segurança, o que poderia consolidar grandes fornecedores proprietários.