O que acontece quando o custo da inteligência cai 100x
Quedas rápidas no custo de execução de modelos de IA estão levando muitos a tratar a “inteligência” como um recurso barato e abundante, elevando as expectativas para tudo, desde agentes pessoais e desenvolvimento de software até robótica e automação de pesquisa. Os comentadores debatem se os atuais modelos de linguagem de grande porte constituem inteligência de fato, até que ponto tokens mais baratos aumentarão o uso (via efeitos semelhantes ao paradoxo de Jevons) e se modelos abertos e de baixo custo vão enfraquecer o caso econômico para sistemas de fronteira caros. Outros destacam restrições práticas como velocidade, limites de hardware, escassez de dados e modelos de negócio incertos, argumentando que ainda é cedo demais para saber o verdadeiro preço e impacto de longo prazo da inteligência de máquina.
Reação geral ao artigo
- Os comentadores elogiam fortemente a clareza dos gráficos de custo/desempenho, especialmente a fronteira de Pareto animada.
- Alguns veem os gráficos como a primeira prova visual “inquestionável” da rápida melhoria das capacidades.
- Alguns se perguntam se escalas lineares comunicariam melhor o progresso, embora isso possa tornar os gráficos ilegíveis.
Robótica como principal beneficiária
- Muitos veem a robótica como a área mais clara em que inteligência mais barata importa: dobrar roupa, lidar com lixo, tarefas de fábrica.
- Limites atuais: os robôs são lentos, muitas vezes só funcionam em ambientes controlados e carecem de sensores ricos, semelhantes aos humanos, especialmente tato e feedback de força.
- Debate: alguns argumentam que a robótica ainda está “muito distante” para uso doméstico geral; outros dizem que ela já entrega forte valor em ambientes industriais e está se expandindo de forma constante.
Hardware, custo e velocidade
- Vários esperam outro ganho de eficiência de 50–500× com chips especializados e melhor distilação.
- Há discordância sobre se modelos de nível de fronteira rodarão realisticamente em smartphones ou se será mais eficiente hospedá-los em datacenters.
- A velocidade (latência) é vista por muitos como um gargalo maior do que o preço por token, especialmente para fluxos de trabalho interativos.
O que “inteligência” significa
- Um grupo trata LLMs como busca avançada e insiste que a verdadeira inteligência de engenharia continua sendo humana.
- Outro argumenta que inteligência é fundamentalmente predição, então o comportamento dos LLMs já qualifica como uma forma de inteligência.
- Outros enfatizam que a inteligência humana biológica e incorporada é qualitativamente diferente de modelos treinados em texto.
Demanda, paradoxo de Jevons e consumo de tokens
- Muitos esperam efeitos do tipo Jevons: tokens mais baratos levam a muito mais uso (agentes de maior duração, sistemas multiagente, experimentação constante).
- Alguns observam que, em outros domínios (por exemplo, iluminação), ganhos de eficiência ainda assim reduziram a participação total de recursos, sugerindo que os resultados dependem da elasticidade da demanda.
- A demanda por inteligência é amplamente vista como potencialmente ilimitada, especialmente em software e P&D.
Qualidade do modelo, modelos abertos e economia
- Usuários relatam que modelos pequenos e abertos já são “bons o suficiente” para muitas tarefas, a uma fração do custo.
- Compensações destacadas: modelos mais baratos podem ser mais lentos, menos confiáveis ou exigir mais “pensamento”, então o tempo de execução e a consistência importam.
- Há debate sobre se a inferência hoje é subsidiada e se os provedores de modelos fundamentais alguma vez conseguirão recuperar os custos de treinamento.
- Alguns preveem comoditização: modelos proprietários continuam à frente, mas modelos abertos e a distilação vão corroendo continuamente sua vantagem.