A IA está acelerando dramaticamente a pesquisa em IA

As alegações de que sistemas de IA agora estão acelerando dramaticamente a própria pesquisa em IA geram tanto entusiasmo quanto ceticismo. Os comentaristas ponderam a constatação da METR de que a Anthropic obteve anos de progresso em um ano — supostamente sem mais computação de treinamento — contra preocupações sobre métodos opacos, “inteligência irregular” guiada por benchmarks, restrições de hardware e capital, e paralelos com bolhas anteriores de IA. Muitos veem ganhos claros de produtividade em programação e experimentação, mas divergem fortemente sobre se isso aponta para superinteligência descontrolada e risco existencial ou apenas para uma melhoria incremental mais rápida, mas ainda limitada.

O que está impulsionando a aparente aceleração?

  • Debate sobre as causas: alguns atribuem o progresso mais rápido da IA a modelos melhores e à pesquisa assistida por IA; outros dizem que isso se deve בעיקרamente a capital, mais GPUs e gastos massivos com tokens.
  • Vários apontam para modelos de fronteira mais baratos e mais fortes ao longo do tempo (por exemplo, modelos mais novos superando os antigos a um custo por token menor) como evidência de que a “inteligência por dólar” está aumentando.
  • Outros argumentam que os ganhos atuais ainda são, em sua maioria, escalonamento e melhores arquiteturas/RL, não um regime fundamentalmente novo.

Papel da METR e o estudo de caso da Anthropic

  • Um relatório da METR citado afirma que a Anthropic alcançou ~2 anos de progresso em IA em 1 ano e que isso não foi devido a mais computação de treinamento.
  • Alguns comentaristas veem isso como uma forte evidência de que a IA está acelerando a pesquisa em IA.
  • Outros desconfiam da METR, chamando-a efetivamente de PR alinhado com o laboratório, criticando fortes redactions, métricas pouco claras como AECI e conclusões excessivamente confiantes.

Modelos de fronteira vs. modelos abertos e restrições de hardware

  • Um lado argumenta que modelos abertos melhores vão comoditizar as capacidades, reduzindo o mercado premium para laboratórios de fronteira.
  • Contraponto: os laboratórios de fronteira já vendem modelos de nível intermediário “bons o suficiente” e podem igualar provedores abertos em preço e capacidade.
  • Discordância sobre a praticidade de modelos locais: alguns dizem que eles já funcionam bem em hardware de consumo ou em servidores modestos; outros os chamam de “brinquedos” e observam que a hospedagem própria real ainda custa dezenas de milhares de dólares.

Benchmarks, “inteligência” e limites

  • Discussão sobre se benchmarks agregados (ECI, etc.) capturam de forma significativa a “inteligência”.
  • Alguns enfatizam que benchmarks apenas medem tarefas estreitas e treináveis; grande parte da inteligência do mundo real pode permanecer não medida e irregular.
  • Outros observam correlações entre tarefas (por exemplo, treinar em código melhorando o raciocínio) e veem uma melhora consistente e ampla.

Produtividade, slop e burocracia

  • Muitos pesquisadores e engenheiros relatam acelerações de 5–10x em ideação, prototipagem e compreensão de código legado.
  • Outros destacam uma onda de artigos, código e submissões para conferências de baixa qualidade, além de revisões geradas por IA.
  • Vários descrevem “trabalho-meta” induzido por IA: resumos de IA, rubricas avaliadas por IA e ferramentas de planejamento que expandem a burocracia sem impacto líquido claro.

Segurança, superinteligência e risco

  • Forte divisão: alguns veem a aceleração da pesquisa em IA como algo que aumenta as chances de RSI descontrolada e novas armas, defendendo controle mais rígido e implantação mais lenta.
  • Céticos dizem que o discurso sobre extinção não tem fundamento, dado que os sistemas atuais são preditores de padrões que precisam de testes físicos e agência humana para causar danos reais.
  • Longo subthread sobre persuasão: se sistemas muito mais inteligentes poderiam manipular humanos a agir de forma perigosa; críticos duvidam que a persuasão escale para algo “capaz de acabar com o mundo”, enquanto defensores apontam para propaganda histórica, seitas e manipulação online existente como sinais de alerta.

Ciclos de hype e analogias históricas

  • Comparações com o boom e o colapso da IA nos anos 1980: tecnologia transformadora não impede bolhas ou invernos.
  • Alguns preveem uma deflação da IA “como a de NFT” quando o hype e o dinheiro fácil desaparecerem; outros argumentam que os ganhos concretos de produtividade atuais tornam este ciclo fundamentalmente diferente.