E se a AGI não estiver chegando?

Enquadramento e premissa do artigo

• Vários comentaristas dizem que o ensaio não explora de fato “e se a AGI nunca vier” e, em vez disso, argumenta que a AGI é improvável, sem dizê-lo de forma explícita.
• Alguns veem um ângulo financeiro: ninguém quer “dizer às crianças que o Papai Noel não é real” enquanto as ações de IA estão inflando.

O que é AGI / inteligência?

• Há discordância sobre se a AGI já está aqui (por exemplo, com transformers possibilitando transferência ampla) ou se AGI é algo que exige consciência, agência ou propriedades “semelhantes a uma alma”.
• Alguns argumentam que “inteligência geral” é apenas um conjunto de capacidades; outros sugerem que os humanos podem estar perto de um limite superior de inteligência útil para o nosso ambiente.
• Existe frustração com definições mutáveis ou vagas; há alegações de que termos como AGI/ASI são usados para fugir à crítica.

Cérebros, silício e incorporação

• Uma corrente: cérebros biológicos provam que inteligência geral de baixo consumo é possível, então versões sintéticas também deveriam ser “eventualmente”.
• Visão oposta: não entendemos neurônios nem organismos inteiros (por exemplo, simulações de C. elegans), então “basta escalar o compute” é hubris.
• Debate sobre se a verdadeira inteligência exige incorporação e interação com o mundo físico, ou se uma simulação completa é suficiente em princípio.
• Uma minoria afirma que a inteligência/vida reais podem ser limitadas termodinamicamente ou metafisicamente; outros consideram isso pouco claro ou pouco convincente.

Escala, algoritmos e limites

• Alguns afirmam que não houve grandes avanços em IA nas últimas décadas e que LLMs são apenas ajuste de curvas em escala maior e ineficiente.
• Outros discordam fortemente, citando transformers, modelos de espaço de estados, conexões residuais, batch norm e ganhos medidos de eficiência algorítmica como avanços substanciais.
• Preocupações com limites: custo de hardware, restrições de dispositivos de consumo, esgotamento de dados e “contaminação” por dados gerados por IA.
• Contrapontos: os “limites” já foram repetidamente superados; dados sintéticos curados e novos raspadores da web talvez até ajudem, e “colapso de modelo” é chamado de mito por alguns.

Capacidades e lacunas atuais dos LLMs

• Os LLMs são vistos como impressionantes, mas ainda “papagaios estocásticos” por muitos: bons em linguagem, assistência de programação e benchmarks (por exemplo, NYT Connections), mas sem raciocínio confiável, autonomia e edição de código no próprio lugar.
• Alguns argumentam que os humanos também muitas vezes apenas repetem; outros enfatizam que humanos conseguem criar de fato novos conceitos (por exemplo, cálculo, novos gêneros), enquanto os LLMs recombinam dados existentes.

Prazos, hype e impacto

• Vários preveem uma estagnação de curto prazo ou o estouro de uma bolha (Nvidia, startups de IA), comparando com modas tecnológicas passadas (VR).
• Outros acham que o progresso e o investimento continuarão, mas a AGI surgirá gradualmente, se surgir.
• Alguns dizem que, mesmo que a AGI nunca chegue, a IA atual já é útil; outros se preocupam mais com uma deriva para a “banalidade insípida” e a degradação educacional do que com uma singularidade.