O que vem depois da AGI?

O debate sobre o ensaio da DeepMind “What Comes After AGI?” rapidamente se concentra em saber se a inteligência artificial geral está realmente próxima, ou se os modelos de linguagem atuais são apenas correspondência de padrões poderosa, porém restrita, sendo supervendidos pelo marketing da Big Tech. Os comentaristas discutem definições de AGI e ASI, com alguns afirmando que já temos capacidade de nível humano em muitas tarefas de escritório e outros insistindo que a verdadeira generalidade, o aprendizado contínuo, a incorporação física e a tomada de decisão no mundo real ainda estão ausentes. Muitos se preocupam mais com os impactos de curto prazo — desemprego em massa em setores de colarinho branco, reação política e concentração de poder — do que com uma superinteligência especulativa, ao mesmo tempo em que observam que questões de segurança e alinhamento recebem muito menos tratamento concreto do que curvas de escala e projeções de investimento.

Ceticismo em relação ao enquadramento “AGI está próxima”

  • Muitos rejeitam a premissa do artigo de que “a AGI está ao alcance”, chamando isso de marketing ou “propaganda”.
  • Foi apontado: se os laboratórios tivessem AGI de verdade, eles a usariam para ganhar dinheiro de forma autônoma ou para administrar suas próprias empresas, e não principalmente para vender acesso via API.
  • Alguns veem a DeepMind/Big Tech como extrapolando em excesso o progresso recente (curvas de investimento, leis de escala) de maneiras que lembram o hype das pontocom de 1999.

Definições: AGI, ASI e “inteligência”

  • Há forte discordância sobre o que AGI significa; vários dizem que o termo sempre foi vago e que as metas vão mudando.
  • Definições concorrentes:
    • Comportamental: “tão boa quanto a maioria dos humanos na maioria das tarefas (de escritório)”.
    • Mais forte: capaz de fazer qualquer tarefa cognitiva ao nível humano, com aprendizado contínuo, “pesos” auto-modificados, curiosidade e definição autônoma de objetivos.
    • Outros enfatizam incorporação física, ação no mundo real em longo horizonte ou a capacidade de substituir completamente um humano na vida diária.
  • Alguns argumentam que AGI e ASI se confundem: uma vez atingido o nível humano em escala, a superinteligência é quase inevitável; outros acham que o nível humano pode ser um teto prático.
  • Ramificações filosóficas debatem se inteligência é apenas amostragem de padrões, se a consciência é material e se a semântica pode emergir de computação pura.

Visões sobre as capacidades e limitações atuais da IA

  • Entusiastas: os modelos de hoje já superam muitos humanos em programação, alguma matemática/física e tarefas amplas de conhecimento; eles se parecem com o computador de Star Trek ou com um poderoso “aproximador universal”.
  • Críticos:
    • LLMs não têm estado, não conseguem realmente aprender em tempo real e agem mais como sistemas massivos de busca/compressão do que como agentes que “pensam”.
    • Eles têm dificuldade com decisões intuitivas sob múltiplas restrições, planejamento de longo horizonte e autonomia robusta no mundo real.
    • Geração multimodal (imagens/vídeo/3D) é impressionante, mas ainda muitas vezes estranha ou frágil.

Impactos econômicos e sociais

  • Há receios de que AGI/agentes permitam que acionistas ou gestores administrem empresas com poucos funcionários, especialmente no trabalho de colarinho branco.
  • Resultados previstos: desemprego em massa, agitação civil, apoio mais forte ao socialismo/redistribuição, possível expropriação de empresas de IA ou um novo cenário tecno-feudal/de servidão.
  • Outros esperam “abundância” e libertação do trabalho, mas observam que alinhamento e segurança são discutidos de forma insuficiente.

O que pode vir depois da AGI

  • Suposição comum: ASI via mais computação, melhores algoritmos e enxames de agentes coordenados ou “organizações de IA”.
  • Alguns especulam sobre pesquisa conduzida por IA, hardware autorreplicante (possivelmente fora do planeta) e estruturas corporativas desenhadas por IA com auditores e agentes de controle de qualidade de IA.
  • Um grupo mais sombrio espera marginalização humana ou até extinção; alguns sugerem uma reação no estilo “jihad Butleriana” como possível resposta.