Milhares de Autores de IA sobre o Futuro da IA

Artigo original ↗ Discussão no Hacker News ↗

As previsões de pesquisadores de IA sobre quando a IA “nível humano” e superinteligente pode chegar, e quão arriscada ela pode ser, variam de otimismo de curto prazo a profundo ceticismo, com alguns atribuindo probabilidade não trivial à extinção humana e outros argumentando que os modelos e raciocínios atuais são fracos demais para tanta confiança. Os participantes debatem se o risco da IA deve ser tratado como as mudanças climáticas, como definir e medir “AGI”, e se inteligência incorporada ou simulações em escala cerebral são marcos necessários. Vários comentários também questionam a metodologia e os vieses da pesquisa, enfatizando que experiência em construir IA não se traduz automaticamente em previsões confiáveis de longo prazo sobre seus impactos sociais e existenciais.

Comparação com o Risco Climático e Modelos Científicos

  • Alguns veem um paralelo entre as preocupações com a extinção pela IA e o consenso sobre as mudanças climáticas; outros argumentam que os modelos climáticos são quantitativamente fundamentados e amplamente validados, enquanto os argumentos sobre risco da IA são em grande parte qualitativos e especulativos.
  • Comentadores observam que as mudanças climáticas têm física clara e modelos detalhados, enquanto cronogramas de IA e risco existencial dependem de modelos fracos ou não testados e de raciocínio filosófico.
  • Uma visão: a aceitação ampla do risco existencial da IA exigirá modelos estatísticos com respaldo empírico — possivelmente chegando tarde demais para serem úteis.

Ceticismo em Relação à Pesquisa e à Opinião de Especialistas

  • Vários argumentam que a pesquisa mede em grande parte o hype e crenças prévias, não previsões confiáveis.
  • Preocupações: baixa taxa de resposta, viés em direção a respondentes mais juniores ou incentivados, falta de expertise em domínios específicos de trabalho (por exemplo, cirurgia, tradução, fiação) e definições grosseiras de tarefas.
  • Outros apontam que a pesquisa tentou estratificar por contagem de citações e afiliação, mas críticos descartam citações e afiliações como fracos proxies de expertise ou senioridade.

Cronogramas, Capacidades e Incorporação

  • Alguns acham que uma chance de 50% de “máquinas superando humanos em todas as tarefas” até ~2047 é conservadora, dado o rápido progresso recente; outros suspeitam que pesquisadores estão superestimando a proximidade devido a efeitos semelhantes aos de Dunning–Kruger.
  • Debate sobre se a AGI exige um corpo ou uma inteligência incorporada unificada; alguns dizem que IA e robótica precisam convergir, outros veem a simulação do cérebro ou modelos abstratos como o ponto-chave.
  • Estimativas computacionais aproximadas para simulação em escala cerebral (neurônios, sinapses, canais iônicos) sugerem que hardware no nível do cérebro humano pode chegar por volta do fim dos anos 2040–2050, mas comentadores destacam grandes incógnitas em neurociência, química e largura de banda.

Definições: AGI vs. ASI e Automação de Tarefas

  • Definições concorrentes:
    • Muito forte: um único sistema que consegue fazer qualquer coisa que qualquer humano já tenha feito ou fará (muitas vezes rotulado mais como “superinteligência”).
    • Moderada: desempenho em nível humano na maioria dos campos, com autoaprendizado, senso comum robusto e memória de longo prazo.
  • Alguns argumentam que os sistemas atuais já superam humanos em domínios estreitos, mas estão muito aquém de serem “trabalhadores remotos” sem supervisão ou de passarem testes de Turing longos e adversariais.

Mecanismos de Extinção e Resultados Sociais

  • Caminhos especulados de extinção impulsionada por IA incluem devastação ambiental decorrente de extração de recursos sem restrições, pandemias projetadas e manipulação generalizada de humanos por meio de agentes autônomos.
  • Outros imaginam uma extinção “suave” por integração gradual: os humanos se tornam cada vez mais aumentados por IA até que os humanos não modificados efetivamente desapareçam.
  • Cenários futuros de melhor caso (pós-escassez, todas as necessidades atendidas) são vistos por alguns como utópicos e por outros como distópicos devido à possível perda de propósito e significado.