Yann LeCun: A inteligência artificial em nível humano vai demorar muito tempo
Afirmações de que a inteligência artificial em nível humano ainda está muito distante reacenderam o debate sobre se a AGI é inevitável ou mesmo possível com as abordagens atuais de aprendizado de máquina. Os comentaristas ponderam visões mecanicistas versus metafísicas da mente, limites impostos por computação, dados e energia, e se modelos apenas de linguagem alguma vez poderão igualar a cognição e a consciência humanas incorporadas. Muitos argumentam que, muito antes de qualquer AGI verdadeira chegar, sistemas mais restritos já causarão grandes perturbações econômicas, sociais e políticas que podem importar mais do que riscos especulativos de superinteligência.
Natureza da inteligência e possibilidade de AGI
- Alguns argumentam que não há uma barreira de princípio: os humanos são sistemas físicos mecanicistas, então a inteligência deveria ser reproduzível em máquinas.
- Outros suspeitam que limites informacionais ou “dentro do sistema” (à la Gödel) possam restringir nossa capacidade de compreender plenamente ou de projetar inteligência.
- Uma visão intermediária: AGI é possível em princípio, mas pode ser complexa demais ou lenta demais para ser alcançada em qualquer prazo realista.
Computação, física e consciência
- Uma corrente trata o universo e os cérebros como mecanicistas, pelo menos Turing-completos (ou “hyper‑Turing”, mas ainda físicos).
- Outra questiona se “inteligência = computação” é um artigo de fé e se as noções atuais de computação sequer capturam todos os processos físicos.
- Consciência/qualia são vistos por alguns como essenciais para a inteligência em nível humano e atualmente inexplicados; outros separam inteligência (resolução de problemas, modelagem) de experiência subjetiva.
LLMs, leis de escala e limites arquiteturais
- Debate sobre se escalar LLMs, além de treinamento multimodal, pode chegar assintoticamente à modelagem de mundo e ao raciocínio em nível humano.
- Defensores citam resultados de aproximação universal e leis empíricas de escala; críticos observam as limitações desses teoremas (continuidade, precisão infinita, praticidade) e esperam que a escalada encontre platôs.
- Muitos concordam que os LLMs atuais carecem de raciocínio causal robusto, planejamento e aprendizagem contínua, e provavelmente precisam de novas arquiteturas e módulos (por exemplo, RL baseado em modelo, sistemas incorporados, memória).
Dados, computação e eficiência
- Preocupações de que dados textuais de alta qualidade e computação acessível se tornem gargalos do progresso; outros contra-argumentam que dados multimodais, sintéticos e de interação, além de hardware especializado mais barato, estenderão a escalada.
- Comparações entre eficiência cérebro-máquina são recorrentes: os cérebros biológicos são muito mais eficientes em energia e podem usar mecanismos muito diferentes.
O que conta como AGI?
- As definições variam:
– “Pode fazer qualquer trabalho economicamente valioso que um humano possa fazer.”
– “Pode aprender novas tarefas autonomamente a partir de instruções de alto nível.”
– Inclui ou exclui emoções, autoconsciência e objetivos intrínsecos. - Alguns acham que os sistemas atuais já atendem a um limite “geral” fraco; outros reservam AGI para uma competência muito mais ampla, semelhante à humana.
Riscos, impacto e cronogramas
- Muitos argumentam que impactos catastróficos não exigem AGI em nível humano; sistemas estreitos, “burros”, já distorcem política, trabalho e privacidade.
- As opiniões divergem sobre prazos: de “décadas ou mais e muitas descobertas” a “pode ser surpreendentemente cedo, dados capital, talento e dinâmicas de corrida armamentista”.
- Debates sobre regulação surgem, mas permanecem vagos; alguns veem o discurso sobre risco de IA sobre-humana como prematuro, outros veem o planejamento antecipado como análogo à regulação preventiva de tecnologias poderosas.