A humanidade não está pronta para a próxima explosão de inteligência
Os temores de uma “explosão de inteligência” causada pelo rápido avanço da IA dividem os comentaristas entre aqueles que veem os sistemas atuais como ferramentas supervalorizadas e aqueles que acham plausíveis, em poucos anos, modelos super-humanos e autoaperfeiçoadores, perigosamente pouco governados. Grande parte do debate gira em torno de quão erradas ou certas foram as previsões anteriores sobre IA, se os LLMs já estão eliminando a programação e o trabalho de colarinho branco, e se benchmarks e narrativas corporativas podem ser confiáveis. Por trás dos argumentos técnicos, há uma preocupação maior com poder: quem controlará sistemas de IA altamente capazes, como eles podem remodelar os mercados de trabalho, a geopolítica e a guerra, e se governos e instituições são capazes de conter — ou mesmo entender — o que estão ajudando a financiar.
Precisão (Percebida) dos “Especialistas” em IA
- Muitos argumentam que previsões recentes de alto perfil (por exemplo, perda rápida da maioria dos empregos de colarinho branco) foram exageradas ou depois suavizadas, questionando quem conta como “especialista”.
- Outros contrapõem que alguns previsores (por exemplo, cronogramas no estilo “AI 2027”) estiveram surpreendentemente próximos sobre a aceleração, a pressão por nacionalização e ferramentas agentivas.
- Alguns dizem que, na prática, ainda não há especialistas: os prazos são curtos, a experiência é limitada e os incentivos (financiamento, hype, regulação) distorcem as previsões.
Ritmo e Natureza do Progresso da IA
- Uma corrente vê o progresso como extremamente rápido em termos absolutos: modelos mais fortes, agentes, ferramentas de programação e ganhos em benchmarks.
- Outra corrente enfatiza a “utilidade não supervisionada” mais lenta do que o hype, alucinações persistentes, planejamento de longo prazo fraco e manipulação de benchmarks.
- Vários comentários destacam que o aprendizado do usuário (habilidades de prompting) muitas vezes é confundido com melhoria do modelo.
Automação de Programação e Trabalho de Colarinho Branco
- Afirmações fortes: muitos programadores “já não escrevem código”, a IA pode implementar qualquer coisa que seja descrita, e 50% dos empregos de colarinho branco de nível inicial podem estar em risco dentro de alguns anos.
- Contestação: engenheiros sérios ainda escrevem bastante código, a saída da IA precisa de revisão pesada, e devs de cultura de aparência sempre “na verdade não codificaram”.
- Alguns relatam ganhos pessoais de produtividade de 10–100x; outros dizem que a IA é, em grande parte, uma ferramenta de busca melhor.
- Há discordância sobre se os não programadores estão alcançando os outros ou ficando ainda mais para trás.
Melhoria Recursiva de Si Mesma (RSI) & Superinteligência
- Catastrofistas: RSI em circuito fechado poderia desencadear uma “explosão de inteligência”; a IA poderia inventar algoritmos, hardware e coordenação melhores, superando os humanos.
- Céticos: custos de treinamento, limites de compute, necessidade de experimentos físicos e a fragilidade dos agentes atuais tornam a RSI rápida “ficção científica” e provavelmente distante por décadas, se é que acontecerá.
- Alguns argumentam que o paradoxo de Fermi restringe de forma fraca cenários de tomada de poder pela IA; outros dizem que a vastidão do espaço o torna não informativo.
Governança, Regulação e Poder
- Debate sobre se os laboratórios de IA estão alertando sinceramente sobre o risco ou se estão estrategicamente exagerando o perigo para moldar a regulação e garantir fossos competitivos ou poder semelhante ao estatal.
- Entre as sugestões estão acordos EUA–China, fóruns internacionais e tratar os laboratórios de IA como futuros co-governantes, análogos a grandes bancos.
- Muitos duvidam que os governos atuais consigam coordenar de forma significativa, dadas a geopolítica e os incentivos.
Riscos Sociais & Econômicos
- Preocupação generalizada com deslocamento de empregos, uma subclasse permanente e “enshittification” de produtos e mídia impulsionada por IA.
- Alguns veem a IA principalmente como mais uma tecnologia poderosa, mas limitada; outros a encaram como um “substrato de inteligência” qualitativamente novo, para o qual as instituições existentes não estão prontas.