A humanidade não está pronta para a próxima explosão de inteligência

Precisão (Percebida) dos “Especialistas” em IA

• Muitos argumentam que previsões recentes de alto perfil (por exemplo, perda rápida da maioria dos empregos de colarinho branco) foram exageradas ou depois suavizadas, questionando quem conta como “especialista”.
• Outros contrapõem que alguns previsores (por exemplo, cronogramas no estilo “AI 2027”) estiveram surpreendentemente próximos sobre a aceleração, a pressão por nacionalização e ferramentas agentivas.
• Alguns dizem que, na prática, ainda não há especialistas: os prazos são curtos, a experiência é limitada e os incentivos (financiamento, hype, regulação) distorcem as previsões.

Ritmo e Natureza do Progresso da IA

• Uma corrente vê o progresso como extremamente rápido em termos absolutos: modelos mais fortes, agentes, ferramentas de programação e ganhos em benchmarks.
• Outra corrente enfatiza a “utilidade não supervisionada” mais lenta do que o hype, alucinações persistentes, planejamento de longo prazo fraco e manipulação de benchmarks.
• Vários comentários destacam que o aprendizado do usuário (habilidades de prompting) muitas vezes é confundido com melhoria do modelo.

Automação de Programação e Trabalho de Colarinho Branco

• Afirmações fortes: muitos programadores “já não escrevem código”, a IA pode implementar qualquer coisa que seja descrita, e 50% dos empregos de colarinho branco de nível inicial podem estar em risco dentro de alguns anos.
• Contestação: engenheiros sérios ainda escrevem bastante código, a saída da IA precisa de revisão pesada, e devs de cultura de aparência sempre “na verdade não codificaram”.
• Alguns relatam ganhos pessoais de produtividade de 10–100x; outros dizem que a IA é, em grande parte, uma ferramenta de busca melhor.
• Há discordância sobre se os não programadores estão alcançando os outros ou ficando ainda mais para trás.

Melhoria Recursiva de Si Mesma (RSI) & Superinteligência

• Catastrofistas: RSI em circuito fechado poderia desencadear uma “explosão de inteligência”; a IA poderia inventar algoritmos, hardware e coordenação melhores, superando os humanos.
• Céticos: custos de treinamento, limites de compute, necessidade de experimentos físicos e a fragilidade dos agentes atuais tornam a RSI rápida “ficção científica” e provavelmente distante por décadas, se é que acontecerá.
• Alguns argumentam que o paradoxo de Fermi restringe de forma fraca cenários de tomada de poder pela IA; outros dizem que a vastidão do espaço o torna não informativo.

Governança, Regulação e Poder

• Debate sobre se os laboratórios de IA estão alertando sinceramente sobre o risco ou se estão estrategicamente exagerando o perigo para moldar a regulação e garantir fossos competitivos ou poder semelhante ao estatal.
• Entre as sugestões estão acordos EUA–China, fóruns internacionais e tratar os laboratórios de IA como futuros co-governantes, análogos a grandes bancos.
• Muitos duvidam que os governos atuais consigam coordenar de forma significativa, dadas a geopolítica e os incentivos.

Riscos Sociais & Econômicos

• Preocupação generalizada com deslocamento de empregos, uma subclasse permanente e “enshittification” de produtos e mídia impulsionada por IA.
• Alguns veem a IA principalmente como mais uma tecnologia poderosa, mas limitada; outros a encaram como um “substrato de inteligência” qualitativamente novo, para o qual as instituições existentes não estão prontas.