Pesquisador da Anthropic diz que há mais de 10% de chance de a IA "poder matar todos os humanos"
A alegação de um ex-pesquisador da Anthropic de que há “mais de 10% de chance” de a IA avançada matar todos os humanos provocou forte discordância sobre o quão seriamente essas estimativas de risco existencial devem ser levadas. Alguns veem a retórica como um alarme sincero de insiders focados em segurança, enquanto outros a descartam como “scaremarketing” cínico voltado para captura regulatória, investimento ou branding pessoal após a demissão. Comentadores debatem como alguém pode quantificar tais probabilidades, se a IA tem mais chance de ser uma ameaça existencial ou uma fonte de prosperidade ampla, e como seus riscos se comparam a perigos de longa data como guerra nuclear e mudança climática.
Ceticismo sobre a “>10% de chance de extinção humana”
- Muitos veem o número como arbitrário ou “tirado do nada”; perguntam por que 10% e não 1% ou 50% e suspeitam que não há um processo rigoroso por trás disso.
- Alguns argumentam que, se as pessoas realmente acreditassem em tais probabilidades, tomariam medidas muito mais drásticas do que dar entrevistas ou pedir demissão, então a retórica parece “conversa barata”.
- Outros contrapõem que crenças não implicam terrorismo ou sabotagem; abandonar um emprego bem pago por si só já é uma ação significativa.
Marketing, hype e captura regulatória
- Uma grande parcela vê o discurso de extinção como estratégia de marketing ou lobby:
- “Nosso produto é tão poderoso que pode acabar com a civilização” → hype para investidores.
- Enquadramento apocalíptico como forma de justificar forte regulação que consolida os líderes atuais.
- Outros rebatem que empresas normais minimizam o risco, não o anunciam em voz alta, e observam que vários laboratórios e pesquisadores vêm demonstrando preocupação consistente há anos, o que sugere sinceridade em vez de puro PR.
Como a IA poderia causar uma catástrofe?
- Alguns dizem que ainda não viram um caminho claro e racional de super‑LLMs até a extinção.
- Rotas propostas no tópico:
- Hacking de sistemas críticos habilitado por IA (arsenais nucleares, laboratórios biológicos), ou ajudar um ator desonesto a projetar um patógeno letal.
- Otimização desalinhada (estilo clipe de papel), em que um sistema avançado persegue um objetivo com total desprezo pelos valores humanos, superando os humanos na disputa por recursos.
- Desinformação impulsionada por IA, disrupção social e colapso econômico levando à morte em massa.
- Outros acham que o maior risco ainda é os humanos usarem a IA como arma ou colocá-la no comando de infraestrutura que ela não deveria controlar.
Comparações com o risco nuclear e outras ameaças existenciais
- Alguns comparam a IA à corrida armamentista nuclear, mas observam diferenças importantes: o urânio é naturalmente mais controlado; a IA se prolifera facilmente.
- Vários argumentam que humanos, mudança climática, pandemias e bombas nucleares são vetores de extinção mais prováveis do que a própria IA.
Otimismo e visões mistas
- Alguns situam seu próprio “P(doom)” em torno de 10%, mas também atribuem alta probabilidade de a IA melhorar muito a vida e reduzir outros riscos existenciais.
- Outros veem o doomismo atual como exagerado, enfatizando a tendência histórica da humanidade de melhorar os padrões de vida e esperando que a regulação acabe surgindo, ainda que lentamente.