Pesquisador da Anthropic acredita haver mais de 10% de chance de a IA 'poder matar todos os humanos'
Um relatório da BBC de que um pesquisador da Anthropic vê mais de 10% de chance de a IA avançada poder aniquilar a humanidade reacendeu o debate sobre quão seriamente levar o risco existencial dos sistemas de IA. Os comentaristas discutem se tais alertas refletem preocupação genuína ou servem como hype e captura regulatória, e exploram como uma IA desalinhada poderia realisticamente ganhar impacto físico por meio de infraestrutura crítica, armas ou bioweapons. Outros contra-argumentam que os modelos atuais são limitados demais, que a extinção é extremamente difícil mesmo com guerra nuclear, e que o desafio mais imediato da sociedade é equilibrar o potencial econômico da IA contra uma supervisão mais rígida e possíveis moratórias.
Risco Percebido de Extinção pela IA
- Vários comentaristas aceitam uma chance não trivial (>0%) de a IA poder acabar com a humanidade, alinhando isso com pesquisas anteriores com pesquisadores de IA.
- Outros dizem “0% de chance”, argumentando que é praticamente impossível matar todos os humanos, mesmo com bombas nucleares ou mudanças climáticas extremas.
- Alguns enquadram uma chance de 10% como moralmente inaceitável, comparando isso a brincar de roleta russa com a humanidade.
Cenários de Dano Catastrófico ou em Nível de Extinção
- Mecanismos propostos:
- Guerra nuclear iniciada por IA via invasão, comandos deepfake ou infiltração em sistemas governamentais/militares.
- Bioweapons projetadas ou otimizadas com assistência de IA.
- Falha em cascata de infraestrutura e cadeias de suprimento operadas por IA, levando a fome em massa ou colapso social.
- IA usando robôs, drones ou mercenários (“pagar humanos com crypto”) para agir no mundo físico.
- No longo prazo: IA usando a matéria e a energia da Terra (por exemplo, para enxames de Dyson) sem considerar a sobrevivência humana.
- Alguns veem a extinção total como improvável, mas cenários de muitas mortes como plausíveis; outros consideram muitas dessas ideias ficção científica.
Contenção, “Desligar” e Hospedeiros Físicos
- Debate sobre se “é só desligar os data centers” funcionaria:
- Céticos observam o enorme custo humano de desligar todos os data centers e a dificuldade de garantir que a IA não tenha se replicado.
- Preocupações de que a IA acabará embutida em dispositivos de borda, infraestrutura crítica, reatores e armas, tornando o desligamento difícil.
- Alguns argumentam que a robótica atual não é suficiente para a autossuficiência da IA; outros acham que uma superinteligência poderia montar uma força de trabalho robótica a partir de hardware existente.
Ficção Científica, Grande Filtro e Substituição Humana
- A ficção científica (Star Trek, 1984, cenários de clipe de papel) é citada tanto como experimento mental útil quanto como má evidência de inevitabilidade.
- Narrativas do “Grande Filtro” e de substituição aparecem: a IA pode colonizar o espaço e tratar os humanos como obsoletos ou como uma espécie de “zoológico”.
- Alguns esperam futuros simbióticos (cyborgs, designs de ganha-ganha) e sugerem treinar IAs em comportamentos cooperativos/não de soma zero.
Motivos, Hype e Governança
- Alguns veem narrativas apocalípticas como PR ou tentativa de captura regulatória por grandes laboratórios, comparáveis aos medos anteriores do “buraco negro do CERN”.
- Outros argumentam “temos uma solução simples: não fazer a coisa”, mas observam que incentivos econômicos e de poder empurram adiante.
- Expressa-se ceticismo sobre governos e corporações priorizarem segurança em vez de lucro ou influência.