OpenAI remove proibição de usar o ChatGPT para "military and warfare"
A remoção discreta, pela OpenAI, de uma proibição geral de usos “military and warfare” do ChatGPT reacendeu o debate sobre o papel da IA comercial em conflitos armados. Os comentaristas discutem se recusar trabalho militar é uma posição ética significativa ou apenas cede influência a atores menos restritos, citando usos reais de IA para seleção de alvos, drones e operações de informação. Muitos veem a mudança como uma resposta previsível ao dinheiro do setor de defesa e à pressão estratégica, enquanto outros temem que ela acelere uma corrida armamentista impulsionada por IA, com salvaguardas e responsabilização pouco claras.
Escopo da Mudança de Política
- A política antiga proibia explicitamente “military and warfare”.
- A nova política elimina essa frase, mas ainda proíbe “develop or use weapons” e “use our service to harm yourself or others”.
- Alguns veem isso como uma normalização estreita da linguagem: foco em atividades nocivas, em vez de atores específicos como os militares.
- Outros veem isso como um grande recuo ético que abre a porta para amplo trabalho militar, excluindo apenas o projeto direto de armas.
Motivações e Governança
- Muitos comentaristas atribuem a mudança ao dinheiro e ao acesso a enormes orçamentos de defesa, ligando-a à trajetória de comercialização da OpenAI e à turbulência com o conselho e Altman.
- Vários argumentam que um “desarmamento unilateral” por uma única empresa é inútil; se a OpenAI se abster, outras (ou Estados-nação) preencherão a lacuna.
- Uma minoria especula que a mudança explícita possa funcionar como uma espécie de “warrant canary” para o aumento do envolvimento com a defesa.
Usos Militares Existentes e Esperados de IA
- Exemplos citados: seleção de alvos assistida por IA em Gaza, war-gaming para a contraofensiva da Ucrânia e uso disseminado de drones (incluindo FPV e drones emergentes guiados por visão computacional).
- Outros destacam usos mundanos, mas em grande escala: logística, trabalho com bancos de dados, redação de relatórios, desclassificação e planejamento de desastres (por exemplo, Corps of Engineers).
- A guerra da informação é uma preocupação importante: propaganda com LLMs, astroturfing e notícias escritas por IA; alguns acreditam que isso já está acontecendo.
Argumentos Éticos e Responsabilidade Coletiva
- Um lado: é mais ético participar e moldar sistemas “mais seguros” do que deixar o campo para adversários; traçam paralelos com armas nucleares e dissuasão.
- Visão oposta: “todo mundo está fazendo isso” é uma defesa moral fraca; o envolvimento com IA pode intensificar dano, viés e baixas civis.
- Alguns comparam este momento ao Projeto Manhattan e questionam a responsabilidade de funcionários, usuários e até contribuidores de dados.
Reações Mais Amplas
- Muitos veem a mudança como parte de um longo padrão de empresas de tecnologia abandonando éticas aspiracionais (“don’t be evil”, “for the good of humanity”) quando crescimento e poder estatal se alinham.
- Céticos também questionam confiar nos LLMs atuais para decisões de vida ou morte, dado o problema de alucinações e vieses.