A OpenAI está trabalhando com os militares dos EUA agora
A nova colaboração da OpenAI com o Departamento de Defesa dos EUA em ferramentas de cibersegurança de código aberto e prevenção do suicídio de veteranos é vista como uma mudança acentuada em relação à promessa anterior de evitar trabalho militar. Os comentaristas se dividem entre ver isso como um uso pragmático, até necessário, da liderança americana em IA e alertar para uma inclinação gradual rumo a sistemas armados e autônomos e a uma corrida armamentista impulsionada por IA. A discussão se amplia para questões de hegemonia americana, competição entre grandes potências e se qualquer grande empresa de IA pode realisticamente ficar fora de aplicações de defesa.
Âmbito da colaboração entre OpenAI e o Pentágono
- As ferramentas em desenvolvimento para o Departamento de Defesa dos EUA focam em:
- Cibersegurança de código aberto (por meio do AI Cyber Challenge da DARPA).
- Apoio para prevenir o suicídio de veteranos, provavelmente em coordenação com o Veterans Affairs.
- A OpenAI reafirma uma proibição formal de usar sua tecnologia para armas, destruição de propriedade ou dano direto.
- Alguns comentaristas observam que o artigo foi atualizado para esclarecer que isso está relacionado à DARPA/VA e argumentam que a manchete é enganosa.
Mudança em relação à postura original de “sem militares”
- Muitos veem isso como uma reversão acentuada da proibição explícita anterior da OpenAI ao uso militar.
- Alguns argumentam que isso sempre foi inevitável assim que dinheiro e poder entraram em jogo.
- Alguns sugerem que a postura anterior pode ter sido uma tática de recrutamento/PR para atrair talentos desconfortáveis com trabalho de defesa.
Preocupações com efeito cascata e risco de IA
- Há forte preocupação com desvios incrementais:
- “Ferramentas defensivas” → “armas defensivas” → sistemas ofensivos.
- Debate sobre como adicionar autonomia, planejamento e capacidades do ciclo OODA poderia tornar a IA militar um risco existencial.
- Outros descartam os chatbots LLM em si como não autônomos e não uma ameaça existencial imediata.
Ética da tecnologia de defesa e hegemonia dos EUA
- Visões divididas:
- Alguns acolhem a liderança militar dos EUA em IA, vendo-a como necessária na competição entre grandes potências e preferível a rivais.
- Outros temem uma corrida armamentista, riscos de escalada e reação negativa de longo prazo; alguns desejam explicitamente o fim da hegemonia dos EUA.
- Debate estendido sobre se o mundo é unipolar ou multipolar (EUA vs UE/China/Rússia/Índia), incluindo argumentos sobre:
- A força militar e econômica da Rússia e da China.
- Guerras por procuração (Ucrânia), sanções e economias de guerra.
- O histórico dos EUA no Afeganistão e os limites do poder militar na construção de nações.
Chatbots de saúde mental para veteranos
- Alguns veem o acesso 24/7 a chatbots como um complemento útil ao cuidado humano, com pesquisas sugerindo benefício.
- Outros argumentam que encaminhar pessoas com risco agudo de suicídio para um bot pareceria desumanizante e perigoso, especialmente dada a provável má implementação governamental.
Capacidades, uso indevido e prompt injection
- Ceticismo sobre usar modelos atuais para tarefas reais de cibersegurança/sysadmin devido a comandos alucinados.
- Especulação sobre futuras táticas de prompt injection no campo de batalha (por exemplo, mensagens em telhados para confundir modelos de alvo), enquadradas como mais uma iteração do jogo de gato e rato na guerra.
Desilusão com a missão da OpenAI
- Vários comentaristas expressam que a OpenAI mudou rapidamente de uma organização orientada por missão e de lucro limitado “não construir armas” para uma empresa de tecnologia convencional alinhada com o poder estatal.