Anthropic Está Construindo um Sistema de Vigilância Preditiva para Monitorar Ativistas
Críticos estão alarmados com relatos de que a Anthropic está desenvolvendo ferramentas de segurança preditiva, fazendo parceria com uma firma parecida com a Palantir para monitorar protestos e desviar executivos de interrupções de ativistas, e sinalizando conversas ameaçadoras de usuários com sua IA Claude às autoridades. Muitos veem isso como evidência de que a IA fechada, rotulada como “segura”, está deslizando para um aparato mais amplo de vigilância e pré-crime que poderia ser instrumentalizado por governos autoritários ou elites corporativas, aprofundando uma crise já existente de confiança pública. Uma minoria contrapõe que muito disso se assemelha à proteção executiva convencional e ao relato de ameaças, argumentando que o artigo que o descreve como singularmente sinistro é fortemente editorializado.
Visão geral sobre a Anthropic e empresas de IA
- Muitos veem a Anthropic e outros grandes laboratórios de IA como indistinguíveis de contratantes clássicos de vigilância/defesa, mais “parecidos com a Palantir” do que com “bons moços”.
- Comentadores destacam um padrão percebido: as “queridinhas” do Vale do Silício tornam-se ferramentas para guerra, repressão ou vigilância onipresente.
- Alguns citam alegações específicas (por exemplo, integração de modelos em sistemas militares de direcionamento, backdoors de segurança) como evidência; outros não verificam isso no fio.
Monitoramento de ativistas e protestos
- A parceria com a Samdesk, usada para detectar protestos e desviar executivos deles, é um grande ponto de discórdia.
- Críticos enquadram isso como vigilância de ativistas e isolamento deliberado de executivos diante da dissidência pública.
- Alguns argumentam que isso é simplesmente usar dados públicos sobre protestos para evitar situações potencialmente tensas ou perigosas.
Relatórios de ameaças e preocupações com “pré-crime”
- A Anthropic teria comunicado à polícia um usuário que disse ter uma arma e estar mirando o CEO, mas não compartilhou os registros do chat devido à política interna.
- Alguns dizem que isso é um relatório de ameaça normal e responsável; outros veem isso como um passo em direção à policiamento de crime de pensamento, especialmente se chats com LLMs passarem a ser monitorados rotineiramente.
- Há debate sobre se empresas de IA devem errar pelo lado da denúncia ou da subnotificação de ameaças.
Isso é diferente da segurança corporativa normal?
- Um lado: isso se assemelha à proteção executiva padrão de grandes empresas e ao monitoramento de incidentes.
- Outro: a escala, a automação e o monitoramento específico de ativistas tornam isso qualitativamente diferente, mais próximo de um aparato de vigilância preditiva.
IA aberta/hospedada vs auto-hospedada e divisão de classe
- Modelos hospedados são vistos como inerentemente passíveis de vigilância; modelos auto-hospedados/offline como o único caminho para interação privada.
- Há preocupação de que usuários mais ricos desfrutem de um “espaço mental” privado de IA, enquanto as conversas de todos os demais possam ser monitoradas e encaminhadas às autoridades.
Preocupações políticas e éticas mais amplas
- Forte temor de que esses sistemas sejam usados por governos autoritários atuais e futuros para reprimir dissidência.
- Discussões sobre confiança: muitos veem uma “crise de confiança” como justificada, dada a economia da vigilância e abusos anteriores.
- Algum ceticismo sobre focar em narrativas de “estado profundo” em vez do alinhamento claramente visível entre grande tecnologia, governo e poder corporativo.