Anthropic está construyendo un sistema de vigilancia predictiva para monitorear a activistas
Los críticos están alarmados por los informes de que Anthropic está desarrollando herramientas de seguridad predictiva, asociándose con una firma tipo Palantir para monitorear protestas y desviar a ejecutivos de las interrupciones de activistas, y señalando chats amenazantes de usuarios con su IA Claude a las fuerzas del orden. Muchos ven esto como una evidencia de que la IA cerrada, con la etiqueta de “seguridad”, está derivando hacia un aparato más amplio de vigilancia y pre‑crime que podría ser armado por gobiernos autoritarios o élites corporativas, profundizando una crisis ya existente de confianza pública. Una minoría responde que gran parte de esto se parece a la protección ejecutiva convencional y al informe de amenazas, argumentando que el artículo que lo presenta como singularmente siniestro está fuertemente editorializado.
Visión general de Anthropic y las empresas de IA
- Muchos ven a Anthropic y a otros grandes laboratorios de IA como indistinguibles de los contratistas clásicos de vigilancia/defensa, más “tipo Palantir” que “los buenos”.
- Los comentaristas destacan un patrón percibido: los “queridos” de Silicon Valley se convierten en herramientas para la guerra, la represión o la vigilancia omnipresente.
- Algunos citan afirmaciones concretas (por ejemplo, la integración de modelos en sistemas militares de designación de objetivos, puertas traseras de seguridad) como evidencia; otros no verifican estas afirmaciones en el hilo.
Monitoreo de activistas y protestas
- La asociación con Samdesk, usada para detectar protestas y desviar a ejecutivos alrededor de ellas, es un gran punto de fricción.
- Los críticos enmarcan esto como vigilancia de activistas e insulación deliberada de ejecutivos frente a la disidencia pública.
- Algunos sostienen que esto es simplemente usar datos de protestas disponibles públicamente para evitar situaciones potencialmente tensas o inseguras.
Informes de amenazas y temores de “pre‑crime”
- Según se informa, Anthropic alertó a la policía sobre un usuario que dijo tener un arma y estar apuntando al director ejecutivo, pero no compartió los registros del chat debido a una política interna.
- Algunos dicen que esto es un informe de amenazas normal y responsable; otros lo ven como un paso hacia la vigilancia del pensamiento, especialmente si los chats con LLM pasan a ser monitoreados de forma rutinaria.
- Hay debate sobre si las empresas de IA deberían inclinarse por informar o por no informar suficientemente las amenazas.
¿Es esto diferente de la seguridad corporativa normal?
- Una postura: esto se parece a la protección ejecutiva estándar de las grandes empresas y al monitoreo de incidentes.
- Otra: la escala, la automatización y el monitoreo específico de activistas lo hacen cualitativamente diferente, más cercano a un aparato de vigilancia predictiva.
IA abierta/alojada frente a autohospedada y la brecha de clase
- Los modelos alojados se consideran inherentemente susceptibles de vigilancia; los modelos autohospedados/sin conexión son vistos como la única vía para una interacción privada.
- Preocupa que los usuarios más ricos disfruten de un “espacio de pensamiento” privado con IA, mientras que las conversaciones de todos los demás puedan ser monitorizadas y remitidas a las autoridades.
Preocupaciones políticas y éticas más amplias
- Hay fuertes temores de que estos sistemas sean utilizados por gobiernos autoritarios actuales y futuros para reprimir la disidencia.
- Discusiones sobre la confianza: muchos ven justificada una “crisis de confianza”, dada la vigilancia capitalista y abusos previos.
- Cierto escepticismo respecto a centrarse en narrativas de “estado profundo” en lugar de la alineación claramente visible entre la gran tecnología, el gobierno y el poder corporativo.