Anthropic informó a la policía una entrada de diario; una mujer enfrenta un cargo por delito grave
Una mujer de Florida fue acusada bajo una ley estatal sobre amenazas por escrito después de que el chatbot Claude de Anthropic marcara y remitiera mensajes con tono de diario en los que decía que iba a “atacar a tiros” la oficina del sheriff local. Los comentaristas debaten si esos chats, aparentemente privados, cumplen el estándar legal de una “comunicación … de una manera en que otra persona pueda verla”, lo que plantea preocupaciones sobre el delito de pensamiento, la intención y los límites constitucionales de la libertad de expresión. El incidente se convierte en un proxy más amplio de las preocupaciones sobre los servicios de IA como herramientas de vigilancia masiva, las expectativas poco claras de privacidad por parte de los usuarios y la presión sobre las empresas tecnológicas, a las que se puede culpar tanto por informar como por no informar sobre las fantasías violentas de los usuarios.
Interpretación legal de la amenaza
- Estatuto central: la ley de Florida convierte en delito grave enviar o transmitir amenazas por escrito en cualquier medio “de una manera en que otra persona pueda verlas”.
- Principal disputa: si introducir texto en Claude como un “diario privado” cuenta como esa transmisión.
- Un lado sostiene:
- El mensaje, de hecho, fue visto por personal de Anthropic, así que se cumple la condición estatutaria.
- Las leyes sobre amenazas y conspiración a menudo dependen de acciones más palabras, no solo de la intención.
- El otro lado sostiene:
- La ley apunta a amenazas comunicadas a personas, no a notas privadas ni a llevar un diario.
- Puede que no haya “mens rea” si la usuaria creyó razonablemente que ningún humano lo leería.
- Se plantean analogías: diarios manuscritos, borradores de correo electrónico, Google Docs, copias de seguridad en la nube, etc.
Expectativa de privacidad con LLMs
- Muchos comentaristas dicen que los usuarios no técnicos asumen razonablemente que las conversaciones con IA son privadas, parecidas a diarios o notas personales.
- Otros insisten:
- “No es tu computadora, no son tus datos”: todo lo que se envía a un servicio en la nube debe asumirse legible y conservable.
- Las políticas de Anthropic permiten explícitamente la revisión humana de contenido marcado, aunque pocos usuarios leen esos términos.
- Algunos llaman a esto “espionaje con pasos extra”; otros dicen que simplemente se trata de usar un servicio comercial bajo un EULA divulgado.
La decisión de Anthropic de informar
- Un sector ve la denuncia como responsable y legalmente necesaria, especialmente tras críticas previas a laboratorios de IA por no señalar planes violentos.
- Otro sector argumenta que Anthropic creó el problema de la vigilancia al filtrar automáticamente todos los chats; sin eso, no habría nada que reportar.
- Varios lo enmarcan como una situación de “mal si lo haces, mal si no lo haces” en relaciones públicas:
- O bien “la IA ignoró advertencias sobre un tirador” o bien “la IA delata pensamientos privados”.
Delito de pensamiento, seguridad e implicaciones más amplias
- Preocupación fuerte por el precrimen al estilo “Minority Report” y la erosión de espacios para el pensamiento privado sin filtro.
- Contraargumento: algunos quieren sistemas que detecten pronto intenciones inestables o violentas para prevenir tiroteos o suicidios, comparando la IA con terapeutas que tienen deberes de denuncia obligatoria.
- Llamadas reiteradas a:
- Divulgaciones más claras en las interfaces de IA sobre supervisión y posible denuncia.
- Protecciones legales para el uso de IA en “modo privado” o con cifrado de extremo a extremo.
- Mayor uso de modelos locales/de código abierto para diario verdaderamente privado y experimentación.