¿Por qué este script de fingerprinting está creando bioweapons?
Se descubrió que una biblioteca JavaScript de fingerprinting contenía referencias ocultas a bioweapons, suicidio, Tiananmen Square y otros temas sensibles, aparentemente para activar filtros de seguridad de IA y hacer que los grandes modelos de lenguaje se nieguen a analizarla o desofuscarla. Los comentaristas exploran esto como una táctica emergente “anti-LLM”, sopesando su eficacia técnica frente a los riesgos éticos y reputacionales de incrustar contenido extremo en código de producción, y señalando la carrera armamentística más amplia entre guardrails de seguridad de modelos, prompt injection y el uso defensivo de modelos de pesos abiertos. Muchos esperan que estas técnicas —y contramedidas como normalizadores de código o defensas del navegador— se proliferen a medida que atacantes y defensores se adapten al análisis impulsado por IA.
Marcas de agua ocultas y trucos anti-LLM
- La gente comparte trucos similares al script del artículo: por ejemplo, marcas de agua invisibles en documentos que activan intencionalmente filtros de spam/malware para hacer cumplir embargos.
- Otros experimentan con “incantations” en perfiles/repositorios para ahuyentar bots o etiquetar PR generados por IA.
- Preocupación de accesibilidad: el texto oculto aún puede aparecer mediante lectores de pantalla o flujos de trabajo agénticos.
Defensas de HN y de la plataforma contra contenido de LLM
- Varios comentarios informan que HN marca automáticamente o aplica shadowban a publicaciones que pegan salida de LLM, incluso como ejemplos.
- Algunos ven esto como necesario para preservar la discusión humana; otros lo llaman opaco y sugieren mensajes de advertencia, autodeclaración o envoltorios
<details>en lugar de shadowbans silenciosos. - Los usuarios señalan que puedes hacer “vouch” por publicaciones muertas, pero esto no revierte los shadowbans de cuenta.
“Magic string” de Anthropic e infraestructura de rechazo
- Varios señalan que Anthropic documentó previamente una cadena especial de prueba que disparaba rechazos en la capa de API; desde entonces se ha eliminado.
- La antigua “magic string” ya no funciona de forma fiable, aunque los modelos aún la conocen por documentación pasada y rumores en internet.
- Se distingue entre clasificadores a nivel de API y comportamiento interno del modelo; algunos dicen que los clasificadores de rechazo se ejecutan por separado y pueden ajustarse de forma agresiva, tolerando muchos falsos positivos.
Modelos abiertos vs. frontera, trabajo de seguridad y guardrails
- Los modelos frontera (Anthropic, OpenAI, etc.) a menudo rechazan prompts que mencionan exploits, malware o bioweapons, bloqueando tanto a atacantes como a equipos de respuesta a incidentes.
- Profesionales de seguridad informan que han tenido que cambiar a modelos de pesos abiertos (p. ej., GLM, DeepSeek) para analizar logs, cargas útiles o reproducir fallos de herramientas.
- Algunos describen los modelos chinos como mayormente censurados a nivel de UI por razones políticas, pero otros citan trabajos que sugieren efectos más profundos (p. ej., comportamiento extraño alrededor de “Tibet”), y debaten la calidad de esa evidencia.
Ética del “bioweapon scarecoding”
- Varios lectores consideran ingenioso pero inquietante que los desarrolladores usen contenido sobre suicidio/autolesión/bioweapons para disparar guardrails, aunque solo los clasificadores lo vean.
- Otros argumentan que los modelos ya han sido saturados con contenido mucho peor durante el entrenamiento de seguridad, haciendo que la preocupación por el “bienestar del modelo” sea irrelevante.
- También hay una preocupación de marca: un cliente podría alojar sin saberlo código que asocie su dominio con bioweapons/tankman/poisons en el contexto de algunos sistemas.
Eficacia, carrera armamentística y contramedidas
- Algunos dicen que los agentes de código avanzados ignorarán código muerto / comentarios y derrotarán estos trucos; otros señalan que los sistemas actuales (y las capas de seguridad comerciales) todavía caen en ellos.
- Aparecen sugerencias para defensas más escalables contra el scraping basado en modelos: muchos paquetes por cliente, análisis de comportamiento o filtros estilo uBlock que eliminen texto de prompt injection.
- Los comentaristas acuñan términos como “LLM scare-crowing” y esperan que cualquier hack de guardrails ampliamente eficaz acabe provocando respuestas legales o de plataforma.