为什么这个指纹识别脚本会创建生物武器？
一个 JavaScript 指纹识别库被发现包含了指向生物武器、自杀、天安门广场和其他敏感话题的隐藏引用，似乎是为了触发 AI 安全过滤器，让大语言模型拒绝分析或去混淆它。评论者将其视为一种新兴的“反 LLM”策略，讨论其技术有效性与在生产代码中嵌入极端内容所带来的伦理和声誉风险，并指出模型安全护栏、提示注入与使用开放权重模型进行防御之间更广泛的军备竞赛。许多人预计，随着攻击者和防御者都适应 AI 驱动的分析，这类技巧——以及诸如代码规范化器或浏览器防御之类的对策——都将不断增多。
隐藏水印与反 LLM 花招
- 人们分享了类似文章中脚本的技巧：例如在文档中加入不可见水印，故意触发垃圾邮件/恶意软件过滤器，以执行封锁期。
- 也有人试验在个人资料 / 仓库里放置“咒语”来驱赶机器人，或给 AI 生成的 PR 打标签。
- 可访问性方面的担忧：隐藏文本仍可能通过屏幕阅读器或代理式工作流暴露出来。
HN 和平台对 LLM 内容的防御
- 多条评论提到，HN 会自动标记或影子封禁粘贴了 LLM 输出的帖子，即使只是作为示例。
- 有人认为这是维持人类讨论所必需的；也有人称其不透明，建议改为警告信息、自我声明，或使用
<details>包裹，而不是静默影子封禁。 - 用户指出，你可以对“死帖”进行“vouch”，但这不会撤销账号影子封禁。
Anthropic 的“魔法字符串”与拒绝基础设施
- 有人提到，Anthropic 之前在 API 层记录过一个特殊的、会触发拒绝的测试字符串；后来已被移除。
- 旧的“魔法字符串”现在不再可靠地生效，但模型仍会从过去的文档和网络传言中知道它。
- 讨论区分了 API 层分类器与模型内部行为；有人说拒绝分类器是单独运行的，可以激进调参，并容忍很多误报。
开放模型 vs 前沿模型、安全工作与护栏
- 前沿模型（Anthropic、OpenAI 等）经常拒绝那些提到漏洞、恶意软件或生物武器的提示词，从而同时阻挡攻击者和事故响应人员。
- 安全从业者表示，他们不得不切换到开放权重模型（例如 GLM、DeepSeek）来分析日志、载荷，或复现工具崩溃。
- 有人把中文模型描述为大多只在 UI 层对政治内容进行审查，但也有人引用研究称其存在更深层影响（例如围绕“西藏”的异常行为），并争论这些证据的质量。
“生物武器惊吓编码”的伦理问题
- 一些读者觉得很聪明，但也令人不安：开发者为了触发护栏而使用自杀/自残/生物武器内容，即使只有分类器会看到它。
- 另一些人认为，模型在安全训练期间已经接触过更糟糕的内容，因此“模型福利”是否受影响并无实质意义。
- 还有品牌方面的担忧：客户可能在不知情的情况下托管了某些代码，而这些代码在一些系统的上下文里会把他们的域名与生物武器/坦克人/毒药联系起来。
有效性、军备竞赛与对策
- 有人说，先进的代码代理会忽略死代码 / 注释，从而破解这些花招；也有人指出，当下系统（以及商业安全层）仍然会被触发。
- 针对基于模型的抓取，评论中提出了更可扩展的防御建议：大量按客户端拆分的包、行为分析，或像 uBlock 那样能剥离提示注入文本的过滤器。
- 评论者创造了诸如“LLM scare-crowing”之类的词，并预计任何广泛有效的安全绕过技巧最终都会引来法律或平台层面的回应。