错误百出的 AI 粉丝维基正在搅浑游戏文化的水域
AI 生成的粉丝维基和攻略站正在把看似合理却错误百出的信息灌进游戏搜索结果里,破坏了社区长期以来对游戏机制进行准确记录的努力。评论者认为,这也是大型语言模型让批量生成看似可信文本变得极其容易,从而导致网络信息质量整体下滑的一部分;大家围绕可能的应对方式展开争论,从仅限人工或强审核的网站,到为网络建立新的身份与信任系统不等。许多人对在开放、低门槛且仍然可用、可确认由真人撰写的互联网中保持可靠性持悲观态度。
在线信息的 AI 退化感知
- 许多人认为 AI 生成的“垃圾内容”正在加速网络质量的既有下滑:讨论、文档和参考资料都被提及。
- 有人担心,一旦 AI 以 AI 输出为训练数据,信息生态系统就会经历“比特腐烂”,质量会递归式退化。
- 也有人认为,开放网络最终会走上充斥垃圾邮件的电子邮件/Usenet 的老路,变成低价值自动化内容泛滥的地方。
游戏维基与粉丝社区
- AI“维基”被描述为内容薄弱、措辞看似合理但充满错误的网站,会误导玩家并污染搜索结果。
- 传统商业维基平台也被批评本就质量不高,因此 AI 垃圾内容被视为是在既有问题上继续雪上加霜。
- 有人认为这会伤害围绕细致人工整理而形成的粉丝文化和社区;也有人调侃说,玩家现在也许真的得“亲自去玩游戏”了。
代码与技术内容的质量
- 一方声称 LLM 会提高平均代码质量,并避免整类 bug。
- 另一些人则表示曾在 AI 建议的代码里抓到明显的安全漏洞,并担心代码/注释/文档中究竟哪些是人写的、哪些是 AI 写的已无法辨认。
- 这种模糊性让维护更困难,因为你不再知道怪异的决定究竟反映真实意图,还是流利但毫无意义的胡话。
搜索引擎与“垃圾内容”网站
- 多个轶事描述称,很难再找到可靠的网页指导信息(例如建筑施工);充满 AI 内容的“博客”如今主导了结果。
- DuckDuckGo 被点名为污染尤其严重;Google 被认为也在下滑,但仍略好一些。
- 有人呼吁出现一个能过滤 AI 垃圾内容、也许还会过滤付费墙的搜索引擎;也有人说自己转而去 YouTube、书籍或旧论坛帖子里找答案。
拟议的应对方式及其局限
- 想法包括:仅限人工或高门槛投稿的网站;严格审核并禁止使用 LLM(Wikipedia 被正面提及);仅限受邀社区;让使用 AI 的成本更高。
- 怀疑者认为,只要不是逐行检查的可扩展系统,就都能被 AI 轻易钻空子,而激励机制会不断腐蚀任何“新互联网”。
- 有人预见会出现一个面向严肃用户的小型、精心策划的“懂的人自然懂”的网络,而大众网络则被 AI 输出主导。
身份、信任与信任网络思路
- 一派主张强身份认证(可能包括生物识别),以证明“人类性”并对抗机器人洪泛,即便代价是匿名性。
- 另一些人强烈反对,称这属于“监控资本主义”,认为我们应保留化名性,并接受我们有时会和机器人对话。
- 也有人提出密码学签名和信任网络:如果你信任签名者,或通过社交链条间接信任他,你就信任内容。
- 反驳意见指出,人类也可以签署 AI 写的文本,密钥可能被盗或被胁迫,声誉系统也可能被滥用。
LLM 作为强大的分析工具
- 一些评论者指出,前沿 LLM 在游戏逆向方面非常出色:可以反汇编二进制、读取游戏文件,并提取维基和论坛常常写错的精确机制或掉落公式。
- 他们认为高端模型对原始数据进行深度分析是好的,而廉价模型只是根据现有网页内容生成表面化文字,这才是问题所在。
回到离线 / AI 之前的来源
- 一些用户在归档 AI 之前版本的 Wikipedia/OSM,并把它们类比为供未来参考的“低背景钢”。
- 另一些人建议更多依赖图书馆、纸质书和离线专业知识,尤其是在 DIY 这类稳定领域中,这会变得越来越重要。