AI 正在摧毁作者与读者之间的信任

生成式 AI 正在用廉价、大规模生产的内容淹没图书、文章、音乐和图像,让读者、观众和听众更难知道该信任什么、以及该信任谁。评论者认为,尽管媒体和出版领域的信任本已在流失,AI 通过助长诈骗、用“垃圾内容”淹没发现系统,以及削弱写作或艺术反映显著人类努力与视角这一隐含社会契约,进一步加速了这一问题。也有人反驳说,真正的问题在于 Amazon 和 Spotify 等平台的把关失效与激励机制,预测新的策展形式、来源证明信号以及“纯人类”利基市场会作为回应而出现。

信任与作者—读者关系

  • 一些人认为,即使在 AI 出现之前,普遍的信任也已经很脆弱:新闻业、学术界和自助领域本就充斥着低质量或带有议程驱动的作品。
  • 另一些人则认为“社会契约”已经破裂:过去写作和阅读都很费力,因此努力本身就表明了严肃性。如今任何人都能在几分钟内生成一本“书”。
  • 读者越来越常去研究作者,避开近年的出版物,或默认选择旧作,以躲开 AI 垃圾内容。
  • 也有人说,AI 只是暴露了既有问题,并迫使人们更严格地审视作者身份、激励机制和可验证性。

垃圾内容、规模与发现(Amazon、Spotify 等)

  • 自出版正在被 AI 生成的书“拒绝服务”;有报告称有人每年推出几十本书。
  • 关于 Amazon 的上传限制存在争论:一些人想要严格限额来遏制 AI 书籍;另一些人指出,骗子可以直接创建更多账户,而诚实作者和小出版社却会被限流。
  • 人们担心,受数量和利润率激励的平台会容忍或从垃圾内容中获利(假产品、劣质书籍、AI 音乐)。
  • 内容发现越来越依赖个人品牌和社交媒体粉丝量;传统的策展和评论被认为已经被削弱,或被淹没。

艺术、作者身份与人类独特性

  • 一种观点认为,过程和人类努力很重要。手工制作的椅子或人类写的小说,其价值不只是表面用途;AI 艺术被比作大规模工厂化产品,或“抄袭浆糊”。
  • 另一种观点认为,只有结果才重要。如果 AI 能产出连贯、优美或有用的东西,那么它的来源并不重要。
  • 许多人坚持认为,艺术是人类经验的交流;AI 没有意图,也无法提供真正共享的人类连接。
  • 反方观点:人们已经把 AI 生成的音乐、图像和文字当作工具、原型或纯娱乐来享受;一些人也拒绝“创意工作者”应享有特殊保护这一说法。

更广泛的信任侵蚀

  • AI 让人们开始怀疑外包的艺术作品、同事写的文档、技术运行手册、状态邮件、在线视频和音乐播放列表。
  • 高信任环境变得更难维持;持续核验在认知和经济上都代价高昂。
  • 一些人说自己因为明显的 AI 垃圾内容而放弃了某些服务(例如流媒体平台);另一些人则表示,现在他们几乎不再信任所有在线内容。

可能的回应与未决问题

  • 一些想法包括标注 AI 的使用、禁止冒充和滥用肖像,以及基于写作行为的“反图灵测试”。
  • 怀疑者质疑这些措施的可执行性,并警告不要把问题框定为“数字毒品”或禁令式叙事。
  • 许多人预计,更好的过滤、策展和来源证明系统将是必要的,但这些系统将如何出现仍不清楚。