伊朗行动者利用 ChatGPT 在真实的美国媒体中植入虚假文章

关于宣传和在线内容的总体看法

• 许多人认为，大多数网络内容都是为了推销观念或产品，且往往不诚实；AI 只是放大了既有的操纵趋势。
• 一些人指出，假新闻、sock puppets 和影响力行动早在 AI 出现之前就已存在；LLM 主要是降低了成本并扩大了规模。
• 有些人认为这篇文章很重要，因为它点出了这一问题；另一些人则认为它是在迎合政治时机、针对一个被官方认定的“敌对”国家而制造恐慌。

LLM 作为影响工具及其行为

• LLM 被描述为对真相漠不关心的文本生成器，优化目标是对用户说他们想听的话；“幻觉”被视为其内在特性，而非例外。
• 一个轶事：ChatGPT 自信地“找到了”一家本地苗圃里的特定树种，给出了一个看起来真实的产品页面和库存数量，但那家苗圃从未售卖过这种树。有人认为这很反乌托邦，并侵蚀了人们对工具的信任。
• 讨论还在于，这类错误究竟源于模型编造细节，还是源于底层 SEO 技巧或网站行为向模型喂入了错误信号。

信任、核实与新闻业

• 评论者强调，把包装精良的观点文章放进边缘媒体甚至主流媒体有多么容易，这通常借助公关和政治机器完成。
• 人们担心，小型出版物——博客、地方报纸、意见站点——尤其容易受到 AI 生成的社论冒充草根观点的影响。
• 也有人指出，这“本来就是游戏的一部分”，并提到长期存在的媒体操纵、情报行动和公关“潜伏渗透”。

美国宣传与外国宣传

• 有些人强调，把注意力放在伊朗或俄罗斯宣传上，会忽视美国及其盟友大量存在的宣传；因此出现了“红色恐慌”心态的指责。
• 另一些人回应说，宣传可以是真也可以是假；关键在于意图和叙事框架，而不是事实准确性。

可能的应对与未解问题

• 有人建议：更好的核实实践、信誉追踪、内容的加密签名，以及批判性的媒体素养（把所有媒体都视为可能带有敌意）。
• 对开源权重模型也存在争论：一种观点认为它们能防止单一公司或国家控制谁会被审查；另一种观点则质疑这如何有助于真正限制隐蔽宣传。
• 训练数据“投毒”以及模型和平台层面缺乏稳健防护的问题，依然令人担忧。