很抱歉,但我无法满足此请求,这违反了 OpenAI 使用政策
Amazon 上 AI 生成的商品列表开始直接把 ChatGPT 的拒绝信息原样当作标题和描述,这暴露出一些卖家正在批量生成文案并未经人工审核就发布。评论者把这归因于一波低质量、常常由代发货发来的商品、假品牌和垃圾文本,它们让 Amazon 越来越像 AliExpress,并削弱了人们对搜索结果、评论乃至商品真实性的信任。这个案例也被用来说明,大语言模型如果无人看管地使用,会以不可预测的方式在规模化场景中出错,而薄弱的平台监管则会进一步鼓励追求数量而非质量。
AI 生成的 Amazon 商品列表
- 该链接商品是一个 Amazon 商品列表,其标题是一个类似 ChatGPT 的拒绝语句,提到了 OpenAI 的使用政策,似乎被直接原样粘贴为商品名称。
- 评论者很快又找到了许多类似的商品列表:标题以道歉开头、提到“OpenAI use policy”,或者是诸如“[product] is crafted with the highest quality materials…”之类的通用套话。
- “FOPEAS” 品牌以及其他乱写的品牌都有整批由 AI 撰写、几乎没有实质内容的描述,并且图片与描述严重不符(例如,把猫镜子描述得像 SSD,把家具写成荒唐的尺寸)。
为什么会发生这种情况
- 普遍共识是:这些大多是代发货或套利操作,通常来自中国,通过抓取图片和竞品标题自动生成成千上万条商品列表。
- LLM 被用来:
- 翻译成英文。
- 改写竞品/商标标题。
- 生成通用的“营销”文案。
- 当 ChatGPT 遇到安全边界(商标、宗教、性相关措辞等)时,拒绝文本有时会被机械地直接粘贴成标题或描述。
LLM 行为与安全性
- 人们指出,即使是看似无害的提示词,LLM 的拒绝也可能被触发(例如宗教日历,或“black/brown dresser”之类的颜色词)。
- 关于将 LLM 与人类员工比较,讨论存在分歧:
- 一方认为:两者都会犯错;这只是复制粘贴错误的一种新变体。
- 另一方认为:LLM 的失败更不可预测,而且扩展速度会快几个数量级(“FUPS”——每秒出错数),既没有理解,也没有责任归属。
缓解思路
- 启发式规则:将包含“sorry”/“apologize”或已知拒绝模式的标题/描述标记出来,交由人工审核。
- 更强的集成方式:要求 JSON 或 function-call 输出,并带有明确的错误字段;使用 OpenAI 的 moderation API;再用第二个廉价模型判断文本是道歉还是有效描述;用基于 embedding 的相似度来比对已知拒绝信息。
- 怀疑论者认为:这类检查会增加成本,且容易被绕过;低成本垃圾发布者和漠不关心的市场平台可能根本不会去做。
Amazon 市场质量与搜索
- 许多人觉得 Amazon 越来越难用:
- 大量几乎一模一样的白牌产品,挂在随机品牌名下。
- 标题/图片误导、假货风险,以及明显由 AI 写成的评论。
- 搜索结果被广告和“赞助”垃圾内容主导,而不是用户查询的精确商品。
- 也有人表示,在以下情况下体验基本顺畅:
- 他们本来就知道准确的品牌/型号。
- 他们只购买某些类别(例如书籍)或“sold by Amazon”的商品。
- 更广泛的担忧是:Amazon、社交媒体和评论网站上的 AI 生成垃圾内容正在加速互联网整体的“enshittification”,并削弱人们对线上信息与市场的信任。