词语是意识的副产品。对 LLMs 来说，顺序反了

人类中的词语、思维与意识

• 许多人认为，对人类来说，语言出现之前的概念、感知和感受往往先于词语；语言更像是更深层认知的一层“表皮”或接口。
• 也有人反驳说，这只是内省造成的错觉：神经科学表明，很多认知都是无意识的，而口头解释往往是事后附会。
• 一些人提到，他们有时主要以图像、空间结构或“流状态”（例如运动、编码）而不是词语来思考。
• 内部独白和心理意象差异很大；有些人表示自己没有内心声音或心像，这让“用词语思考”是否普遍变得可疑。

没有词语的语言：动物、婴儿、边缘案例

• 许多人认为非人类动物具有意识，尽管它们的语言有限或不同；交流并不被视为意识的可靠标志。
• 海伦·凯勒以及野孩子或缺乏语言的儿童等案例存在争议：有些人认为语言对完整的人类式反思至关重要；另一些人则强调，没有语言并不证明没有意识。

LLMs 实际如何运作

• 多位评论者反对文章把 LLMs 说成“只是对词语进行下一个词预测”的观点。
• 他们强调嵌入、潜在向量和并非词语的内部表征，认为这些更像概念空间。
• 有评论引用在文本、图像和音频之间共享内部层的多模态模型，作为其内部结构更丰富的证据。

LLMs 是否会“理解”或具有意识？

• 一些人认为，LLMs 表现出类似概念的统计模型（例如对“椅子”“摇滚歌曲”）以及有限的、类似推理的行为。
• 另一些人援引思想实验（例如中文房间）来主张，仅凭行为无法证明理解或意识。
• 还有人指出，我们甚至无法严格定义或检测人类意识，因此对 AI 的强断言还为时过早。

语言在人类智能中的作用

• 一派观点：语言是先于它存在的意识的副产品。
• 另一派观点：高层次人类智能是从语言使用中涌现出来的；语言与思维彼此“引导启动”。
• 语言被描述为思维的“操作系统”或压缩层，使复杂推理、抽象和文化积累成为可能。

关于 AI、数据与退化的担忧

• 有人担心，随着 AI 生成文本充斥训练数据，会出现“模型坍塌”，从而削弱未来模型与真实世界语境的连接。
• 也有人建议用早期模型对新的训练语料进行过滤或筛查，以降低这种风险。

对原文的批评

• 评论者指出文章中关于意识的若干说法缺乏依据，对 LLM 内部结构的看法过于简化，并且过度依赖个人内省。
• 尽管如此，很多人仍认为这篇文章是讨论语言、思维以及 LLMs 到底在做什么的一个有用切入点。