Token 便宜到几乎无需计量

硬件、本地 LLM 和内存

• 围绕前沿级模型是否会在 3–6 年内运行在普通硬件本地展开争论。
• 有人认为，历史上每美元可获得的算力/RAM 仍大致呈指数增长，而当产能超出需求时，价格会在锯齿状周期中“崩跌”。
• 也有人指出当前供应受限、晶圆厂扩建缓慢，并怀疑 RAM/GPU 价格在 2030 年前不会恢复正常。
• 一些人认为，ASIC 和模型蒸馏（再加上量化、MoE、speculative decoding 等技术）将是让本地且低成本推理可行的关键。

数据中心、需求与可能的泡沫

• 一方认为当前数据中心扩建是一场泡沫：效率提升和模型改进可能会超过需求增长，留下闲置产能。
• 另一方援引杰文斯悖论以及对“智能”几乎无限的需求，认为更便宜的 token 会带来更多使用，而不是更少。
• 还有人强调杰文斯悖论不是定律；其他行业的过度建设表明，供给可能超过经济上有意义的需求。

经济学、盈利能力与商业模式

• 对推理是否已经是“摇钱树”存在严重分歧。
• 批评者指出，实验室的自由现金流深度为负，依赖调整后 EBITDA，并且为了保持 SOTA 而面临持续不断的 capex。
• 也有人担心当前价格存在补贴，并未反映全部成本（训练、硬件、债务）。
• 反方则认为，基于开源权重模型、只做推理的服务商看起来是盈利的，而且租用算力/推理最终会变成类似云服务的低利润率商品生意。
• 由此提出的问题是：是否有任何一家企业能够收回万亿级投资，还是后来的、更精简的入局者会拿走商品化推理的利润？

Token 成本 vs 工具（grep、编译器等）

• 该讨论串质疑文章的说法，即 LLM 调用很快会比 grep 之类的简单工具更便宜。
• 许多人认为 4–5 个数量级的成本差距非常大，并且很可能长期存在；更合理的情况是渐近接近，而不是交叉反超。
• 也有人认为，在需要近似、高层级任务，或注意力/UX 成本占主导时，LLM 可能更便宜；但对于基础的确定性工具而言，按操作成本计算仍然更便宜。

能源与环境

• 有人担心大规模 AI 计算在环境上可能“很糟，甚至灾难性”。
• 也有人回应说，降低每个 token 的能耗有强烈经济压力；ASIC、蒸馏以及把模型嵌入设备中都可能大幅降低能源使用。

历史类比与炒作

• 频繁将其与核能“too cheap to meter”的承诺以及互联网泡沫时期相比较：技术本身有用，但当前的资本支出和估值可能不可持续。
• 情绪分化：一方面看好 AI 长期无处不在，另一方面则对短期预测、图表和炒作周期持怀疑态度。