我喜欢 LLM，但我讨厌炒作

炒作、恐惧与“永久底层”叙事

• 许多人既不喜欢正面的炒作，也不喜欢负面的炒作：关于被“甩在后面”的末日论调和乌托邦式 AGI 言论都被视为操纵性很强，且大多只是营销。
• 一些人表示，自己几乎没有亲眼见到这种极端炒作，更多是在论坛和工作场合感受到一种反炒作/反宣传的文化。
• 也有人报告说，自己不断接触到阴谋论式或灾难化的观点（比如在社交媒体、地方政治等场景中）。

旧金山与科技文化

• 对于批评 SF 存在强烈分歧：一些人认为生活成本和治理问题足以让批评成立；另一些人则说，把锅甩给一座城市是懒惰的，忽视了它的多样性。
• 有几个人指出，为了 AI/AGI 人脉网络而搬去 SF，本身就是炒作机器的一部分。

建设者 vs 商人

• 这里区分了“商人”（在他人劳动之上建立护城河的平台中间商）与“工匠”（亲手打造并直接销售自己产品的人）。
• 有人认为，任何销售 AI 产品的人无论叙事如何，本质上都属于商人。

LLM 作为工具与“氛围编程”

• 许多人重度使用 LLM 来写代码、头脑风暴、写文档，以及为小型个人工具进行“氛围编程”。
• 收益包括：卡住的时刻更少、原型开发更容易、领域专家无需雇开发者也能构建复杂工具。
• 局限在于：如果无人监督，模型仍会产出“垃圾”；真正的生产力瓶颈在于设计、范围界定、维护和集成，而不是原始代码生成能力。

认知影响

• 有些人觉得 LLM 是“对大脑的毒药”，会鼓励把思考外包出去，导致技能退化；另一些人则把这与历史上人们对书写和计算器的担忧作类比。
• 还有几个人说，他们用 LLM 去解决比以前更难的问题，认为对心理影响起决定作用的是问题难度，而不是工具本身。

艺术、真实性与意义

• 讨论集中在：AI 到底能不能创造“艺术”，还是只能创造“制品”。
• 一方把艺术与人类的情感体验、创作者—观众之间的社会契约联系起来；另一方指出，许多商业艺术本来就是在优化“引发情绪”的效果，因此看不出 AI 有原则上的障碍。

开源、分叉与维护

• LLM 使得分叉和定制 OSS 变得容易得多，从而实现“按你想要的方式来”的个人软件。
• 担忧包括：碎片化、更难与上游协作，以及未来的“维护地狱”；不过也有人认为，很多工具最终会达到“够用就好”的程度，然后就没人再动它们。

成本、商业模式与商品化

• 对于当前前沿模型到底是在补贴运营，还是已经能通过 API 定价盈利，存在分歧。
• 订阅方案普遍被视为亏本引流；真正赚钱的是企业/API 使用。
• 许多人怀疑，如果更便宜的开源模型或“够好就行”的模型大量出现，前沿实验室还能否维持如此高的估值。
• 有些人预测，AI 会更像其他基础设施（航空公司、个人电脑）：社会价值巨大，但没有哪一家实验室能攫取太多价值；硬件厂商或许是最大受益者。

本地模型 vs 前沿模型，以及未来可访问性

• 许多人正在逐步转向本地和开源模型，原因包括成本、控制权和审查问题，只有在必要时才使用前沿模型。
• 预期是（但并非保证）模型在每 FLOP 的质量上会提高到足以让消费级硬件接近前沿能力；但大家对时间表和物理极限存在分歧。

奇点、ASI 与长期结果

• 人们在两派之间分裂：一派认为超级智能会带来根本性的颠覆与危险，另一派则认为“闪光一瞬”的情景被夸大了。
• 有些人更担心的不是失控的 AI 本身，而是如何让它与现有由股东驱动、具有剥削性的经济体系对齐。