对 OpenAI 和 Anthropic 说不

大 AI、政治，以及“Big Tech 2.0”

• 许多人认为 AI 正在重演社交媒体/大科技公司的模式：权力集中、监管薄弱、媒体/政治系统被金钱和炒作俘获。
• 有人将当下的领导层和媒体描述为机会主义的“骗术”机器，细节（加密货币、AI）并不如攫取资源重要。
• 也有人反驳说，过去几十年总体上是好的，悲观情绪被夸大了，不过他们也承认不平等和失灵问题。

HN 文化、Astroturfing 和极化

• 有人指出，HN 过去更倾向于质疑 Uber 式的公然违法行为，但直到丑闻出现后才真正转而反对这类公司。
• 有人抱怨存在 astroturfing，以及 AI 讨论中明显的美国偏见，尤其是针对非美国或开源模型。
• 一些人怀疑，对自己喜爱的实验室/模型（以及开源 vs 闭源）的情感依附正在助长这种激烈争论。

隐私、零数据保留与信任

• 核心争论是：当默认政策包含日志记录和用于滥用/安全目的的短期保留时，前沿实验室是否真的可能是“私密”的。
• 某些云服务商和中介提供了零数据保留（ZDR），但：
  • 在不同模型和供应商之间可用性不一致。
  • 滥用监控例外和被标记提示词的保留削弱了“真正的”ZDR。
  • 企业级 ZDR 往往需要门槛；有人认为这偏袒大客户。
• API 数据通常据称不会用于训练，但短期保留很常见。有些人认为不应照单全收任何公司的承诺；另一些人则表示，对更小的“隐私”包装器也应持同样的不信任态度。

成本与可及性的权衡

• 前沿实验室的个人订阅被描述为“性价比高得离谱”的交易，尤其对重度用户而言，因此很难说服自己转向付费的开权重推理。
• 也有人报告说，通过第三方提供商使用高效开源模型，成本相当甚至更低，这高度取决于 token 用量、缓存和并行代理。
• 有人担心前沿实验室的低价可能只是暂时的，并会把用户锁定住。

模型质量：前沿 vs 开源

• 一些人认为较新的开源或中国模型（例如 DeepSeek、GLM）在编程上“基本能与”顶级专有模型比肩。
• 另一些人强烈不同意，称在大型或复杂代码库上仍有明显质量差距；他们怀疑那些满意的用户只是做更简单的工作，因此质量差异不那么重要。
• 总体而言：没有共识；体验因工作负载而异。

前沿实验室的伦理、风险与动机

• 一个重要讨论分支在争论美国前沿实验室的领导者究竟是鲁莽的“疯子”、愤世嫉俗的骗徒，还是诚恳但目光短浅的技术人员。
• 批评者认为：
  • 这些公司明知故犯地加速气候影响和岗位流失。
  • 一些内部人士公开为人类灭绝情景分配了不小的概率，却仍继续扩张规模。
  • 高薪和随时可以辞职，使非清洁岗员工承担更高的道德期待。
• 辩护者呼吁保持最基本的人性善意，指出这些实验室里并不是“每个”人类都在作恶，且狂热的措辞适得其反。
• 有些人接受创始人认为自己正在打造某种准“机器神”或 ASI，而少数人甚至公开欢迎这一点，把后人类的“生命下一阶段”置于当前人类福祉之上。
• 另一些人则认为这种世界观在道德上令人毛骨悚然，明确将其视为对当今 80 亿人的敌意。
• 多位评论者呼吁严格监管、对灾难性伤害追究个人责任，并对任何掌握如此权力的实体（国家或公司）保持怀疑。

替代方案：开权重、本地与非美国提供商

• 许多人主张在个人或欧洲硬件上使用开权重模型，理由包括：
  • 隐私与控制。
  • 竞争与生态多样性。
  • 降低对美国前沿实验室的依赖。
• 中国开权重模型因开放性和成本而受到称赞，但也有人指出中共/国家控制风险是一个严重的道德困境。
• “减害”式框架很常见：优先本地，其次是通过可信的本国提供商使用开权重模型，并把向大型美国实验室付款视为在别无选择时的“最坏情况”。
• 一些人强调，开权重模型可以通过中立提供商使用，从而避免把钱直接送到原始实验室。

更广泛的社会焦虑

• AI 争论与对财富不平等、制度腐败、数据中心环境破坏以及文明可能衰退的担忧交织在一起。
• 另一些人仍然乐观，认为近几十年在历史上总体是好的，并相信社会在尝试过糟糕选项后能够纠偏。
• 少数人建议，干脆完全不使用 AI 也是一个正当且被讨论得不够多的选择。