在家进行 AI 编码而不把自己搞破产

在家进行 AI 编码的成本

  • 许多人说,$20–$100/月的订阅(Claude、Gemini、Cursor 等)只要保持投入并审查代码,就足以胜任认真的副项目。
  • 也有人表示会把 $200+ 套餐甚至多个订阅都用光,尤其是在 agentic 工作流、自动化或长时间无人值守运行时。
  • API 定价与订阅:与标价 API 费率相比,固定价格套餐受到大幅补贴;有些人会把它们用到极限,实际上以几百美元费用获得数千美元的 token。

DeepSeek 和中间商

  • DeepSeek V4 Flash/Pro 经常被提为“作弊代码”:在编码任务中,以比美国前沿 API 低约 1–2 个数量级的成本,达到“约 80–95%”的质量。
  • 直接使用 DeepSeek API 比大多数 OpenRouter 供应商便宜得多;缓存是主要的省钱手段,而有人声称 OpenRouter 的路由/请求头会降低缓存命中率。
  • 有些人更喜欢 Opencode Go 或其他把 DeepSeek 打包成固定费用的 harness;另一些人则认为直接 API 仍然更便宜。

云端 vs 自托管

  • 自托管通常被视为主要是隐私选择;硬件(高 VRAM GPU、DGX Spark、Halo/Stryx 等)很贵,而且电费并不是免费的。
  • 粗略的能耗比较:人类在代谢上很高效;但从某些观点看,“人类 + LLM”可以节省时间,从而总体减少资源使用。
  • 较老或“免费”的 GPU(例如 1080 Ti)可以低成本运行中等规模模型,但通常并不明显比像 DeepSeek Flash 这种极便宜的托管模型更便宜。

本地模型与能力

  • 共识是:目前本地还没有真正达到 Opus 级别的模型;最好的本地方案在昂贵的多 GPU 机器上大致接近 Sonnet 级别。
  • 许多人对 Qwen 3.x、Gemma 4 以及类似的 26–35B 模型感到满意,在 24–128 GB RAM 上可用于非“vibe coding”任务,尤其是在紧凑、按函数级别的提示中使用时。

Token 使用模式

  • 高支出通常来自:
    • 漫长的“plan mode”会话和巨大的上下文。
    • 每轮都加载许多工具/技能/MCP。
    • 自主代理在范围不清的任务、重构或逆向工程上反复消耗。
  • 低支出通常与以下情况相关:
    • 短而专注的会话;频繁重启。
    • 清晰的规格、更小的任务,以及使用本地工具(测试、搜索、embedding)来减少上下文。
    • 日常编码使用更便宜的模型,把高端模型留给分析/架构工作。

情绪与职业影响

  • 一些长期从事“手艺型”开发的人表达了悲伤和倦怠:感到被代理取代,失去“代码即艺术”的感觉,并担心自己会变成“机器的看守者”。
  • 也有人认为钟摆会回摆到产品思维和以人为本的设计;AI 仍然是工具,而不是完全替代品。

隐私、法域与替代方案

  • 一些人避开美国中间商,出于 GDPR/隐私原因更偏好仅限欧盟的供应商或本地推理。
  • 也有人怀疑付费云服务并不自动保证隐私。

未来展望

  • 一些人预计,几年内可在家运行的模型会达到今天中前沿水平,并建议推迟大额硬件采购。
  • 另一些人警告说,未来的芯片/模型可能会被锁定或受地缘政治限制,使本地自治的前景并不确定。