Meta 限制内部 AI token 支出

原文 ↗ Hacker News 讨论 ↗

激励、指标与 Token 排行榜

  • 许多人将 Meta 的 AI token 排行榜视为“当一个度量变成目标时”的教科书式案例，结果是钻空子而不是提升生产力。
  • 据称，按 token 使用量给员工排名的内部仪表盘大量出现，有时在管理层默许下被鼓励，之后才被叫停。
  • 评论者将这一现象推广到其他糟糕指标（Slack 消息数、PR 周转时间、Jira 工单），这些指标都会可靠地扭曲行为。

恐惧、裁员与指标游戏化

  • 反复裁员以及“用 AI，否则就会被替代”的信息，被视为把员工推入求生模式，去优化任何可见数字——tokens、产出、活跃度——而不管真实价值如何。
  • 有人指出，一旦员工把某个指标内化为威胁，即使该指标后来被移除，这种行为也会持续。

AI 使用的成本与价值

  • 有人认为，数十亿美元的 token 支出说明 AI 并没有带来价值；也有人反驳说，成本上限并不意味着零价值，只意味着边际收益递减或缺乏纪律。
  • 有人怀疑 Meta 的 AI 推动并没有带来明显的产品改进或新的创收产品。
  • 也有人指出，即便是“浪费”的十亿美元，相对于 Meta 的广告业务和更广泛的 AI 基础设施下注来说也可能只是小数目。

使用场景与 Token “Maxxing”

  • 有人推测，巨大的 token 使用量很可能来自自动化代理、cron 任务和嵌入式 LLM 工作流，而不只是交互式编码。
  • 据称，大量使用发生在文档工作（尤其是 PDF）、幻灯片，以及简单的办公自动化上，有时消耗的 token 甚至比编码更多。
  • 有个轶事称，后台“爪子”读取内部内容并发布摘要，推动了巨大的 token 消耗。

PDF 作为 Token 黑洞

  • 许多人指出，PDF 摄取既是一个自然的非技术性用例，也是低效的主要来源。
  • 人们对拖放式 PDF 聊天仍然昂贵且笨拙感到沮丧，不过也有人指出，要同时做到稳健和节省 token，本来就很难。

Token 类 KPI 的替代方案

  • 有人主张衡量结果（正常运行时间、使用量、项目完成度、收入影响），而不是 tokens、LOC 或工时这类投入指标。
  • 也有人指出，由于归因问题和滞后指标，在大规模下很难衡量个人“影响”，因此比起硬性 KPI，更适合采用定性评估。