没有发生的故障,从来没人给你记功(2001)[pdf]

能力陷阱与非单调改进

  • 几位评论者把文章中的“能力陷阱”映射到软件和 AI:你不可能在不先暂时变差的情况下实现改进(例如重构、训练期间吞吐量下降等)。
  • 管理者往往期望改进是单调且无成本的,因此任何短期表现下滑都会受到惩罚,从而强化这种陷阱。
  • 这种“陷阱”被概括为:很容易进入(在压力下偷工减料),很难退出(没有余裕去投资能力)。

Y2K、准备悖论与概率

  • Y2K 是核心例子:很多人认为之所以最终成了“无事发生”,正是因为投入了巨大的修复工作(旧 COBOL 系统、公用事业、银行业等)。
  • 也有人指出,一些国家几乎没做什么却看起来没事,推测原因可能是使用了进口软件、更现代的系统,或者外部看不到的小范围局部问题。
  • 讨论涉及“准备悖论”:成功会让预防看起来像过度反应;此外,人们对风险的二元化思维和对概率的误解也被提及。

组织激励:救火 vs 预防

  • 一个强烈主题是:组织更奖励可见的英雄主义(深夜故障、危机拯救),而不是安静的预防工作。
  • “挣扎中”或混乱的部门往往比稳定、运转良好的部门获得更多预算和赞誉——有时甚至是在修复他们自己造成的问题。
  • 在有 stack ranking 或“只有超预期才算好”的文化里,试图追踪和汇报主动工作常常失败;这会激励人们直到问题爆炸前都不去修复。
  • 有人建议把“差点出事”的情况和痛点上报给领导,而不是悄悄承受,这样系统才能学习;但在资金不足或指责氛围很重的组织里,这也可能适得其反。

简洁、优雅与奖励复杂性

  • 许多人指出,优雅、简单的解决方案事后看往往显而易见,却不如那些“看起来很难”的复杂系统受重视。
  • 晋升、论文和表扬常常跟着被感知到的复杂性走,从而鼓励过度设计和官僚化。
  • AI 工具可能正在加速代码和方案的复杂化,使工程师更常抱有防御性的怀疑态度。

管理、技术洞见与系统性偏差

  • 技术人员与非技术管理层之间长期存在张力:离系统很远的人看不到预防工作,可能会把“没出故障”理解成“什么都没做”。
  • 有人认为技术背景有助于管理者理解并重视预防工作;也有人反驳说,好的管理本身就是另一种技能,工程师也可能成为糟糕的管理者。
  • 不少人认为这本质上是人类和系统层面的问题——呈现效果、注意力短暂和认知偏差——而不是技术领域独有的。

社会中的预防与个人应对

  • 评论者把这一现象类比到医疗、安全工程、基础设施和 Covid 政策:预防很少获得荣光,而事后很难区分是过度反应还是审慎准备。
  • 有人描述了个人适应方式:拒绝玩英雄游戏、策略性地利用激励机制,或者换到更能奖励预防和“无聊但可靠”的岗位/行业。