为什么机器学习很“难”？（2016）
机器学习之所以被认为很难，更多不是因为玄奥数学，而是因为现实很复杂：问题是否可行往往不清楚，理论指导不足，数据噪声大或不够用，而且调试周期长、成本高，模型即使表现不佳也可能看起来“还不错”。评论者将 ML 与传统软件对比，指出你往往无法判断失败究竟源于 bug、坏数据，还是问题本身的根本限制，而且很多项目缺少合适的训练/测试集或领域理解。普遍共识是，成功依赖扎实的统计基础、谨慎的数据集构建，以及判断何时 ML 才是真正合适的工具，而不是简单启发式方法。
工具选择以及何时使用 ML
- 强烈担忧 ML अक्सर 是“为问题寻找解决方案”，并且在简单启发式方法或传统代码更合适的场景中被误用。
- 也有人认为 ML 在开发工作流以及模型构建本身中正变得越来越有用，而概率编程及类似方法会进一步普及。
- 若干评论强调，核心能力是选对工具，而不是自动一上来就用 ML/LLMs。
超参数、启发式与理论
- 许多人抱怨模型和超参数选择感觉像“先试一堆东西看看”，这说明从第一性原理出发的指导很弱。
- 有人认为这很正常：启发式和“领域技巧”本来就存在，并且会指导应该尝试哪些架构和配置。
- 关于深入理论理解与实际实验的价值存在争论；有人说证明/最优性很重要，也有人更重视能跑起来的模型。
调试复杂性与反馈周期
- ML 调试被认为很难，因为训练周期长、行为具有随机性，而且失败模式相互作用很多（数据、模型、代码、超参数）。
- Bug 可能只会部分削弱性能，因此难以察觉；系统看起来“不错”，却可能隐藏着大量尚未挖掘的提升空间。
- 有人将其与其他反馈很慢的领域作比较（芯片设计、早期计算、复杂分布式系统）。
数据、数据集与标注
- 一个主要痛点是人们不愿意或无法承担创建高质量训练/测试集的成本；对基准的过度迷恋会扭曲研究优先级。
- 多位从业者表示，大部分精力应该投入到高质量、面向问题的标注数据上；算法选择往往是次要的。
- 大家担心基准过拟合以及评估“靠不住”；尽管如此，在比较方法时也没有明显替代方案。
ML vs 软件工程 vs 统计学
- 有些人将 ML 视为本质上的统计建模；另一些人则认为它的行为不同，因为模型可能展现出令人意外的涌现能力。
- ML 工作流被描述为“管道对齐 + 调试”，类似数据分析工作。
- 讨论中也区分了 ML 从业者、ML 工程师和应用统计学家等角色。
不确定性与可行性
- 与典型应用开发不同，某个任务是否能用现有数据和方法完成，往往并不清楚。
- 将“因为 bug 导致不起作用”和“因为数据没有信号或问题本身不适定而不起作用”区分开来，是一个核心难点。
技能、数学与难度感知
- 许多人认为 ML 并不是比其他严肃领域更难；无论技术还是艺术，想做得好都不容易。
- 强调基础：概率、统计、微积分和扎实的计算机科学是实际能力的根基；速成训练营容易带来过度自信。
- 观点范围从“ML 基本是蛮力，并没有那么难”到“它是现代炼金术”再到“它只是众多高要求学科中的另一种”。