Jeff Dean：机器学习的趋势 [视频]
Jeff Dean 关于机器学习“激动人心趋势”的演讲引发了讨论：现代 AI 到底有多少是真正的新理论，又有多少只是把卷积重新包装；不少人认为基于 Transformer 的 LLM 和规模化规律已主导实践，而基础理解仍然滞后。评论者在对大型多模态模型（如 Google 的 Gemini）表示热情与对当前高算力消耗型架构已到平台期、且过度受企业激励和广告用例塑形的怀疑之间分裂。一个重要的实用主题是用于总结长视频和文本的 AI 工具的兴起：有人认为这确实提高了生产力，另一些人则觉得它们浅薄且容易出错，可能会让人们学习时对深度与细微差别的把握变得扁平化。
争论：“所有机器学习都是卷积”
- 有人认为任何矩阵乘法（包括 Transformer 和 MLP 中的）都可以看作卷积或积分变换，所以“万物皆卷积”。
- 也有人反驳：只有显式的卷积层才算；高维空间中的点积通常不叫卷积，而且非线性会破坏严格等价。
- 相关链接工作声称卷积架构是通用的，但评论者指出“可以表达”不等于“就是”。
DermAssist 与医疗 AI 工具
- 演讲提到 Google 的 DermAssist 是一个真实产品，但用户遇到等待名单和 404；其在美国的可用性也明确受限。
- 评论者认为皮肤科 AI 在真实临床环境中反复存在夸大承诺、交付不足的问题，并呼吁保持怀疑。
- 还有人分享了其他更成功的医疗 AI 例子，以及一个开源皮肤病工具。
基于 AI 的视频总结工作流
- 许多人用 LLM 在观看长讲座前先做总结，理由是节省时间并用于筛选。
- 也有人更喜欢视频简介、快速浏览，或直接读书，认为 AI 总结显得浅薄且同质化。
- 多个工具和个人项目被分享出来（以 YouTube 为中心的总结器、带时间戳的主题地图、闪卡生成器）。
- 也有人反馈，即使提供完整转录，LLM 总结往往也会遗漏关键洞见。
对 LLM 准确性和过度依赖的担忧
- 错误事实回答的经历（例如营业时间）降低了信任。
- 有人区分了总结静态文档与回答转瞬即逝的事实查询，但用户指出界面并没有清楚提示这种区别。
- 还有哲学层面的担忧：把“什么值得我花时间”以及知识获取外包给不透明系统；风险在于一切都趋向钟形曲线的中间。
对这场演讲的反应
- 一些人认为这是一个打磨得很好的高层概览，可能是面向本科生的，并且强烈强调了 Google 自己的工作和产品。
- 另一些人批评它营销味过重，而在理论、架构细节或“为什么它有效”的真正解释上内容不足。
- 也有人指出它相对低估了 ChatGPT 式突破，并把不同实验室之间的差异看作执行层面的差异，而非研究方向的差异。
机器学习研究的现状与方向
- 一种观点认为：当前神经网络 + 海量算力的范式正在进入平台期；未来需要更少依赖数据/算力的新方法。
- 另一种观点认为：Transformer 正在成为 ML 的基础性“MOS 晶体管”，很可能跨模态占主导，未来工作将聚焦于效率（例如降低二次方成本、类似数据库的注意力、量化），而不是新架构。
- 持怀疑态度的评论者认为，ML 研究很大程度上受企业激励驱动，且由计算机视觉和信息检索用例主导（广告、短视频、知识面板）。
商业与竞争
- 有人认为 AI/AGI 创业公司正处于“等等看”的阶段：现有巨头形成寡头，新创业公司大概率会成为收购目标。
- 也有人认为 Google 会保持投入，而传统的关键词网页搜索会随着时间推移逐渐式微。