Whistle：16.9 MB 的语音转文字

原文 ↗ Hacker News 讨论 ↗

一款新的 16.9 MB 语音转文字模型 Whistle 因其出人意料地强的、完全本地化的转写能力而受到关注——尤其是在英语上——其体积小到足以嵌入键盘、网页应用和低功耗硬件。评论者将它与 Whisper 和 Parakeet 等更大的系统进行比较，称赞其速度、隐私和部署便利性，同时指出它在某些口音和非英语语言上的表现较弱、流式 UX 有限，以及在更苛刻场景下错误率更高。讨论凸显了一个更广泛的趋势：面向听写、离线助手和受限设备的、小型且 CPU 友好的 ASR 模型正在兴起，尽管准确率取舍仍是核心问题。

总体反响

  • 许多人对一个 16.9 MB、仅 CPU 的模型能实现很强的英语转写感到印象深刻；在正常语音和技术术语上，它有时“离谱地”好。
  • 也有人报告错误率明显偏高，把它和较老的听写系统相比，并表示如果准确率很差，体积就无关紧要。
  • 感知到的质量在很大程度上取决于口音、录音条件和语言。

语言与口音表现

  • 英语总体表现最好，包括某些非母语或口音较重的情况，不过一些用户仍看到漏词或听错。
  • 西班牙语反馈不一：卡斯蒂利亚西班牙语如果说得慢且清楚，可以工作；墨西哥/委内瑞拉用户则看到很多错误和编造出来的词。
  • 波兰语、西班牙语和法语在语音非常清晰之前，表现被描述为较差或“还行”。
  • 用户指出它不支持日语、挪威语和中文等语言；尝试时会回退到错误语言或生成胡言乱语。

模型体积与本地运行优势

  • 小体积被称赞，因为它使以下成为可能：
    • 在手机、键盘、嵌入式硬件和网页应用上进行本地、私密的 STT。
    • 可能适配 CPU 缓存，减少内存延迟，并支持“始终在线”使用。
  • 也有人质疑为何专注于体积，因为更大的模型（Parakeet、Whisper、Qwen ASR）更准确。

与其他 STT 系统的比较

  • Parakeet 经常被提及为强大、快速的本地基线，不少人说它比 Whistle 更强，也有人说它是“黄金标准”。
  • 其他人则提到 Whisper Large(-v3/-turbo)、Qwen3-ASR、Canary、Deepgram、Nemotron，以及各种应用（Handy、FUTO keyboard、ZWhispr 等）更准确，但更重或基于云端。
  • 有些人认为，超过某个程度后，剩余的 STT 错误可以由下游 LLM 修复，尤其是在笔记和听写场景中。

UX、流式输出与基于语法的配置

  • 多位评论者坚持认为实时流式输出至关重要；演示里的“录音后再转写”流程被视为一个重大缺口。
  • 用户讨论了自定义听写工作流（按住说话、剪贴板粘贴、延迟“flush”），并询问流式模式如何处理后续更正。
  • 一个详细示例将 Whistle 仅作为一个小型语法/模板分类器的前端，运行在一台已 root 的智能显示器上，从而在有限命令集上实现接近 SOTA 的准确率。

伦理与 AI 辅助润色

  • 几位用户描述了一种常见流程：录音 → STT → LLM 清理/结构化。
  • 一位评论者担心这种经 AI 润色的写作会被视为“AI 垃圾内容”；其他人回应说，对人类生成文本做轻量清理在伦理上没问题，而且大概率是想太多了。