Show HN：我做了一个把本地 AI 当作日常主力使用的应用

原文 ↗ Hacker News 讨论 ↗

人们对一款新的 macOS 本地运行大语言模型应用充满热情，但也会拿它与现有免费或开源工具相比，质疑其价值、隐私和开放性。评论者权衡本地 AI 与云 AI 的取舍（能力 vs. 数据控制），提出系统提示词、对个人文档做 RAG、语音界面和多提供商支持等需求，并指出仅限 Mac、闭源且通过 App Store 分发会限制信任与覆盖范围。更大的主题是：在一个已经有许多基于 llama.cpp 等后端的跨平台开源替代方案的生态里，精致的付费原生客户端是否足以证明自己的价值。

应用的范围和目的

  • 这是一款专注于将本地 LLM 作为“日常主力”的 macOS 应用。
  • 仅支持 Apple Silicon；不支持 Intel Mac。
  • 直接使用 llama.cpp，而不是 Ollama，并且可以加载自定义 GGUF 模型。
  • 一些用户把它看作“带 AI 的 Obsidian”，更偏向个人知识和本地使用，而非企业场景。

在线模型和系统提示词

  • 应用已经支持通过用户自己的 API key 使用 GPT‑3.5/4；未来计划提供更多可配置项（自定义 base URL/模型名称）。
  • 多位评论者要求更丰富的系统提示词处理、每次对话使用多个提示词，以及角色/个人档案功能。
  • 关于系统提示词是否关键存在争论：有人认为它对输出质量至关重要；也有人几乎不用。

隐私、开放性与信任

  • 重视隐私和去中心化、而非中心化服务商的用户表现出强烈兴趣。
  • 有人认为真正的隐私需要开源前端和模型；像这款在内的闭源应用则被谨慎看待。
  • 有人担心 App Store 分发仍然需要信任 Apple，而“本地”应用也可能外传数据。
  • 有人呼吁明确的隐私保证、仅本地运行的承诺，以及可能的非 App Store 分发方式。

RAG 与个人数据整合

  • 对能在本地搜索/总结个人文档、书签、浏览历史、电子邮件和文件的 AI 需求很高。
  • 用户提到已有的 RAG 工具，并希望这款应用支持包含 markdown/txt/PDF 的文件夹，并提供合理的 RAG。
  • 也有人怀疑本地个人数据 AI 的可行性，因为大量数据都在受 OAuth/API 策略限制的云服务中。

功能、UX 与可访问性

  • 请求的功能包括：语音转文字/文字转语音、分支/可编辑对话、键盘快捷键、Shortcuts/CLI 集成、图像生成，以及更好的上手引导/模型说明。
  • 对简洁性、设计和应用“手感”的反馈很热烈；有些用户当场就购买了。
  • 也有人质疑它相较于免费的开源 UI（如 ChatbotUI、Open-WebUI、LM Studio）到底好在哪里。
  • 有一条讨论详细指出了无障碍问题（按钮缺少标签、缺少 live regions），并针对屏幕阅读器提出了具体改进建议。

平台与替代方案

  • 目前没有推出 Windows 或 Linux 版本的计划；建议 Windows/Linux 用户使用其他本地 LLM UI 和 CLI 工具。
  • 有些人对平台限制和缺少试用感到失望，但也有不少用户认为，考虑到这是一款精致、原生风格体验的应用，10 美元的价格很合理。