Apple 希望 AI 直接在其硬件上运行，而不是在云端
Apple 推动将生成式 AI 直接运行在 iPhone 和其他设备上，被视为一种提升隐私、减少对云基础设施依赖、并实现更快更可靠功能的方式，例如更强大的 Siri 或设备端图像与文本处理。评论者对当前硬件——尤其是有限的 RAM——是否足以支撑有用的大语言模型看法不一，但许多人指出，较小的模型已经能在较新的 iPhone 和 iPad 上相当不错地运行。除了技术难题外，人们还认为这一策略既能为 Apple 节省成本，也可能推动已经趋于饱和的智能手机市场进入下一轮硬件升级周期。
设备端 vs 云端 AI
- 许多人认为设备端推理是手机的“下一步”：更低延迟、可离线使用，以及更好的隐私。
- 也有人指出，由于模型规模更大且能访问更多数据，云端模型仍会更强；本地通常只是“足够好”，而不是最优。
- 混合式设想很常见：基础模型和个人上下文在设备端，必要时再调用云端处理当前事件或重任务。
Siri 和语音助手
- 人们对一个显著改进的 Siri 需求强烈；有人说，只要有一个真正可用、达到 LLM 水平的 Siri，就足以让他们升级手机。
- 不满情绪普遍存在：行为不一致、“咒语”失效、随机退化，以及多用户处理很差。
- 有人认为 LLM 可以修复鲁棒性和理解能力；也有人希望 Apple 先修好基础稳定性，再增加复杂性。
硬件、模型与性能
- 关于 Apple 历来较低内存的争论很多：8 GB 被认为对现代 LLM 来说很紧张，不过当前高端 iPad/Mac 已经可以在本地运行 7B–13B 模型。
- 带宽/RAM，而不是存储，被认为是主要瓶颈；模型需要装进内存。
- Apple 最近关于低内存 LLM 推理的研究，被引用为试图绕开这些限制。
- 有人预计会出现专用 AI 协处理器，甚至可能有面向 AI 的设备档位。
隐私、商业模式与成本
- 设备端 AI 与 Apple 的隐私叙事一致，并可减少其云端算力账单。
- 不少人指出，Apple 更愿意出售高利润硬件，而不是免费承担昂贵的推理成本。
- 人们对可选的云端增强功能很感兴趣，但也在质疑由谁来付费以及如何付费（订阅、捆绑）。
生态系统、开放性与监管
- 有人怀疑 Apple 会不会允许任意系统级 AI 模型；普遍预期仍是一个单一的“官方”助手。
- 反方观点是：现有 API（Core ML、Neural Engine）已经允许第三方设备端模型，只是不能替代 Siri。
- 讨论中提到欧盟对 App Store 开放性的压力；这种压力会延伸到 AI 模型和助手到什么程度还不清楚。
现有的设备端 AI 与 UX
- 用户报告了一些很强的设备端功能体验：照片内容搜索、Live Text、图像描述，以及 Apple Watch 上的 Siri 处理。
- 这些“隐形”的 AI 功能被视为证据，说明即使没有以生成式 AI 的名义宣传，Apple 也已经在本地 ML 上投入多年。