Kinney Drugs 在收到数百起客户投诉后撤回 AI 电话助手
一家美国地区连锁药房在收到数百起关于剂量错误、漏发处方通知以及难以联系真人的投诉后，撤回了一款由 AI 驱动的电话助手。评论者认为，基于语音的 AI 在技术上很脆弱——尤其是在药名、口音和复杂边缘情况上——而把它用作医疗领域的守门人很危险，因为处方可能关系到生死。也有人指出，药房面临巨大的财务压力，把自动化视为生存手段，但许多顾客认为这些系统是在削减成本、损害护理并侵蚀信任。
药房中的 AI 电话助手
- 许多人认为药房电话线是语音 AI 糟糕透顶 的首个目标：来电者年纪偏大、药品情况复杂、保险问题多、对失败容忍度低。
- 有人认为只有简单任务（营业时间、基础续配）才应该自动化；“续配例外”以及边缘情况应直接转给人工。
- 也有人指出，药房长期以来一直在使用僵硬的 IVR 系统；AI 只是试图把自动化扩展到这些狭窄流程之外，而结果好坏参半甚至更差。
客户体验与挫败感
- 多个轶事描述了会这样表现的 AI 系统：
- 无法理解非标准问题。
- 把用户反复带回他们已经试过的脚本化“自助服务”答案。
- 让转人工变得困难，或要求大喊/辱骂关键词。
- 来电者通常宁愿长时间等待真人，也不愿使用快速但不可靠的 AI，尤其是在药品或银行事务上。
技术与实施挑战
- 从业者表示，语音 AI 仍然“非常难”，尤其是：
- ASR（语音识别）错误率，遇到药名和地区口音时更糟。
- 有限的上下文窗口和脆弱的提示设置，导致行为不一致。
- 有效部署被描述为需要深厚的领域知识、药剂师项目经理，以及对交易型任务的严格范围控制。
- 也有人反驳说，现实中的系统往往使用弱而便宜的模型和浅层集成，因此比基本电话树还糟。
医疗风险与伦理
- 对医疗领域“粗糙但能用”的做法有强烈反对：边缘情况很重要，因为“会死人”。
- 担心 AI 会增加一个“问责黑洞”：患者无法“要求见 AI 的经理”，而一线员工却要替系统性决策背锅。
- 一些人担心 AI 会把获取医疗服务或药物变成门槛，放大现有的保险和药房官僚主义。
经济与激励
- 一方认为：零售药房在财务上受到挤压（PBM、保险公司、低利润率），需要 自动化才能生存并缩短等待时间。
- 另一方认为：AI 降低劳动力成本、提高利润，却损害护理质量；即便患者不满意，药房和 AI 供应商也会很高兴。
更广泛的 AI CX 讨论
- 与外包和自助终端的类比：纸面上看起来高效，长期却侵蚀服务与品牌。
- 总体模式：AI 在狭窄、简单的任务上表现良好；但在复杂、情绪化或异常情况很多的互动中，它往往失败，并加剧愤怒。