犹他州将允许 AI 在无人类监督下检查患者并开具药物

犹他州已批准一项试点项目,允许 AI 系统通过照片诊断轻至中度痤疮,并在没有实时人工监督的情况下开具有限范围的外用药物。评论者争论这究竟是减少低价值就医和放松过度严格处方规则的合理方式,还是将权力转移给以利润为驱动的公司、削弱问责并扩大健康数据收集的危险先例。许多人指出该项目范围很窄,且医生审查是分阶段进行的,但仍将其视为更广泛 AI 医疗服务的“楔子细端”。

犹他州试点的范围

  • 该项目是一个为期一年的、范围严格限定的试点,面向轻至中度痤疮。
  • 患者使用每月 4.99 美元的应用程序,提交面部照片和病史;AI 分析皮肤,并从一份简短的外用药物清单中开出处方。
  • 推出采取分阶段方式:最初 100 例在配药前都会经过全面审查;接下来的 400 例事后审查;之后每月仅抽查约 10%。
  • 系统明确排除风险更高的药物,如异维 A 酸 / Accutane 以及口服 / 全身用药。

支持其有益的观点

  • 让患者摆脱因痤疮、尿路感染、慢性轻症等简单问题而进行“浪费时间”的就诊和漫长等待。
  • 与当前最低限度的远程医疗或“仅文本”开药流程相比,风险相似或更低。
  • 被视为一种务实方式,可在医生预约排到几个月后才能看上的地方扩大就医可及性。
  • 一些人认为,这可以作为低风险试验场,在面对更难的问题前先让 AI 工具成熟起来。
  • 也有人认为,如果护士、PA 或药剂师能够安全处理这类病例,那么 AI 也可以。

担忧与批评

  • 对滑坡效应的担忧:“楔子的细端”可能会通向更广泛、风险更高的 AI 开药,或“药丸工厂”。
  • 担心那些“自以为知道自己需要什么”的患者往往会自信地判断错误,从而掩盖严重病症。
  • 反对意见认为,如果药物对 AI 来说足够安全,那也许它们干脆就该做成非处方药。

处方药与非处方药,以及监管

  • 其中若干药物本身就已有较弱形式的非处方版本;处方主要是在限制更高剂量或更高风险的用法。
  • 一些人认为,与其他国家相比,美国的处方规则过于家长式;AI 的变通做法凸显的是系统有问题,而不是修复了它。

数据隐私与商业激励

  • 由于远程医疗有向广告平台共享数据的记录,因此把面部图像和个人身份信息上传给一家初创公司,引发了强烈担忧。
  • 订阅模式加上数据收集,在一些人看来带来的是成本、追踪和锁定效应,而不是真正的“放宽限制”。

伦理、责任与风险

  • 争论在于:当 AI 伤害患者时,谁应负责——公司、监督医生,还是通过点击同意条款的最终用户?
  • 有人认为,由于使用的是经过筛选的外用药,造成的伤害可能很小;另一些人则认为,轻描淡写风险是不负责任的。
  • 少数观点认为,AI 不应直接参与医疗护理;另一些人则认为,谨慎、经过审计的部署是可以接受的。