“AI” 正在放大我们破碎医疗体系中最糟糕的倾向
AI 工具正被纳入美国医疗和保险工作流程，但主要目的是降低成本，通常通过自动化拒赔和借助不透明算法限制医疗服务来实现。评论者认为，由于保险公司和医院系统在结构上都被激励去最大化利润，“AI”更多是在放大现有问题——官僚障碍、缺乏问责、权力不平衡加剧——而不是降低成本或改善患者结果。有人看好 AI 在临床辅助或病历记录方面的潜力，但认为如果没有不同的激励机制和监管，绝大多数收益最终会流向企业，而不是患者或一线医护人员。
范围：保险算法 vs 医疗 AI
- 几位评论者指出，这篇文章讨论的是保险理赔审核算法，而不是临床决策，但也有人认为保险本就是“医疗体系”的一部分，因此这个标题是成立的。
- 有人指出，文中所说的系统早于现代 LLM，可能只是被包装成“AI”的简单启发式规则，反映了把现有分析技术重新命名的更广泛模式。
激励、利润与拒赔
- 普遍共识是，美国保险公司使用自动化主要是为了减少赔付，而不是改善护理，其方式是拒绝或拖延理赔，直到患者放弃或死亡。
- 诉讼称，由这类工具驱动的拒赔在上诉中约有 90% 会被推翻；评论者据此推断，公司内部把这看作可接受的节省，因为提出上诉的患者很少。
- 自动化还增加了个人层面的不负责：决定可以被归咎于“算法”，从而更难挑战。
与电子病历和“大数据”的相似之处
- 电子病历（EMR）的推行被提为一个警示性案例：它被大力宣传为能降本增效，但在美国主要却增加了官僚负担、供应商权力和医院并购整合，对降低人均成本几乎没有帮助。
- 互操作性被描述为从设计上就很差（宽松标准、定制化安装），使数据变成代价高昂的噪声。
- 一些欧洲用户表示他们对 EMR 的使用体验更好，这凸显了激励机制和系统设计比技术本身更重要。
潜在用途与当前有限部署
- 到目前为止，真正部署的 AI/LLM 主要用于文书和转录工作（例如自动起草临床笔记、远程医疗摘要），以节省临床人员时间。
- 也有人提到一些有前景的诊断/分诊工具和放射科支持类初创公司，但在讨论串中几乎没有证据表明它们已被广泛用于临床。
对患者与社会的风险
- 很多人担心 AI 会“放大”现有糟糕激励：优化拒绝治疗、恶化客服、加深信息不对称，并进一步金融化医疗。
- 讨论中也争论了：对不安全的 AI 医疗建议的担忧，与其对无法获得医生帮助的人可能带来的益处之间的权衡；一方强调带有权威口吻的错误会造成伤害，另一方则认为在资源匮乏的环境中，即便不完美的指导也可能总体上有帮助。
系统层面的争论
- 对补救措施存在分歧：有人主张公共或单一支付方体系；也有人主张真正竞争、透明的市场。
- 较广泛但并非完全一致的观点是：如果没有结构性改革和明确责任，AI 会放大当前的失灵，而不是修复它。