Kinney Drugs retira su asistente telefónico de IA tras cientos de quejas de clientes

Artículo original ↗ Discusión en Hacker News ↗

Una cadena regional de farmacias de EE. UU. ha retirado un asistente telefónico impulsado por IA tras cientos de quejas por dosis incorrectas, avisos de recetas perdidos y la frustración general de no poder llegar a un humano. Quienes comentan sostienen que la IA de voz es técnicamente frágil —sobre todo con nombres de medicamentos, acentos y casos límite complejos— y que usarla como filtro en sanidad es peligroso cuando las recetas pueden ser vitales. Otros señalan que las farmacias están bajo una fuerte presión financiera y ven la automatización como una táctica de supervivencia, pero muchos clientes perciben estos sistemas como una reducción de costes que degrada la atención y erosiona la confianza.

Asistentes telefónicos de IA en farmacias

  • Muchos ven las líneas telefónicas de las farmacias como un terrible primer objetivo para la voz con IA: personas mayores que llaman, medicamentos complejos, problemas con seguros y baja tolerancia al fallo.
  • Algunos sostienen que solo las tareas simples (horarios de la tienda, renovaciones básicas) deberían automatizarse; las “excepciones de renovación” y los casos límite deberían pasar directamente a humanos.
  • Otros señalan que las farmacias han usado durante mucho tiempo sistemas IVR rígidos; la IA es solo un intento de ampliar la automatización más allá de esos flujos estrechos, con resultados mixtos o negativos.

Experiencia del cliente y frustraciones

  • Varias anécdotas describen sistemas de IA que:
    • No logran entender problemas no estándar.
    • Hacen que los usuarios recorran respuestas de “autoservicio” guionizadas que ya habían probado.
    • Dificultan la escalada a humanos o requieren gritar/palabras clave de abuso.
  • Quienes llaman suelen preferir esperas largas con humanos antes que una IA rápida pero poco fiable, especialmente para medicamentos o banca.

Retos técnicos y de implementación

  • Quienes practican en el sector dicen que la voz con IA sigue siendo “realmente difícil”, especialmente:
    • Las tasas de error de ASR (reconocimiento de voz), peores con nombres de fármacos y acentos regionales.
    • Las ventanas de contexto limitadas y configuraciones de prompts frágiles que llevan a un comportamiento inconsistente.
  • Se describe que los despliegues efectivos requieren una profunda experiencia del dominio, gestores de proyecto farmacéuticos y un alcance muy ajustado a tareas transaccionales.
  • Otros replican que los sistemas del mundo real a menudo usan modelos débiles y baratos e integraciones superficiales, lo que los hace peores que los árboles telefónicos básicos.

Riesgo y ética en sanidad

  • Hay un fuerte rechazo a lo de estar “a medio cocer” en sanidad: los casos límite importan porque “la gente muere”.
  • Preocupa que la IA añada un “sumidero de responsabilidad”: los pacientes no pueden “pedir el responsable de la IA”, mientras que el personal de primera línea absorbe la culpa de decisiones sistémicas.
  • Algunos temen que la IA bloquee el acceso a la atención o a los medicamentos, amplificando la burocracia existente de seguros y farmacias.

Economía e incentivos

  • Una postura: las farmacias minoristas están financieramente asfixiadas (PBM, aseguradoras, márgenes bajos) y necesitan la automatización para sobrevivir y reducir los tiempos de espera.
    • Otra postura: la IA recorta costes laborales y aumenta beneficios mientras degrada la atención; farmacias y proveedores de IA están contentos aunque los pacientes no lo estén.

Debate más amplio sobre CX e IA

  • Comparaciones con la deslocalización y los quioscos: sobre el papel parece eficiente, pero erosiona el servicio y la marca a largo plazo.
  • Patrón general: la IA funciona bien para tareas estrechas y simples; para interacciones complejas, emocionales o con muchos casos excepcionales, a menudo falla y aumenta la ira.