Re: Te estoy suplicando que dejes tu tomador de notas con IA en casa

Contextos en los que los tomadores de notas con IA están (y no están) bien

• Muchos distinguen claramente entre:
  • Reuniones de negocios/técnicas: ampliamente consideradas apropiadas o incluso beneficiosas (actas, rendición de cuentas, memoria compartida, entrevistas, largas llamadas con clientes).
  • Atención sanitaria: muy controvertida; algunos la consideran un caso de uso ideal (instrucciones complejas, familia a distancia, padres mayores), otros dicen que socava la privacidad y la comodidad al revelar información sensible.
  • Conversaciones casuales/personales: la mayoría lo encuentra inquietante o “psicótico”, y se pregunta si siquiera es algo común.
• Algunos señalan que históricamente los médicos usaban escribas humanos o escribían notas después de las visitas; los escribas con IA cambian el flujo de trabajo y los incentivos.

Privacidad, regulación y confianza

• Gran preocupación: los datos van a empresas de terceros, a menudo basadas en la nube, con prácticas de privacidad opacas o engañosas.
• Comparación con secretarias humanas:
  • Función similar en la toma de notas, pero las secretarias son empleadas sujetas a contratos y, en el ámbito sanitario, a formación HIPAA.
  • Las herramientas de IA deben cumplir los mismos estándares de HIPAA/PII para ser aceptables, pero la mayoría de los productos comerciales no lo hacen.
  • Se considera ampliamente que las empresas tecnológicas han dilapidado la confianza pública en materia de privacidad.
• Algunos sostienen que los modelos locales/en el dispositivo mitigan las preocupaciones; otros dicen que el problema más profundo es normalizar la grabación constante.

Consentimiento y normas sociales

• Fuerte énfasis en el consentimiento afirmativo:
  • Grabar debe ser algo voluntario, no asumido; “no objetar” no es consentimiento.
  • La presión social hace difícil decir que no, especialmente en contextos médicos o con desequilibrios de poder.
• Disputa sobre el tono:
  • Algunos dicen que simplemente hay que rechazarlo educadamente y seguir adelante.
  • Otros se oponen a la grabación por defecto y a presentar a quienes objetan como luditas.

Calidad, precisión y flujo de trabajo

• Quienes lo defienden: los tomadores de notas con IA reducen la carga cognitiva, ayudan con problemas de TDAH/función ejecutiva, democratizan las secretarias, mejoran el enfoque en reuniones y aportan rendición de cuentas (“rebobinar la cinta”).
• Críticos: los resúmenes pueden ser sutilmente incorrectos, omitir información clínica clave o alucinar contenido; a menudo se transcriben mal términos importantes y nombres.
• Algunos clínicos consideran que tomar notas manualmente refuerza mejor la comprensión y la memoria que las notas generadas por IA.

Preocupaciones más amplias

• Miedo a la enshittification: que el área administrativa use IA para presionar a los médicos a ver a más pacientes con menor calidad.
• Preocupación de que los registros permanentes y buscables enfríen la conversación franca.
• Unos pocos están entusiasmados con asistentes omnipresentes (incluso durante citas o sexo), pero la mayoría reacciona negativamente a esa visión.