Air Canada es responsable del error del chatbot: tribunal de B.C.
Un tribunal de pequeñas reclamaciones de Columbia Británica ha dictaminado que Air Canada es responsable de la información incorrecta que su chatbot web dio sobre reembolsos por tarifas de duelo, rechazando el argumento de la aerolínea de que el bot era una “entidad jurídica separada” responsable de sus propios actos. Los comentaristas ven el fallo como un precedente importante de que las empresas siguen siendo responsables de lo que sus sistemas automatizados dicen a los clientes, usen o no LLM modernos. El caso alimenta preocupaciones más amplias sobre aerolíneas y otras empresas que sustituyen el soporte humano por herramientas de IA poco fiables, los límites de las cláusulas de exención de responsabilidad y la probabilidad de futuras demandas por políticas u ofertas “alucinadas”.
Responsabilidad y razonamiento jurídico
- Existe amplio acuerdo en que la decisión del tribunal es “obvia”: todo lo que aparece en el sitio de Air Canada, incluido el chatbot, es responsabilidad de la aerolínea.
- Muchos destacan el rechazo del tribunal al argumento de Air Canada de que el bot era una “entidad jurídica separada” como algo a la vez absurdo e importante.
- Varios señalan el concepto jurídico de “autoridad aparente”: si un cliente razonable podría pensar que un agente de la empresa (humano o bot) puede hablar en nombre de la empresa, la empresa queda vinculada por las promesas razonables.
- Se hace una distinción entre ofertas plausibles (ventana de reembolso por duelo) y las claramente absurdas (por ejemplo, “vuelos gratis de por vida” o promesas de “mil millones de dólares”), que probablemente los tribunales rechazarían.
Implicaciones para la IA y los chatbots
- Muchos ven esto como un precedente temprano de que las salidas de la IA no eximen a las empresas de responsabilidad; la IA se trata como cualquier otro canal de soporte.
- Debate sobre si esto frenará el despliegue de soporte basado en LLM:
- Un lado dice que la responsabilidad + las alucinaciones los convertirán en “responsabilidades enormes” y, en la práctica, prohibirán usarlos como sustitutos reales del servicio al cliente.
- Otros sostienen que el riesgo de alucinación puede gestionarse con barreras de seguridad, RAG o limitando la autoridad, y que los representantes humanos también se equivocan.
- Hay desacuerdo sobre el tamaño del modelo: algunos culpan a “LLM pequeños/baratos”, otros dicen que las alucinaciones son fundamentales y no se arreglan con más escala.
- Varios enfatizan que los sistemas simples de búsqueda/FAQ serían más seguros y baratos que el chat generativo para este caso de uso.
Comportamiento corporativo y atención al cliente
- Sorprende que Air Canada litigara por unos ~CAD 600–800 en lugar de cumplir en silencio con la promesa; se especula que querían evitar un precedente o simplemente gestionaron mal la escalada.
- Se observa un patrón en otros casos CRT donde Air Canada responde mínimamente o tarde, lo que sugiere que no toma en serio al tribunal.
- Fuerte crítica a las aerolíneas (especialmente Air Canada) por su mal servicio, políticas agresivas y uso de automatización para reducir personal mientras eluden la responsabilidad.
Política de duelo y ética
- Algunos califican la política subyacente de inhumana: exigir reclamar de inmediato en lugar de ofrecer un período de gracia explota a personas en situación de duelo.
- Se señala la ironía de que la respuesta incorrecta del bot (permitiendo la reclamación retrospectiva) fuera más humana que la política real.
Sistema de pequeñas reclamaciones / CRT
- Varios comentaristas elogian el Civil Resolution Tribunal de B.C. como accesible, barato y eficaz, con presentación en línea y decisiones publicadas.
- Se considera un contrapeso importante para los individuos frente a las grandes empresas, especialmente cuando las cantidades son pequeñas pero los principios importan.
Preocupaciones más amplias sobre IA, Términos de Servicio e “integridad algorítmica”
- Preocupa que las empresas añadan avisos legales amplios o EULAs para desvincularse de las salidas del chatbot; otros señalan que los tribunales a menudo no permitirán que los Términos de Servicio anulen el sentido común.
- Se piden normas más fuertes de “integridad algorítmica” para que las empresas no puedan ocultar automatización perjudicial o malas políticas detrás de “el algoritmo lo hizo”.