Responsabilidad de los chatbots: ¿quién paga sus promesas?

El caso del chatbot de Air Canada

En 2022, un viajero le preguntó al chatbot del sitio web de Air Canada por las tarifas por duelo tras una muerte en su familia. El bot le dijo que podía comprar un boleto a precio completo y pedir la tarifa reducida después. La política real de la aerolínea no lo permitía, y la aerolínea rechazó el reembolso.

En febrero de 2024, el Civil Resolution Tribunal (tribunal de resolución civil) de Columbia Británica resolvió el caso Moffatt v. Air Canada (en inglés) a favor del cliente. La aerolínea argumentó que el chatbot era responsable de sus propias palabras; el tribunal lo rechazó, consideró a la aerolínea responsable de toda la información de su sitio web y le ordenó pagar la diferencia.

Por qué la respuesta de un chatbot es un problema de su empresa

Los clientes ven el chatbot como parte de su negocio. Está en su sitio web, lleva su marca y responde preguntas sobre sus políticas, así que es razonable que la gente tome lo que dice como algo que viene de usted.

El proveedor del software tampoco suele ser quien trata con el cliente. Usted decidió poner el bot en su sitio y decidió qué puede leer, qué responde y cuándo pasa el caso a una persona. Un contrato con el proveedor puede importar entre las dos empresas, pero no cambia en quién confió el cliente. Trate al bot como a un empleado nuevo de recepción del que usted es responsable.

Las respuestas del chatbot que crean más riesgo

Un horario equivocado de la tienda es una molestia. Las respuestas que afectan el dinero, los derechos, la seguridad o la decisión de compra de un cliente son donde crece la responsabilidad de los chatbots para las empresas:

Precios: descuentos, cargos, costos de suscripción o precios de mejora que no coinciden con el pago final.
Reembolsos: plazos, derechos de cancelación y cargos de reposición más amplios que su política escrita.
Garantías: una cobertura que la garantía oficial no incluye.
Preguntas legales o médicas: cualquier cosa que suene a asesoría legal, a un diagnóstico o a una autorización de seguridad.
Promesas de entrega: "garantizado para el viernes" cuando la fecha real es la semana siguiente.

Cómo evitar que un chatbot haga promesas que usted no puede cumplir

Que responda solo con contenido aprobado: políticas publicadas, artículos de ayuda, condiciones de garantía y reglas de envío, no conocimiento general de internet.
Que muestre la fuente: enlace a la página de la política detrás de cada respuesta para que clientes y personal puedan comprobarla.
Que diga "no lo sé": cuando el contenido aprobado no cubre una pregunta, el bot debe decirlo y ofrecer a una persona, no adivinar. Nuestra guía sobre las alucinaciones de la IA explica por qué los bots inventan cosas.
Que pase el caso a una persona: las excepciones de reembolso, las decisiones de garantía, las preguntas legales o médicas, las compras grandes y los clientes molestos van a personal capacitado.
Guarde registros: registre las conversaciones para ver exactamente qué dijo el bot si llega una queja.
Revise con regularidad: lea las transcripciones con un calendario fijo, empezando por precios, reembolsos y quejas.
Mantenga las condiciones alineadas: el bot, las páginas de políticas, el proceso de pago y los correos de confirmación deben decir lo mismo.

Lista de verificación para la gobernanza del chatbot

Nombre a una persona responsable de la exactitud del chatbot.
Haga una lista de los temas que el bot puede responder y de los que debe rechazar.
Apruebe el contenido que puede usar.
Antes del lanzamiento, pruebe preguntas sobre precios, reembolsos, garantías, entregas, temas legales y médicos, incluidas las que debería rechazar.
Fije criterios claros para pasar el caso a una persona.
Revise los registros con un calendario fijo y después de cada queja.
Actualice el bot cada vez que cambien las políticas, las promociones, los productos o las reglas de envío.
Pause o limite el bot si empieza a dar respuestas poco confiables.

¿Hacen falta nuevas leyes de IA para ser responsable?

No. La decisión sobre Air Canada se basó en la figura común de la declaración falsa por negligencia, no en una ley específica de IA. En Estados Unidos, las normas de protección al consumidor, de contratos y de publicidad ya se aplican a lo que su sitio web les dice a los clientes, y algunos estados agregan reglas sobre la divulgación del uso de IA. Las normas varían según el estado y el país, así que consulte con un abogado para su situación; esta guía no es asesoría legal.

Una prueba útil: si no dejaría que un empleado nuevo prometiera un reembolso, cambiara una garantía o garantizara una entrega sin supervisión, tampoco deje que lo haga el chatbot. Si los clientes deben saber que están hablando con un bot, nuestra guía para informar a los clientes sobre el uso de IA explica cómo redactarlo.

Los chatbots siguen valiendo la pena

Un chatbot bien llevado responde preguntas de rutina a cualquier hora, acorta las esperas y libera al personal para los casos complejos. El problema no es la automatización; es la automatización sin supervisión que hace promesas que nadie aprobó.

Empiece con preguntas de bajo riesgo, como horarios, indicaciones sobre el estado de un pedido, navegación por los productos y enlaces a las políticas publicadas. Amplíelo solo cuando pueda demostrar que el bot es exacto, que está supervisado y que es fácil corregirlo.

Dónde encaja ASL

Viavitna es nuestra base de conocimiento con IA para preguntas de clientes. Responde solo con el contenido que usted aprueba, cita sus fuentes y se niega cuando su contenido no cubre una pregunta, que es el comportamiento que recomienda esta guía. Nuestra guía sobre la base de conocimiento con IA explica cómo configurar una, o contáctenos para revisar los temas riesgosos de su chatbot.

Preguntas frecuentes

¿Un negocio es responsable de lo que dice su chatbot?

A menudo, sí. En Moffatt v. Air Canada, un tribunal consideró a la aerolínea responsable de la respuesta equivocada de su chatbot sobre las tarifas por duelo. Las normas varían según el lugar, así que busque asesoría legal para su situación.

¿Podemos culpar al proveedor del chatbot?

Los clientes confiaron en su sitio web, así que acudirán a usted. Un contrato con el proveedor puede importar entre su empresa y el proveedor, pero por lo general no cambia su responsabilidad ante el cliente.

¿Cómo evitamos que un chatbot invente respuestas?

Limítelo al contenido aprobado, exíjale que cite fuentes, haga que diga que no sabe cuando falta contenido, pase los temas riesgosos a una persona y revise los registros con regularidad.

¿Qué temas del chatbot son los más riesgosos?

Precios, reembolsos, garantías, promesas de entrega y todo lo que suene a asesoría legal o médica, porque los clientes gastan dinero o toman decisiones con base en esas respuestas.

¿Debemos dejar de usar un chatbot?

No necesariamente. Empiece con preguntas de bajo riesgo, manténgalo ligado al contenido aprobado y con traspaso a una persona, y amplíelo solo cuando las revisiones muestren que es exacto.

Guías relacionadas

Conozca el producto completo

Consulte funciones, acceso actual y límites

Cuando su chatbot hace una promesa, ¿quién paga?