Saltar al contenido

Incidentes de IA: casos reales y controles para empresas

Qué ocurrió con el chatbot de Air Canada y las previsiones de Zillow Offers, y cómo revisar respuestas, límites y escalado en tu empresa.

Air Canada: un chatbot dio una indicación incorrecta sobre una tarifa

Según la resolución del Civil Resolution Tribunal de Columbia Británica, el chatbot indicó a un cliente que podía solicitar después del viaje una tarifa por duelo. La política publicada por la aerolínea decía que la solicitud debía hacerse antes. El tribunal concedió una compensación al cliente por la información facilitada.

Qué revisar. Prueba preguntas sobre devoluciones, tarifas especiales y excepciones. Compara cada respuesta con la política vigente. Si falta una fuente o hay versiones contradictorias, deriva la consulta a una persona y registra el motivo.

Leer la resolución Moffatt v. Air Canada (2024 BCCRT 149) · Ver la guía de supervisión humana

Zillow Offers: los errores de previsión afectaron al negocio

En 2021 Zillow anunció el cierre de Zillow Offers, su negocio de compra directa de viviendas. La empresa informó de errores en sus previsiones de precios en ambos sentidos y citó también problemas de capacidad y operación. El caso ilustra el riesgo de escalar decisiones de compra cuando las estimaciones se alejan de los resultados.

Qué revisar. Compara estimaciones con resultados por zona y periodo. Define cuánto error puede tolerar el negocio, quién revisa las desviaciones y en qué punto se reduce o suspende la automatización.

Leer la carta de Zillow a sus accionistas · Ver el recurso de monitorización

Caso ilustrativo: uso de una herramienta de IA sin autorización

Un equipo quiere resumir tickets de clientes con una herramienta que no figura en el inventario. Antes de usarla, debe identificar qué datos se compartirían, quién aprueba el caso y qué alternativa autorizada existe. Si ya se enviaron datos, el equipo responsable necesita conocer el alcance antes de decidir qué hacer.

Ver la plantilla de política de uso aceptable de IA

Una comprobación para esta semana

Elige un sistema que ya esté en uso. Registra qué decisión apoya, quién la supervisa, qué fallo justificaría interrumpir su uso y cómo avisar al responsable. Si ya se produjo un fallo, consulta la guía de respuesta a incidentes con IA.

Para preparar el siguiente piloto, consulta cómo introducir IA y proteger el empleo.