Le chatbot inventait de fausses promotions: la compagnie Air Canada condamnée à dédommager un client

Un chatbot automatisé servant à discuter avec les clients a inventé une fausse réduction de la part de la compagnie aérienne l'ayant installé.

A l'instar du transporteur DPD, c'est au tour de la compagnie aérienne Air Canada de se mordre les doigts après avoir mis en place un chatbot dont le comportement a fait promettre à un voyageur une réduction en raison de sa situation.

Pour mieux comprendre ce qu'il s'est passé, il faut remonter aux origines de l'affaire, racontées par le Washington Post. Il y a quelques années, alors que sa grand-mère vient de décéder, Jake Moffatt se décide à aller aux funérailles. Il se rend sur le site d'Air Canada pour réserver un vol. Il reçoit l'assistance d'un chatbot lui indiquant qu'en raison de cette tragédie, la compagnie peut lui proposant une réduction substantielle.

Pour ce faire, l'agent conversationnel - qui n'est pas opéré par un humain mais par un logiciel - lui indique qu'il faut se rapprocher d'Air Canada après son vol, dont le billet va coûter 600 dollars au passager. Mais une fois face à elle, il découvre qu'il ne peut pas bénéficier d'une réduction. La compagnie lui indiquant au passage que le chatbot était une entité juridique distincte "responsable de ses propres actions".

Air Canada condamné

Pour bien comprendre la situation, il faut savoir que certaines compagnies aériennes proposent bien des tarifs spéciaux ("Voyage pour urgence familiale") en cas de décès d'un proche, mais ils ne sont pas automatiques et nécessitent des justificatifs, tout en répondant à des critères bien précis.

Face au refus d'Air Canada, Jake Moffat se décide alors à déposer une réclamation auprès d'un tribunal canadien, qui a statué en sa faveur ce 14 février, obligeant Air Canada à lui régler 600 dollars de dommages et intérêts, incluant les frais de justice. L'entreprise n'a pas fait appel de cette décision.

Lors de l'audience, le voyageur avait indiqué qu'il n'aurait pas pris de billets s'il avait su qu'il fallait payer autant, ce que le tribunal a reconnu, mettant à mal l'argument de la compagnie selon lequel Jake Moffat aurait dû se renseigner davantage au sujet de cette fausse réduction: "Il n'y avait aucune raison pour que M. Moffat sache qu'une section du site internet d'Air Canada était exacte et qu'une autre ne l'était pas," a écrit le tribunal dans son jugement.

Le chatbot, lui, a été désactivé.

Sylvain Trinel