Kanada’da bir mahkeme, Air Canada’nın müşteri hizmetleri chatbot’u tarafından verilen yanıltıcı tavsiye nedeniyle yolcularından birine tazminat ödemesi gerektiğine karar verdi; bu da yolcunun uçak biletlerinin neredeyse iki katını ödemesine neden oldu.
Dava deneyime odaklı Büyükannesi 2022’de öldükten sonra Vancouver’dan Toronto’ya gidiş-dönüş uçan Jake Moffatt’ın hikayesi. O sırada Moffatt, şirketin vefat oranlarını kullanarak bir uçuş rezervasyonu yapmak için Air Canada’nın web sitesini ziyaret etti. Mahkeme belgelerine göre Moffatt, Air Canada’nın destek chatbotuna özellikle ölüm oranlarını sordu ve aşağıdaki yanıtı aldı:
“Air Canada teklifleri azaldı vefat ücretleri yaklaşan bir ölüm veya yakın ailenizin ölümü nedeniyle seyahat etmeniz gerekiyorsa, “dedi sohbet robotu, havayolunun politikasına altı çizili bir köprü de dahil ederek. “Hemen seyahat etmeniz gerekiyorsa veya zaten seyahat ettiyseniz ve biletinizi indirimli bir ölüm oranıyla sunmak istiyorsanız, lütfen bunu biletinizin düzenlendiği tarihten itibaren 90 gün içinde Bilet İadesi Başvuru formumuzu doldurarak yapın.”
Moffatt, chatbot’un sağladığı bağlantıyı ziyaret etmedi ve chatbot’un söylediğinin aksine müşterilerin seyahatlerini tamamladıktan sonra ölüm oranlarına başvuramayacaklarını belirtti.
Chatbot ile konuştuğu gün Moffatt, olası uçuş indirimi miktarı hakkında daha fazla bilgi almak için Air Canada’yı aradı. Kendisi, bir insan müşteri hizmetleri temsilcisinin kendisine uçuş başına yaklaşık 440 Kanada doları (326 ABD doları) tutarında bir indirim alacağını söylediğini ancak indirimin geriye dönük olarak uygulanamayacağının kendisine söylenmediğini iddia ediyor. Moffatt, sohbet robotundan ve insan müşteri hizmetleri temsilcisinden gelen bilgilere dayanarak uçuş rezervasyonlarını yaptı.
Birkaç gün sonra Moffatt, uçuşları için ödediği toplam 1.630 Kanada dolarının (1.210 ABD doları) kısmi iadesi için başvuruda bulundu. Havayoluyla haftalarca tartıştıktan sonra Moffatt, Şubat 2023’te Air Canada’ya sohbet robotunun yanıtının ekran görüntüsünü gönderdi. Buna yanıt olarak müşteri hizmetleri temsilcisi, ona sohbet robotunun tavsiyesinin “yanıltıcı” olduğunu söyledi ve konuyu dikkate alacaklarını söyledi. Air Canada sohbet robotunu güncelleyebilir.
Moffatt’ın Air Canada ile ileri geri çekişmesi devam etti ve sonunda, Britanya Kolumbiyası kamu adalet sisteminde küçük iddialar gibi medeni hukuk anlaşmazlıklarıyla ilgilenen yarı yargısal bir mahkeme olan CRT olarak da bilinen Sivil Çözüm Mahkemesi’nde sona erdi. Davada Moffatt kendisini temsil ederken, Air Canada bir çalışan tarafından temsil edildi.
Air Canada savunmasında Moffatt’ın tüm iddialarını reddetti ve görevlileri, acenteleri, temsilcileri veya sohbet robotları tarafından sağlanan bilgilerden sorumlu tutulamayacağını söyledi; bu, Mahkeme üyesi Christopher C. Rivers’ı şaşırtan bir iddiaydı. Bu hafta yayınlanan bir kararda Rivers, Air Canada’nın chatbotunun “kendi eylemlerinden sorumlu ayrı bir tüzel kişilik” olduğu yönündeki önerisinin hiçbir anlam ifade etmediğini söyledi.
Mahkeme üyesi Christopher C. Rivers, “Chatbot’un etkileşimli bir bileşeni olsa da Air Canada’nın web sitesinin yalnızca bir parçası” diye yazdı. “Air Canada için web sitesindeki tüm bilgilerden kendisinin sorumlu olduğu açık olmalıdır. Bilginin statik bir sayfadan mı yoksa bir sohbet robotundan mı geldiği hiç fark etmez.”
Rivers, Air Canada’nın sohbet robotunun doğru olduğundan emin olmak için makul özen göstermediğini de sözlerine ekledi. Ayrıca müşterilerin web sitesinin bir bölümünde, yani chatbot’ta bulunan bilgileri web sitesinin başka bir bölümünde neden tekrar kontrol etmesi gerektiğini de açıklamadı. Sonunda Rivers, Air Canada’ya Moffatt’a neredeyse bir buçuk yıl boyunca uğraştığı para iadesini ödemesini emretti.
Sonuçta hikaye, büyük şirketlere “bunu ben değil, chatbot’um yaptı” gibi hataların mahkemede işe yaramayacağını gösteriyor.