İş söz konusu olduğunda bir yapay zeka sohbet robotuna güvenebilir miyiz? Havayolu Air Canada, web sitesinde müşteri sorularını yanıtlamak için bir sohbet robotu hizmeti sunmayı uygun gördü. Kasım 2022’de müşterilerinden biri, seyahatte indirim elde etmesine olanak tanıyan şartlar ve koşulları öğrenmek istedi.
Chatbot’u sorgulayarak, normal fiyatla bir yer satın aldıktan ve ardından 90 gün içinde şirkete e-posta yoluyla talepte bulunduktan sonra bu indirimi geriye dönük olarak elde etmenin mümkün olduğuna dair güvence verdi. Bu nedenle müşteri, indirimin uygulanmasıyla daha sonra yaklaşık 760 Kanada dolarının geri ödeneceğini umarak Vancouver ve Toronto arasındaki gidiş-dönüş için toplam 1.639 Kanada doları ödedi.
Ne yazık ki şirket, chatbot tarafından verilen bilgilerin yanlış olduğunu açıklayarak kendisine bu geri ödemeyi yapmayı reddetti. Bu nedenle ilişki devam etti adaletsizlikMüşteri, şirketten talep ettiği tutarı geri almak için Air Canada’ya dava açtı.
En güvenilir kim?
Ars Technica’nın bildirdiği gibi, Kanadalı hakimler geçen hafta onun lehine karar vererek havayolunun kendisine 812 dolar tutarında tazminat ödemesine hükmetti.
Havayolu, chatbot programı tarafından iletilen bilgilerin şirketin web sitesinde görüntülenen bilgiler kadar güvenilir olmadığı iddiasını öne sürmeye çalışıyordu. Ve sonuç olarak müşterinin, göründüğü gibi sunulan tavsiyeyi almak yerine, chatbot tarafından belirtilen sayfaya başvurması gerekirdi.
Yalancı sohbet robotu
Kanadalı yargıç bu yorumu kabul etmedi. Kendisi şöyle açıklıyor: “Air Canada, chatbot’u tarafından sağlanan bilgilerin doğru olduğundan emin olmak için yeterli özeni göstermedi.”
Benzer şekilde hakim, şirketin, indirimlere ilişkin web sayfasında sunulan bilgilerin, doğası gereği, chatbot tarafından sunulan bilgilerden daha güvenilir olduğunu açıklamadığını düşünüyor.
Bu nedenle Air Canada, memnun olmayan müşterinin talep ettiği tutarı geri ödemek zorunda kalacak. Ars Technica’nın belirttiği gibi, havayolu o zamandan beri sitede chatbot hizmetlerini sunmayı bırakmış gibi görünüyor.
AI evet, ama ne pahasına?
Ve hiç şüphe yok ki bu karar, bu araçların tasarımcılarını müşterilere sundukları yanıtlara dikkatli bir şekilde dikkat etmeye zorlayacak: birçok sohbet robotu, yanıtlarında hata yapması muhtemel araçlar olan büyük dil modeli (LLM) teknolojilerini giderek daha fazla kullanıyor.
Mart 2023 tarihli bir makaledeAir Canada şirketinin CIO’su, müşteri desteği açısından şirket çalışanlarının ve yüklenicilerinin iş yükünü hafifletmek amacıyla yapay zeka teknolojilerine dayalı sesli sohbet robotlarıyla çeşitli deneyler başlattığını açıkladı.
Bu araçların piyasaya sürülmesi daha sonra 2023 yazında planlandı.