İnsanları ölümcül mantar yemeye teşvik etmek gibi yapay zekanın tüm hatalarına rağmen bazen iyi amaçlar için kullanılabilir. İngiltere’nin en büyük mobil ağ operatörü O2, telefon dolandırıcılarını dolambaçlı, sonuçsuz konuşmalara kışkırtmak için ses tabanlı bir yapay zeka sohbet robotu kullandı. İsminde PapatyaChatbot, telefon dolandırıcılarının en yaygın hedefi olan yaşlı bir kişinin sesini taklit ediyor.
Daisy’nin amacı “dolandırıcılığı” veya telefon dolandırıcılarının potansiyel gerçek kurbanlardan mümkün olduğunca uzun süre uzak tutmak için kasıtlı olarak zamanlarını boşa harcama uygulamasını otomatikleştirmektir. Dolandırıcılar, yaşlıların saflığından faydalanmak için sosyal mühendisliği kullanıyor; onları örneğin vergi borcunun olduğuna ve parayı hemen havale etmezlerse tutuklanacaklarına ikna ediyorlar.
Ancak bir dolandırıcı Daisy’yi telefonla aradığında, kendilerini sonuçta hiçbir yere varmayacak uzun bir konuşmanın içinde bulurlar. Dolandırıcının banka bilgileri gibi kişisel bilgileri isteyeceği noktaya ulaşırlarsa Daisy sahte bilgiler uyduracaktır. O2, dolandırıcıların potansiyel müşteriler için kullandığı “kolay hedef” listelerine Daisy’nin telefon numarasını ekleyerek dolandırıcılara ilk etapta ulaşabildiğini söylüyor.
Daisy’yi gösteren bir videoda, gerçek konuşmalardan alınan sesli alıntılar, dolandırıcıların giderek daha fazla sinirlendiğini, 40 dakikadan fazla bir süre telefonda tutulduğunu ve kredi kartı numarası veya banka bilgilerini alacaklarını umduklarını gösteriyor. O2’nin yaptığı yapay zeka modeli oldukça ikna edici görünüyor; tüm işlemleri gerçek zamanlı olarak yapıyor, ancak şükürler olsun ki yaşlılar oldukça yavaş konuşmaya eğilimli olduğundan bu daha kolay hale geldi.
Elbette Daisy gibi bir sohbet robotunun endişesi, aynı teknolojinin farklı amaçlar için kullanılabilmesidir; büyük şirketlerin CEO’ları gibi gerçek insanların, başkalarını para göndermeleri için kandırmak amacıyla seslerinin derin sahte hale getirildiği örnekleri zaten gördük. bir dolandırıcıya. Yaşlılar zaten yeterince savunmasız durumda. Torun gibi konuşan birinden telefon alırlarsa bunun gerçek olduğuna neredeyse kesin olarak inanırlar.
Sonuçta sahte aramaları engellemek ve bu dolandırıcılıkları yürüten kuruluşları kapatmak ideal çözüm olacaktır. Operatörler dolandırıcıları tespit etme ve numaralarını engelleme konusunda daha iyi hale geldi, ancak bu bir kedi-fare oyunu olmaya devam ediyor. Dolandırıcılar, numaraları art arda hızlı bir şekilde çevirmelerine olanak tanıyan otomatik arama araçlarından yararlanır ve araç tarafından yalnızca yanıt alındığında uyarılır. Dolandırıcılara yanıt vererek ve zamanlarını boşa harcayarak sinirlerini bozan bir yapay zeka botu, hiç yoktan iyidir.
