Yapay zeka ses üreteçleri, Kaliforniya’da yaşayan yaşlı bir adamı 25.000 dolarlık birikiminden mahrum bırakan asırlık bir dolandırıcılığı körüklemek için kullanılıyor. Soyadını açıklamayı reddeden Anthony olduğu belirtilen kişi, kaza geçirdiğini iddia eden ve hamile bir kadına çarparken acilen paraya ihtiyacı olan oğlundan bir telefon aldığını söylüyor. Kullanılan teknoloji o kadar hızlı gelişti ki Anthony telefondaki kişinin kendi oğlu olduğuna ikna oldu.

Anthony, oğlunun avukatı olduğunu iddia eden ve 9.200 dolarlık bir ödeme talep eden ikinci bir telefon aldı; bir dizi olay yaşlı adamın 25.000 dolar kaybetmesine neden oldu

Bütün olay, Anthony’ye oğlunun görünüşe göre bir kazaya karıştığı ve yukarıda adı geçen kadının hastaneye kaldırılması gerektiği konusunda bilgi verilmesiyle başladı. İlk aramanın ardından ikinci arama, Anthony’nin oğlunun avukatı Michael Roberts’tan geldi ve oğlunun kira kontratı için 9.200 dolar gerektiğini söyledi. Gerekli miktar ödenmediği takdirde oğlu 45 gün hapiste kalacaktı. Oğlunun gerçekten bir kazaya karışıp karışmadığını doğrulamak için Anthony onu aramayı denedi ama arama sesli mesaja gitmeye devam etti.

En kötüsünden korkan Anthony, bankaya koştu ve şüpheyi önlemek amacıyla finans kurumuna güneş paneli kurulumu için gerekli paranın gerekli olduğunu söyledi. Eve vardıktan sonra ABC7 haberleri, kızından Michael Roberts’ı aramasının istendiğini bildirdi. Karşı taraftaki kişi Uber aracılığıyla birinin gelip parayı alacağını söyledi. Fonlar bir Manila zarfına yerleştirildi ve bir Uber sürücüsüne teslim edildi.

Kısa bir süre sonra Anthony, başka bir avukat olan Mark Cohen adında birinden başka bir telefon aldı ve Anthony’nin oğlunun vurduğu hamile kadının yaralarına yenik düştüğünü ve bunun kefalet tutarının 15.800 ila 25.000 dolar arasında artmasına neden olduğunu söyledi. Tüm süreç tekrarlandı ve bittiğinde hem Anthony hem de kızı dolandırıldıklarını fark etti.

Buna kanmalarının en büyük nedeni, Anthony’nin yetkililere, görüşmedeki kişinin sesinin tam olarak oğluna benzediğini söylemesiydi. LAPD dedektifi Chelsea Saeger, bu tür dolandırıcılıkların yeni olmadığını ve yapay zeka destekli ses oluşturucuların dahil edilmesinin aile üyelerini bunlara karşı duyarlı hale getirdiğini söylüyor. Bu kişilere gönderilen çağrılar ve bildirimler de inanılmaz derecede gerçekçi görünüyor.

“Dolandırıcılar giderek daha akıllı ve sofistike hale geliyor. Bu son derece inandırıcı ve ikna edici hikayeleri yaratmak için sosyal medyayı ve teknolojiyi kullanıyorlar ve insanlar gerçekten de onların bir torunla veya bir hükümet yetkilisiyle konuştuğuna inanıyor.”

Anthony hikayeden utandığını söyledi ancak binlerce kişinin mesajı anlayacağını ve devam eden dolandırıcılıkların kurbanı olmayacağını kuvvetle umduğunu söyledi. Bir hatırlatma olarak, bu hain faaliyetlere ilişkin farkındalık geliştirilmelidir çünkü yapay zeka ses üreteçleri yalnızca zamanla gelişerek sahte ile gerçek arasındaki çizgiyi bulanıklaştıracaktır. Oğlu çağrıldıktan sonra yanıt vermediği için Anthony’nin baskı altında kalması ve mağdur olması anlaşılabilir bir durumdur, bu da diğer aile üyelerinin bu tür olaylara karşı dikkatli olmalarını önemli kılmaktadır.

Haber Kaynağı: ABC7

OpenAI, popüler GPT-4o modeli için ChatGPT’de bir “Sistem Kartı” yayınladı ve test sırasında ortaya çıkan güvenlik endişesi alanlarını özetledi. Bu endişelerden biri, insanların yapay zekayı ses modunda kullanırken duygusal olarak ona bağlanma riskidir.

Yapay Zeka laboratuvarı yazdı “Kullanıcıların yapay zeka ile sosyal ilişkiler kurabileceği, insan etkileşimine olan ihtiyaçlarını azaltabileceği, bunun yalnız bireylere fayda sağlayabileceği, ancak sağlıklı ilişkileri etkileyebileceği” belirtiliyor.