20 Ocak, Scottsdale, Arizona’da ikamet eden Jennifer DeStefano için en tipik Cuma öğleden sonraları gibi başladı. İki çocuk annesi, en küçük kızını dans antrenmanından yeni almışken, bilinmeyen bir numaradan bir telefon geldi. Numaranın neredeyse sesli mesaja gitmesine izin verecekti ama son çalışında açmaya karar verdi. DeStefano, önümüzdeki birkaç dakika içinde olanların muhtemelen hayatının geri kalanında peşini bırakmayacağını söylüyor. Henüz bilmiyordu ama Arizona’da ikamet eden kişi, hızla yükselen trendde önemli bir figür olmak üzereydi. AI deepfake adam kaçırma dolandırıcılığı.
DeStefano, bir Senato Yargı Komitesi sırasında yaşadığı deneyimi sürükleyici ayrıntılarla anlattı işitme Salı, üretken yapay zekanın insan hakları üzerindeki gerçek dünyadaki etkilerini tartışıyor. Aramanın diğer ucundaki ağlayan sesin, babasıyla kayak gezisine çıkan 15 yaşındaki kızı Brie ile neredeyse aynı olduğunu hatırlıyor.
“Anne, her şeyi batırdım,” dedi ses, hıçkırıklar arasında. “Anne bu kötü adamlar bana sahip, yardım et, yardım et.”
Aramada aniden bir erkek sesi belirdi ve Brie’nin sağ salim dönüşü için elden teslim edilen 1 milyon dolarlık bir fidye talep etti. Adam, DeStefano’yu yardım çağırmaması için tehdit etti ve genç kızını uyuşturacağını, “onunla istediğini yapacağını” ve polisi ararsa onu öldüreceğini söyledi. Brie’nin küçük kız kardeşi tüm bunları hoparlörden duydu. Bunların hiçbiri, doğru olmadığı ortaya çıktı. “Brie’nin” sesi aslında bir Yapay zeka tarafından oluşturulan derin sahte. Kaçıran kişi, kolay para kazanmak isteyen bir dolandırıcıydı.
DeStefano, gözyaşlarını bastırmaya çalışarak, “O sesi ve çaresiz yardım çığlıklarını asla aklımdan atamayacağım,” dedi. “Çocuğunun zarar gördüğünü ve çaresiz olduğunu bildiği halde korku ve acı içinde yalvardığını duymak, her ebeveynin en kötü kabusudur.”
Annenin hikayesi, hem rahatsız edici yeni yapay zeka istismarı alanlarına hem de kötü aktörleri sorumlu tutmak için gereken büyük bir yasa eksikliğine işaret ediyor. DeStefano, deepfake dolandırıcılığı hakkında polisle iletişime geçtiğinde, kolluk kuvvetlerinin ortaya çıkan sorundan zaten haberdar olduğunu öğrenince şok oldu. Yaşananların yarattığı travma ve dehşete rağmen, polis bunun bir “çağrı”dan başka bir şey olmadığını, çünkü gerçek bir suç işlenmediğini ve hiç para alışverişinde bulunulmadığını söyledi.
Olayın ardından “korkudan felç geçirerek” geceleri uyumadığını söyleyen DeStefano, topluluğundaki diğer kişilerin de benzer türden dolandırıcılıklardan muzdarip olduğunu çabucak keşfetti. DeStefano’nun ifadesine göre kendi annesi, erkek kardeşinin sesine benzeyen bir sesten onun bir kaza geçirdiğini ve hastane faturası için paraya ihtiyacı olduğunu söyleyen bir telefon aldığını söyledi. DeStefano, milletvekillerine, kısmen bu tür dolandırıcılıkların artmasının paylaşılan fikri veya gerçekliğin kendisini tehdit etmesinden korktuğu için bu hafta DC’ye gittiğini söylediğini söyledi.
DeStefano, “Artık görmenin inanmak olduğuna veya ‘Kendi kulaklarımla duydum’ olduğuna güvenemeyiz” dedi. “Yapay zekanın etkinleştirebileceği şeytani derinliğin sınırı yok.”
Uzmanlar yapay zekanın toplu gerçeği karıştırdığı konusunda uyarıyor
Yargı Komitesi’nin insan hakları ve hukuk alt komitesi önünde konuşan bir bilirkişi heyeti, DeStefano’nun endişelerini paylaştı ve milletvekillerini yeni AI mevzuatından fayda sağlayacağına inandıkları alanlara yönlendirdi. Seçkin bir bilgisayar bilimi profesörü ve MIT Dağıtılabilir Makine Öğrenimi Merkezi’nin direktörü Aleksander Madry, OpenAI’nin öncülüğünü yaptığı yapay zekadaki son gelişmeler dalgasını söyledi. ChatGPT Ve DALL-E “kolektif duyu oluşturmamızı temelden dönüştürmeye hazırlar.” Dolandırıcılar artık gerçekçi, inandırıcı, kişiselleştirilmiş ve tamamen sahte olsa bile geniş ölçekte konuşlandırılabilir içerik oluşturabilir. Madry, bunun dolandırıcılık için çok büyük suistimal alanları yarattığını, ancak aynı zamanda paylaşılan gerçekliğe olan genel güveni de tehdit ettiğini söyledi.
Demokrasi ve Teknoloji Merkezi CEO’su Alexandra Reeve Givens bu endişeleri paylaştı ve milletvekillerine DeStefano’ya karşı kullanılan türden derin sahtekarlıkların zaten açık olduğunu ve yaklaşan ABD seçimleri için tehlikeler sunduğunu söyledi. Twitter kullanıcıları, bu ayın başlarında, yapay zeka tarafından oluşturulan bir Pentagon’un dışında patlayan sözde bomba çekiş kazandı. Yazar ve Amerikan İnovasyon Vakfı Kıdemli Üyesi Geoffrey Cain çalışmalarını söyledi Çin’in gelişmiş AI sistemlerini kullanmasını kapsayan Uygur Müslüman azınlığını gözetlemek, bu sistemlerin aşırı uçta yarattığı totaliter tehlikelere bir bakış sundu. Tanıklar toplu olarak, ABD’nin benzer bir yol izlemesini önlemek için “sağlam güvenlik standartlarını” yürürlüğe koymak için zamanın geçtiğini söylediler.
“Yeni normalimiz bu mu?” DeStefano komiteye sordu.
Milletvekilleri mevcut yasaları destekleyebilir ve derin sahte algılamayı teşvik edebilir
Duruşma sırasında konuşan Tennessee Senatörü Marsha Blackburn, DeStefano’nun hikayesinin, takip ve tacizi düzenleyen mevcut yasaların çevrimiçi dijital alanlara da uygulanacak şekilde genişletilmesi gerektiğini kanıtladığını söyledi. Reeve Givens benzer şekilde Kongre’ye AI algoritmalarını hesaba katmak için ayrımcılık ve dolandırıcılık gibi konularda mevcut yasaları destekleme yollarını araştırmasını tavsiye etti. Teknoloji şirketlerine karşı tüketici güvenliği uygulama eylemlerine öncülük eden Federal Ticaret Komisyonu, geçtiğimiz günlerde aynı zamanda şu konulara da baktığını söyledi: AI dolandırıcılarını sorumlu tutmanın yolları Kitapta zaten var olan yasaları kullanarak.
Reeve Givens ve Madry, yasal reformların dışında, Kongre’nin özel şirketleri daha iyi derin sahte algılama yetenekleri geliştirmeye teşvik edecek adımlar atabileceğini ve atması gerektiğini söyledi. Hiçbir eksiklik yokken yapay zeka tarafından oluşturulan içeriği tespit ettiğini iddia eden hizmetler sunan şirketler, Madry bunu, saldırganların her zaman birkaç adım önde olduğu bir “kedi fare” oyunu olarak tanımladı. AI geliştiricilerinin, AI modelleri tarafından herhangi bir içerik üretildiğinde ifşa etmek için filigran sistemleri geliştirerek riski azaltmada rol oynayabileceğini söyledi. Reeve Givens, kolluk kuvvetlerinin, DeStefano’nunki gibi vakalara yanıt verebilmeleri için yapay zeka tespit yetenekleriyle iyi bir şekilde donatılması gerektiğini belirtti.’
DeStefanos, yapay zeka araçlarının ellerinde “korkutucu ve kalıcı bir travma” yaşadıktan sonra bile, iyi yönetilen üretken yapay zeka modellerinin potansiyel olumlu yönleri konusunda iyimserliğini dile getirdi.
DeStefano’s, “Benim ve kızımın başına gelenler yapay zekanın trajik yanıydı, ancak yapay zekanın hayatı iyileştirme yolunda da umut verici ilerlemeler var” dedi.