Dünya oluyor AI tarafından oluşturulan deepfake’ler tarafından parçalandıve onları durdurmaya yönelik son yarım yamalak girişimler hiçbir işe yaramıyor. Federal düzenleyiciler Yasa dışı deepfake otomatik aramalar perşembe günleri olduğu gibi New Hampshire ön seçimlerinde Başkan Biden’ın kimliğine bürünmek. Bu sırada, OpenAI ve Google filigranları yayınladı bu hafta görüntüleri yapay zeka tarafından oluşturulmuş olarak etiketlemek için. Ancak bu önlemler, AI deepfake’lerini durdurmak için gerekli olan dişlerden yoksundur.
ElevenLabs’ın sahte Biden otomatik çağrısını oluşturmak için kullanılan hizmet olduğunu belirten Pindrop CEO’su Vijay Balasubramaniyan, “Onlar burada kalıcı olacak” dedi. “Deepfake tespit teknolojilerinin kaynakta, iletim noktasında ve hedefte benimsenmesi gerekiyor. Bunun sadece genel olarak gerçekleşmesi gerekiyor.
Deepfake Önleme Çabaları Sadece Yüzeyseldir
Balasubramaniyan’a göre Federal İletişim Komisyonu’nun (FCC) derin sahte otomatik aramaları yasaklaması doğru yönde atılmış bir adım, ancak bunun nasıl uygulanacağına dair çok az açıklama var. Şu anda biz hasar verildikten sonra deepfake’leri yakalamakve sorumlu kötü aktörleri nadiren cezalandırıyor. Bu çok yavaş ve aslında eldeki sorunu çözmüyor.
OpenAI, bu hafta Dall-E’nin görüntülerine hem görsel olarak hem de fotoğrafın meta verilerine gömülü olarak filigranlar ekledi. Ancak şirket aynı anda ekran görüntüsü alarak bunun kolayca önlenebileceğini kabul etti. Bu bir çözümden ziyade şirketin “Ah, en azından denedik!” demesine benziyordu.
Bu arada, Hong Kong’daki bir finans çalışanının patronunun derin sahtekarlıkları 25 milyon doları kandırdı. Deepfake teknolojisinin gerçeklik çizgilerini nasıl bulanıklaştırdığını gösteren şok edici bir olaydı.
Deepfake Sorunu Daha da Kötüleşecek
Bu çözümler kesinlikle yeterli değil. Sorun, deepfake tespit teknolojisinin yeni olması ve üretken yapay zeka kadar hızlı bir şekilde benimsenmemesidir. Meta, X gibi platformların ve hatta telefon şirketinizin bile deepfake tespitini benimsemesi gerekiyor. Bu şirketler tüm yeni yapay zeka özellikleriyle manşetlere çıkıyor, peki ya yapay zeka algılama özellikleri?
Facebook’ta deepfake bir video izliyorsanız bu konuda bir uyarı almaları gerekir. Derin sahte bir telefon görüşmesi alıyorsanız, servis sağlayıcınızın bunu yakalayacak bir yazılımı olması gerekir. Bu şirketler ellerini havaya kaldıramıyorlar ama kesinlikle yapmaya çalışıyorlar.
Deepfake tespit teknolojisinin de çok daha iyi hale gelmesi ve çok daha yaygın hale gelmesi gerekiyor. CopyLeaks CEO’su Alon Yamin’e göre şu anda deepfake tespiti hiçbir şey için %100 doğru değil. Şirketi, yapay zeka tarafından oluşturulan metni tespit etmek için en iyi araçlardan birine sahip ancak yapay zeka konuşmasını ve videosunu tespit etmek tamamen başka bir zorluk. Deepfake tespiti, üretken yapay zekanın gerisinde kalıyor ve hızlı bir şekilde artması gerekiyor.
Deepfake’ler gerçekten yeni yanlış bilgi, ama çok daha ikna edici. Teknolojinin ve düzenleyicilerin bu soruna çözüm bulacağına dair bazı umutlar var, ancak uzmanlar deepfake’lerin iyileşmeden önce daha da kötüleşeceği konusunda hemfikir.