Ne zaman Pentagon dışında meydana gelen bir patlamanın yapay zeka tarafından oluşturulmuş görüntüsü Bu hafta başlarında sosyal medyada çoğalan bu rapor, AI araştırmacılarının yıllardır uyardığı bir dijital bilgi felaketinin kısa bir önizlemesini sağladı. Görüntü açıkça uydurmaydı, ancak bu, Rus devlet kontrolündeki RT ve Bloomberg haber taklitçisi @BloombergFeed gibi bazı önde gelen hesapları onunla çalışmaktan alıkoymadı. Yerel polisin, başka bir 911 tarzı saldırının başladığına inanan insanlardan çılgınca mesajlar aldığı bildirildi. Ardından gelen kaos borsada kısa bir şok dalgası yarattı.
Derin sahte Pentagon fiyaskosu birkaç saat içinde kendi kendine çözüldü, ancak çok daha kötü olabilirdi. Bu yılın başlarında, bazıları tarafından “” olarak anılan bilgisayar bilimcisi Geoffrey HintonAI’nın vaftiz babasıYapay zeka tarafından üretilen görüntülerin giderek daha ikna edici kalitesinin, ortalama bir insanı “kimsenin neyin doğru olduğunu bilememesine” yol açabileceğinden endişe duyduğunu söyledi.
Startup’lar ve yerleşik AI firmaları, bu gerçekliğin olmasını önlemek için yeni AI derin sahte algılama araçları geliştirmek için yarışıyor. Bu çabaların bazıları yıllardır devam ediyor, ancak OpenAI’ler tarafından üretken yapay zekanın ana akım bilince ani patlaması DALL-E Ve ChatGPT AI yanlışlıklarını kolayca tespit etmenin bir yolunu geliştirmek için artan bir aciliyet duygusuna ve daha büyük miktarlarda yatırıma yol açtı.
Algılama çözümleri bulmak için yarışan şirketler, bunu tüm içerik düzeylerinde yapıyor. Başlangıç Optic ve Intel’in FakeCatch gibi bazıları, yapay zekanın ses ve videolara katılımını araştırmaya odaklanırken, Fictitious.AI gibi diğerleri çabalarını daha doğrudan AI sohbet robotları tarafından oluşturulan metne odaklıyor. Bazı durumlarda, bu mevcut algılama sistemleri iyi performans gösteriyor gibi görünse de, eski Google Trust ve Güvenlik Lideri Arjun Narayan gibi teknoloji güvenliği uzmanları, araçların hâlâ yetişmeye çalıştığından korkuyor.
Narayan bir röportajda Gizmodo’ya “Güven ve güvenlik endüstrisinin sentetik medyaya karşı sentetik olmayan medyayı nasıl tespit ettiğimizi yakalaması gereken yer burasıdır” dedi. “Yapay zeka geliştikçe algılama teknolojisinin muhtemelen yetişeceğini düşünüyorum, ancak bu daha fazla yatırım ve daha fazla keşif gerektiren bir alan.”
Derin sahtekarlıkları tespit etme yarışına öncülük eden şirketlerden bazıları burada.