RSA KONFERANSI 2024 – San Francisco – Herkes derin sahtekarlıklardan bahsediyor, ancak bugün dolaşımda olan yapay zeka tarafından üretilen sentetik medyanın çoğunluğu, gelmek üzere olanın karmaşıklığı ve hacmiyle karşılaştırıldığında ilginç görünecek.
Kevin MandiaGoogle Cloud Mandiant’ın CEO’su, yeni nesil daha gerçekçi ve ikna edici deepfake ses ve videonun yapay zeka teknolojisiyle seri üretimine geçmesinin muhtemelen birkaç ay süreceğini söylüyor. “Sanmıyorum [deepfake content] Mandia, Dark Reading ile yaptığı bir röportajda, “şimdiye kadar yeterince iyiydik” dedi. “İnsanların kalpleri ve zihinleri üzerinde gerçekten kitlesel bir manipülasyonun olduğu sentetik medyanın fırtınasının hemen önündeyiz.”
Seçim yılı da elbette önemli. beklenen patlama deepfake’lerde. Göreceli olarak iyi haber şu ki, bugüne kadar çoğu ses ve video deepfake’inin mevcut tespit araçları veya bilgili insanlar tarafından tespit edilmesi oldukça basit olmuştur. Sesli kimlik güvenliği sağlayıcısı Pindrop, çoğu sahte ses klibini tespit edip durdurabildiğini ve birçok yapay zeka görüntü oluşturma aracının, gerçekçi görünümlü insan eli (örneğin bazıları dokuz parmaklı eller) oluşturmakta başarısız olduğunu söylüyor. görüntü.
Sentetik medyayı tespit eden güvenlik araçları, yapay zeka tarafından oluşturulan medyayı tespit eden bir girişim olan Reality Defender’ın da aralarında bulunduğu, sektöre yeni yeni giriyor. 2024 Yılının En Yenilikçi Startup’ı bu hafta RSA Konferansı İnovasyon Sandbox yarışmasında buradayız.
Kaynak: Mandiant/Google Cloud
Yapay zeka tarafından oluşturulan Real Factors adlı içerik sahtekarlığı tespiti üzerinde çalışan bir startup’ın yatırımcısı olduğunu söyleyen Mandia, deepfake’lerin kullanıcıları kandırmasını ve gerçek içeriği gölgelemesini engellemenin ana yolunun içerik yapımcılarının “filigranlar” yerleştirmesi olduğunu söylüyor. Örneğin Microsoft Teams ve Google Meet istemcilerinin değişmez meta veriler, imzalı dosyalar ve dijital sertifikalarla filigranlanacağını söylüyor.
“Gizliliğin vurgulandığı bir dönemde bunda büyük bir artış göreceksiniz” diye belirtiyor. Her iki uçta da özgünlüğü garanti altına almak için “Kimlik çok daha iyi hale gelecek ve kaynakların menşei çok daha iyi olacak” diyor.
Mandia, “Bence bu filigran, içerik üreten her şirketin sahip olduğu risk politikalarını ve profillerini yansıtabilir” diye açıklıyor.
Mandia, yapay zeka tarafından üretilen bir sonraki ses ve video dalgasının sahte olarak tespit edilmesinin özellikle zor olacağı konusunda uyarıyor. “Ya 10 dakikalık bir videonuz varsa ve bunun iki milisaniyelik kısmı sahteyse? ‘Bu sahte’ diyebilecek kadar iyi bir teknoloji var olacak mı? Kötü şöhretli silahlanma yarışına gireceğiz ve savunma kaybedecek silahlanma yarışında.”
Siber Suçlulara Ödeme Yapmak
Mandia, siber saldırıların mali açıdan ve itibar açısından genel olarak daha maliyetli hale geldiğini, dolayısıyla denklemi tersine çevirmenin ve atıf bilgilerini paylaşma ve ad verme konularını iki katına çıkararak durumu tehdit aktörleri için daha riskli hale getirmenin zamanı geldiğini söylüyor.
“Tehdit istihbaratı konusunda aslında iyiyiz. Ancak tehdit istihbaratını ilişkilendirme konusunda iyi değiliz” diyor. Savunmalarını geliştirmeleri için sürekli olarak kuruluşların üzerine yük koyma modeli işe yaramıyor. “Hortumun yanlış tarafına maliyet yüklüyoruz” diyor.
Mandia, siber suçluların güvenli limanlarıyla yapılan anlaşmaları yeniden gözden geçirmenin ve klavyenin arkasındaki kişilere seslenme ve saldırılarda atıf verilerinin paylaşılması konularına daha fazla önem vermenin zamanının geldiğine inanıyor. Üretken lidere yönelik yaptırımları ve isimlerini alın LockBit fidye yazılımı grubu bu hafta uluslararası kolluk kuvvetleri tarafından, diyor. Avustralya, Avrupa ve ABD’deki yetkililer bir araya gelerek siber suç örgütünün elebaşı olduğu iddia edilen rolü nedeniyle Rusya’nın Voronezh kentinde yaşayan 31 yaşındaki Rus uyruklu Dmitry Yuryevich’e yaptırımlar uyguladı. Onun hakkında bilgi verene 10 milyon dolar ödül teklif ettiler ve fotoğrafını yayınladılar; bu, Mandia’nın, kötü adamların riskini artırmak için doğru strateji olarak alkışladığı bir hareket.
“Bunun önemli olduğunu düşünüyorum. Eğer bir suçluysanız ve bir anda fotoğrafınız tüm dünyanın eline geçiyorsa, bu sizin için bir sorundur. Bu, bir saldırganın ‘maliyetini artırmaktan’ çok daha caydırıcı ve çok daha büyük bir caydırıcıdır.” Mandia devam ediyor.
Kolluk kuvvetlerinin, hükümetlerin ve özel sektörün siber suçluları etkili bir şekilde tanımlamaya nasıl başlayabileceklerini tekrar gözden geçirmeleri gerektiğini söyleyen kendisi, maskesini düşürmenin en büyük zorluğunun farklı ülkelerdeki mahremiyet ve sivil özgürlük yasaları olduğunu belirtiyor. “Sivil özgürlükleri etkilemeden bu konuyu ele almaya başlamalıyız” diyor.