Uzun bir iş gününden sonra eve yeni döndünüz ve akşam yemeğine oturmak üzereyken aniden telefonunuz çalmaya başladı. Diğer uçta sevdiğiniz biri, belki bir ebeveyn, bir çocuk ya da bir çocukluk arkadaşı, ona hemen para göndermeniz için yalvarıyor.
Onlara sorular soruyorsun, anlamaya çalışıyorsun. Cevaplarında ya belirsiz ya da karakter dışı bir şeyler var ve bazen sanki biraz fazla yavaş düşünüyorlarmış gibi tuhaf bir gecikme oluyor. Yine de konuşanın kesinlikle sevdiğiniz kişi olduğundan eminsiniz: Duyduğunuz ses onundur ve arayan kimliği numarasını gösterir. Paniklerindeki tuhaflığı tebessüm ederek, görev bilinciyle parayı size verdikleri banka hesabına gönderirsiniz.
Ertesi gün, her şeyin yolunda olduğundan emin olmak için onları geri ararsın. Sevdiğiniz kişinin neden bahsettiğiniz hakkında hiçbir fikri yok. Çünkü sizi hiç aramadılar – teknoloji tarafından kandırıldınız: bir yapay zeka derin sahte ses. binlerce insan vardı 2022’de bu şekilde dolandırıldı.
G/O Media komisyon alabilir
Bir kişinin sesini klonlama yeteneği, bilgisayarı olan herkesin erişimine giderek daha yakın hale geliyor.
Gibi bilgisayar Güvenliği araştırmacılarderin öğrenme algoritmalarında, ses düzenleme ve mühendislikte ve sentetik ses oluşturmada devam eden ilerlemelerin, Bir kişinin sesini inandırıcı bir şekilde simüle edin.
Daha da kötüsü, ChatGPT gibi sohbet robotları, uyarlanabilir gerçek zamanlı yanıtlarla gerçekçi komut dosyaları oluşturmaya başlıyor. İle bu teknolojileri ses üretimi ile birleştirmekbir deepfake, statik bir kayıttan ikna edici bir şekilde telefon görüşmesi yapabilen canlı, gerçeğe yakın bir avatara dönüşür.
AI ile bir sesi klonlama
İster video ister ses olsun, ilgi çekici, yüksek kaliteli bir deepfake hazırlamak, yapılacak en kolay şey değildir. Zengin sanatsal ve teknik beceriler, güçlü donanım ve hedef sesin oldukça büyük bir örneğini gerektirir.
Giderek artan sayıda sunulan hizmetler vardır. bir ücret karşılığında orta ila yüksek kaliteli ses klonları üretinve bazı derin sahte ses araçlarının bir örneğine ihtiyacı vardır sadece bir dakika uzunluğundaya da sadece birkaç saniye, birini kandıracak kadar ikna edici olabilecek bir ses klonu üretmek. Bununla birlikte, sevilen birini ikna etmek – örneğin, bir kimliğe bürünme dolandırıcılığında kullanmak – büyük olasılıkla çok daha büyük bir örnek alacaktır.
Araştırmacılar, beş saniye kadar kısa bir kayıtla sesleri klonlamayı başardılar.
Deepfake’e karşı koruma dolandırıcılık ve dezenformasyon
Tüm söylenenlerle birlikte, biz DeFake Projesi Rochester Teknoloji Enstitüsü, Mississippi Üniversitesi ve Michigan Eyalet Üniversitesi ve diğer araştırmacılar, video ve ses derin sahtekarlıklarını tespit edebilmek ve neden oldukları zararı sınırlandırabilmek için çok çalışıyorlar. Kendinizi korumak için yapabileceğiniz basit ve günlük eylemler de vardır.
Yeni başlayanlar için, sesli kimlik avı, veya “vishing”, yukarıda açıklanan gibi dolandırıcılıklar, hem işte hem de evde günlük yaşamda karşılaşabileceğiniz en olası derin ses sahtekarlıklarıdır. 2019 yılında bir enerji firması 243.000 ABD Doları dolandırıldı suçlular, bir çalışana bir tedarikçiye para transfer etmesini emretmek için ana şirketin patronunun sesini taklit ettiğinde. 2022 yılında insanlar Tahminen 11 milyon dolardan dolandırıldı yakın, kişisel bağlantılar da dahil olmak üzere simüle edilmiş seslerle.
AI tarafından sahte sesler hakkında ne yapabilirsiniz??
İyi tanıdığınız insanlardan gelen beklenmedik aramalara karşı dikkatli olun. Bu, her aramayı planlamanız gerektiği anlamına gelmez, ancak en azından önceden e-posta veya kısa mesaj göndermenize yardımcı olur. Ayrıca arayan kimliğine güvenmeyin, çünkü bu da sahte olabilir. Örneğin, bankanızı temsil ettiğini iddia eden birinden bir arama alırsanız, aramanın geçerliliğini doğrulamak için telefonu kapatın ve doğrudan bankayı arayın. Yazdığınız, kişiler listenize kaydettiğiniz veya Google’da bulabileceğiniz numarayı kullandığınızdan emin olun.
Ek olarak, Sosyal Güvenlik numaranız, ev adresiniz, doğum tarihiniz, telefon numaranız, göbek adınız ve hatta çocuklarınızın ve evcil hayvanlarınızın adları gibi kişisel tanımlayıcı bilgilerinize dikkat edin. Dolandırıcılar bu bilgileri bankalara, emlakçılara ve diğerlerine karşı sizi taklit etmek, sizi iflas ettirirken veya kredinizi yok ederken kendilerini zenginleştirmek için kullanabilir.
İşte başka bir tavsiye: kendinizi tanıyın. Özellikle, entelektüel ve duygusal önyargılarınızı ve zayıf noktalarınızı bilin. Bu genel olarak iyi bir yaşam tavsiyesidir, ancak kendinizi manipüle edilmekten korumanın anahtarıdır. Dolandırıcılar tipik olarak mali kaygılarınızı, siyasi bağlarınızı veya diğer eğilimlerinizi (her ne olursa olsun) araştırıp avlamaya çalışır.
Bu uyanıklık aynı zamanda derin sahte seslerin kullanıldığı dezenformasyona karşı iyi bir savunmadır. Deepfake’ler sizin avantajlarınızdan yararlanmak için kullanılabilir. doğrulama yanlılığıveya birisi hakkında inanmaya meyilli olduğunuz şey.
Topluluğunuzdan veya hükümetten önemli bir kişinin, onlar için çok alışılmadık görünen veya onlar hakkındaki en kötü şüphelerinizi doğrulayan bir şey söylediğini duyarsanız, dikkatli olmanız akıllıca olur.
Yapay zeka, sohbet robotları ve makine öğreniminin geleceği hakkında daha fazla bilgi edinmek ister misiniz? Kapsamımızın tamamına göz atın yapay zekaveya kılavuzlarımıza göz atın En İyi Ücretsiz AI Sanat Üreticileri Ve OpenAI ChatGPT Hakkında Bildiğimiz Her Şey.
Matthew WrightBilgisayar Güvenliği Profesörü, Rochester Teknoloji Enstitüsü Ve Christopher SchwartzBilgi İşlem Güvenliği Doktora Sonrası Araştırma Görevlisi, Rochester Teknoloji Enstitüsü
Bu makale şu adresten yeniden yayınlanmıştır: Konuşma Creative Commons lisansı altında. Okumak orijinal makale.