Yapay zekadaki son gelişmeler, yalnızca daha karmaşık ve akıllı sohbet robotları yaratmakla kalmadı, aynı zamanda özellikle derin sahtekarlıkların yükselişiyle birlikte önemli zorluklar da yarattı. Bu yapay zeka görüntülerinin çoğu olaydan sonra oluşturulmuş olsa da, yeni proje, video görüşmeleri sırasında kullanılabilecek gerçek zamanlı yapay zeka yüz değiştirme özelliğiyle işleri bir adım öteye taşıyor.
Deep Live Cam adlı yeni bir yapay zeka projesi, web kameralarına deepfake uygulama yeteneği nedeniyle yakın zamanda internette heyecan yarattı. Aynı zamanda olası güvenlik riskleri ve etik sonuçlar hakkındaki tartışmaları da ateşledi.
Deep-Live-Cam’in diğer deepfake programlarından farkı nedir?
Temel olarak Deep Live Cam, tek kaynaktan fotoğraf çeken ve canlı video görüşmeleri sırasında yüzü kullanan gelişmiş AI algoritmalarını kullanır; B. web kameraları aracılığıyla hedef kişiye bulaşabilir. Proje hala geliştirme aşamasında ancak ilk testler şimdiden hem endişe verici hem de etkileyici sonuçlar gösteriyor.
nasıl Ars Teknik Daha ayrıntılı olarak açıklandığı gibi, uygulama ilk önce bir kaynağın ve bir hedef nesnenin yüzlerini okur ve tanır. Daha sonra yüzler bir Inswapper modeli kullanılarak gerçek zamanlı olarak değiştirilirken, başka bir model yüzlerin kalitesini iyileştiriyor ve değişen aydınlatma koşullarına ve yüz ifadelerine uyum sağlayan efektler ekliyor. Bu karmaşık süreç, nihai ürünün son derece gerçekçi olmasını ve sahte olduğunun kolaylıkla fark edilmemesini sağlar.
Elon Musk’un kaynak olarak kullanıldığı yüz füzyonuna bir örnek. / © GitHub / Ars Technica
Örneğin bir geliştiricinin paylaştığı kliplerden biri, Tesla CEO’su Elon Musk’un yüzünün bir konu ile gerçekçi bir şekilde birleştirilmesini gösteriyor. Hatta deepfake’te gözlük ve kişinin saçı da yer alıyordu, bu da onu inanılmaz derecede ikna edici kılıyordu. Bir başka örnek ise ABD Başkan Yardımcısı adayı JD Vance ve Meta’dan Mark Zuckerberg’in yüzüydü.
ABD Başkan Yardımcısı adayı JD Vance’in derin canlı kamera kullanılarak yüz füzyonu. / © X/u/Orange AI
Yapay zeka simülasyon uygulamalarının yükselişi endişe verici mi?
Bu neden özellikle endişe verici? Deel-Live-Cam ve diğer gerçek zamanlı deepfake uygulamalarının kullanımı ciddi gizlilik ve güvenlik endişelerine yol açmaktadır. Bir fotoğrafınızın internetten çalınabileceğini ve izniniz olmadan dolandırıcılık, aldatma ve diğer kötü amaçlı faaliyetler için kullanılabileceğini hayal edin.
Şu anda eksikliklerin çeşitli yollarla giderilebileceği görülüyor; B. Uygulamayı ve sağlam tespit yöntemlerini kullanırken filigran ekleme yoluyla. Çözüm, diğer deepfake programlarına ve uygulamalarına da uygulanabilir. Merak ediyorsanız veya Deep Live Cam’ı denemek istiyorsanız, aşağıdaki adreslerden birinde bulabilirsiniz. GitHub’daki depolar.
Gerçek zamanlı yapay zeka simülasyon uygulamaları hakkında ne düşünüyorsunuz? Kendinizi bu potansiyel risklerden nasıl koruyabileceğinize dair ipuçlarınız var mı? Cevaplarınızı yorumlarda duymaktan mutluluk duyarız.