Google, arama sonuçlarında yapay zeka ile oluşturulmuş açık görsellerin ve videoların görünmesiyle mücadele çabalarını önemli ölçüde artırıyor. Şirket, yapay zeka tarafından üretilen rızaya dayanmayan deepfake’lerin arama motorunda hoş karşılanmadığını açıkça belirtmek istiyor.
Gerçek resimler başka bir şekilde müstehcen veya saldırgan olabilir, ancak ayrıntılara bakılmaksızın, Google bu tür materyalleri kaldırmak ve silme mümkün değilse birinci sayfa sonuçlarından uzağa gömmek için yeni bir yaklaşıma sahiptir. Özellikle, Google arama sonuçları için resimler üretmek üzere kendi yapay zekasını kullanmayı denedi, ancak bu resimler gerçek insanları içermiyor ve özellikle de müstehcen hiçbir şey içermiyor. Google, yanıt sistemini daha sağlam hale getirmek için bu konuda uzmanlarla ve rızaya dayanmayan deepfake’lerin hedefi olan kişilerle ortaklık kurdu.
Google, bireylerin bir süredir açık deepfake’lerin kaldırılmasını talep etmelerine izin veriyordu ancak üretken AI görüntü oluşturucularının yaygınlaşması ve gelişmesi daha fazlasının yapılması gerektiği anlamına geliyor. Kaldırma talebi sistemi, talep göndermeyi kolaylaştırmak ve yanıtı hızlandırmak için düzenlendi. Bir talep alındığında ve geçerli olarak onaylandığında, Google’ın algoritmaları ayrıca bireyle ilgili benzer açık sonuçları filtrelemek için çalışacak.
Mağdurun, içeriği ortaya çıkarabilecek bir arama isteğinin her çeşidini manuel olarak taraması da gerekmeyecek. Google’ın sistemleri, o görüntünün tüm kopyalarını otomatik olarak tarayacak ve kaldıracak. Ve bu, belirli bir görüntü dosyasıyla sınırlı olmayacak. Google, ilgili içeriklere proaktif olarak bir kapak koyacak. Bu, içeriğin kopyalanabildiği ve birden fazla platform ve web sitesine yayılabildiği internetin doğası göz önüne alındığında özellikle önemlidir. Bu, Google’ın gerçek ancak rızaya dayanmayan görüntüler söz konusu olduğunda zaten yaptığı bir şeydir, ancak sistem artık deepfake’leri de kapsayacak.
Yöntem ayrıca Google’ın YouTube’daki yetkisiz deepfake’lerle, açık veya başka türlü, mücadele etmek için son zamanlardaki çabalarıyla bazı benzerlikler paylaşıyor. Daha önce, YouTube bu tür içerikleri sadece AI tarafından oluşturulmuş veya potansiyel olarak yanıltıcı olarak etiketliyordu, ancak şimdi, tasvir edilen kişi veya avukatı bir gizlilik şikayeti gönderebilir ve YouTube, şikayeti esasına göre incelemeden önce videonun sahibine videoyu kaldırması için birkaç gün verir.
Deepfake’ler Derinlere Gömüldü
İçerik kaldırma işlemi Google’ın çok iyi bildiği gibi %100 mükemmel değildir. Bu nedenle açık deepfake arama sonuçları avı güncellenmiş bir sıralama sistemi de içerir. Yeni sıralama, açık deepfake’leri çekme şansıyla arama terimlerine karşı koyar. Google Arama artık açık sahte içeriklerin ve bunların yayılmasıyla ilişkili web sitelerinin arama sonuçlarındaki görünürlüğünü, özellikle de aramada birinin adı varsa, düşürmeye çalışacaktır.
Örneğin, belirli bir ünlünün deepfake’lerinin nasıl viral hale geldiğine dair bir haber makalesi aradığınızı ve yasa koyuculara düzenlemeye ihtiyaç duyulduğuna dair tanıklık ettiklerini varsayalım. Google Arama, tartışılan deepfake’leri değil, konuyla ilgili haber hikayelerini ve ilgili makaleleri görmenizi sağlamaya çalışacaktır.
Google yalnız değil
Üretken AI teknolojisinin karmaşık ve gelişen doğası ve kötüye kullanım potansiyeli göz önüne alındığında, zararlı içeriklerin yayılmasını ele almak çok yönlü bir yaklaşım gerektirir. Ve Google, bu sorunla yüzleşmek veya çözümler üzerinde çalışmak konusunda tek değil. Facebook, Instagram ve diğer Meta platformlarında göründüler ve şirket politikalarını güncelledi, Denetim Kurulu yakın zamanda yönergelerini doğrudan AI tarafından oluşturulan açık içerikleri kapsayacak şekilde değiştirmeyi ve kendi itiraz sürecini iyileştirmeyi önerdi.
Yasa koyucular da bu soruna yanıt veriyor ve New York Eyaletinin yasama organı, “intikam pornosu” yasalarının bir parçası olarak AI tarafından oluşturulan rızaya dayanmayan pornografiyi hedef alan bir yasa tasarısını kabul ediyor. Bu hafta ulusal düzeyde, 2024 Nurture Originals, Foster Art, and Keep Entertainment Safe Act (SAHTE YOK Yasası), hem açık içerik hem de deepfake görsellerin ve seslerin rızaya dayanmayan kullanımıyla başa çıkmak için ABD Senatosuna sunuldu. Benzer şekilde, Avustralya’nın yasama organı rızaya dayanmayan açık deepfake’lerin yaratılmasını ve dağıtımını suç sayan bir yasa tasarısı üzerinde çalışıyor
Yine de Google, açık deepfake’lerle mücadelede bir miktar başarıya işaret edebilir. Şirket, bu değişikliklerle yaptığı erken testlerin deepfake açık görsellerin görünümünü %70’ten fazla azaltmada başarılı olduğunu iddia ediyor. Ancak Google henüz açıkça deepfake’lere karşı zaferini ilan etmedi.
Google Ürün Yöneticisi Emma Higham bir blog yazısında, “Bu değişiklikler Arama’daki korumalarımızda önemli güncellemeler, ancak bu sorunu çözmek için yapılacak daha çok iş var ve bu içerikten etkilenen kişilere yardımcı olmak için yeni çözümler geliştirmeye devam edeceğiz” açıklamasını yaptı. postalamak“Ve bu zorluğun arama motorlarının ötesine geçtiğini göz önünde bulundurarak, bir toplum olarak bununla başa çıkmak için sektör çapında ortaklıklara ve uzman katılımına yatırım yapmaya devam edeceğiz.”
