YouTube, yapay zeka tarafından üretilen derin sahte içerikleri tespit eden benzerlik algılama teknolojisini, devlet yetkilileri, siyasi adaylar ve gazetecilerden oluşan pilot bir gruba genişletme duyurusunu yaptı. Bu grup üyeleri, YouTube politikalarını ihlal ettiğini düşündükleri yetkisiz AI içeriğini tespit eden bir araca erişim sağlayacak ve gerekirse bu içeriklerin kaldırılmasını talep edebilecek.
Teknoloji, geçen yıl yaklaşık 4 milyon YouTube içerik üreticisi ile birlikte başlatıldı ve daha önceki testlerin ardından kullanıma sunuldu.
YouTube’un mevcut İçerik ID sistemi ile benzer şekilde çalışarak, kullanıcıların yükledikleri videolarda telif hakkına tabi materyalleri tespit ediyor. Benzerlik algılama özelliği ise AI araçları ile oluşturulan simüle edilmiş yüzleri arıyor. Bu araçlar, bazen yanlış bilgi yaymak ve insanların gerçeklik algısını manipüle etmek için kullanılıyor ve tanınmış figürlerin derin sahte kişiliklerini kullanarak, bu videolarda gerçek hayatta söylemedikleri veya yapmadıkları şeyleri ifade ediyorlar.
Yeni pilot program ile YouTube, kullanıcıların özgür ifadesi ile bir kamu figürünün ikna edici bir versiyonunu yaratma riski arasında bir denge sağlamak istiyor.
Leslie Miller, YouTube’un Hükümet İlişkileri ve Kamu Politikası Başkan Yardımcısı, lansmandan önceki basın toplantısında, “Bu genişleme, kamu sohbetinin bütünlüğü ile ilgili,” dedi. “AI taklitleri, sivil alanda olanlar için özellikle yüksek risk taşıdığını biliyoruz. Ancak, bu yeni kalkanı sağlarken, onu nasıl kullandığımız konusunda dikkatli olacağız,” diye ekledi.
Miller, talep edilen tüm tespitlerin kaldırılmayacağını açıkladı. YouTube, her talebi mevcut gizlilik politikası çerçevesinde değerlendirerek içeriğin parodi veya siyasi eleştiri olup olmadığını belirleyecek. Bu tür içerikler korunan ifade özgürlüğü formları olarak kabul ediliyor.
Şirket ayrıca, bu korumaları federal düzeyde savunmakta, D.C.’deki NO FAKES Act ile bireylerin ses ve görsel benzerliklerinin yetkisiz şekilde yeniden yaratılmasını düzenlemeyi hedefliyor.
Yeni aracı kullanmak için uygun pilot denekler öncelikle bir selfie ve resmi bir kimlik yükleyerek kimliklerini kanıtlamak zorundalar. Ardından bir profil oluşturabilir, çıkan eşleşmeleri görebilir ve bunların kaldırılmasını talep edebilirler. YouTube, zamanla, kullanıcıların ihlal eden içeriğin yüklenmesini engellemelerine veya bu videolardan para kazanmalarına olanak sağlayacak bir sistem kurmayı planlıyor.
Şirket, başlangıçta hangi politikacıların veya yetkililerin pilot testçiler arasında olacağını doğrulamazken, hedefin teknolojiyi zamanla daha geniş bir şekilde erişilebilir kılmak olduğunu belirtti.
Bu AI videoları etiketlenecek, ancak etiketlerin yerleri tutarlı değil. Bazılarında etiket videonun açıklamasında görünürken, daha “hassas konularla” ilgili olan videolarda etiket videonun önünde yer alacak. Bu, YouTube’un tüm AI kaynaklı içerik için benimsediği yaklaşım.
Hanif, etiketin yerinin açıklamasıyla ilgili olarak, “AI ile üretilen birçok içerik var, ancak bu ayrım gerçekte içeriğe önemli bir katkı sağlamıyor,” dedi. “Bu bir AI ile üretilen bir karikatür olabilir. Dolayısıyla, bu kategorinin görünür bir uyarıyı gerektirip gerektirmediği konusunda bir değerlendirme var,” diye ekledi.
YouTube, bu tür yapay zeka derin sahte içeriklerin kaldırılması konusunda ne kadar işleme alındığını paylaşmıyor, ancak şimdiye kadar kaldırılan içerik miktarının “çok küçük” olduğunu belirtiyor. Hanif, “Birçok içerik için yaratıcılar, neyin üretildiği konusunda farkındalığa sahip oldular, ancak kaldırma taleplerinin hacmi oldukça düşük çünkü çoğu içerik oldukça zararsız ya da işlerine katkı sağlıyor,” dedi.
Bu durum, hükümet yetkilileri, politikacılar veya gazetecilerin derin sahte görüntüleri için aynı olmayabilir.
Zamanla, YouTube, derin sahte tespit teknolojisini, tanınabilir sesler ve popüler karakterler gibi diğer fikri mülkiyet alanlarına genişletmeyi planlıyor.
