Teknoloji dünyasının sorunlarından biri, cinselleştirilmiş derin sahte görüntüler olarak adlandırılan içerikler. ABD Senatosu, X, Meta, Alphabet, Snap, Reddit ve TikTok’un liderlerine gönderdiği bir mektupta, bu platformların bu tür içeriklere karşı sağlam önlemler ve politikalar geliştirmelerini talep etti.
Senatörler, bu şirketlerden, cinselleştirilmiş, yapay zeka ile oluşturulmuş görüntülerin yaratılması, tespiti, moderasyonu ve para kazanma süreçlerine dair tüm belgeleri korumalarını da istedi. Ayrıca, bu tür içeriklerin yayılmasını engellemek için aldıkları önlemleri açıklamaları gerektiğinin altını çizdiler.
Mektup, X’in Grok adlı özelliğini güncelleyerek, gerçek kişilerin cinsel objeler içeren şekilde düzenlenmesine izin vermeyeceğini açıklamasından kısa bir süre sonra geldi. Ancak, bu güncellemelere rağmen, cinselleştirilmiş görüntülerin üretilmesi konusundaki tartışmalar sürüyor.
Grok’un, kadınlar ve çocuklar üzerinde rahatsız edici içerikler ürettiği yönündeki medya haberleri üzerine senatörler, bu platformlarda kullanıcıların cinselleştirilmiş görüntüler paylaşmalarını önlemeye yönelik önlemlerin yetersiz olduğunu vurguladı. Mektupta, birçok şirketin bu içeriklere karşı politikaları bulunsa da, kullanıcıların bu politikaları aşma yolları bulduğu veya bu politikaların yeterince etkili olmadığı ifade ediliyor.
Derin sahte içerikler, ilk olarak Reddit’te popülerlik kazandı ve burada ünlülerin yer aldığı sentetik pornografik videolar viral hale geldi. Ancak bu tür içerikler, artık TikTok ve YouTube gibi başka platformlarda da yaygın hale geldi. Meta’nın Gözetim Kurulu, önceki yıllarda, kadın kamu figürlerine ait müstehcen yapay zeka görüntülerini eleştirmişti.
- Derin sahte içerik, “rıza gösterilmeyen samimi görüntüler” gibi terimlerin tanımları.
- Şirketlerin bu tür içerikleri denetleme politikalarının açıklamaları.
- Düzenlenmiş medya ve müstehcen içeriklere dair mevcut içerik politikaları ve moderatörlere sağlanan iç rehberlik.
- Yapay zeka araçlarının ve görüntü oluşturucuların, cinsel veya samimi içeriklerle ilgili politikaları nasıl yönettiği.
- Derin sahte içeriklerin üretilmesini ve dağıtımını önlemek için alınan önlemler.
- Derin sahte içeriklerin tespit edilmesi için kullanılan yöntemler.
- Bu tür içeriklerden kullanıcıların nasıl para kazanmasının engellendiği.
- Şirketlerin, rıza gösterilmeyen yapay zeka ile üretilmiş içeriklerden nasıl kendilerini kar etmediği.
- Derin sahte içerik paylaşan kullanıcıların yasaklanmasını veya askıya alınmasını sağlayan hizmet şartları.
- Rıza gösterilmeyen cinsel derin sahte içeriklerin mağdurlarına nasıl bildirimde bulunulduğu.
Bu mektup, Senatörler Lisa Blunt Rochester, Tammy Baldwin, Richard Blumenthal, Kirsten Gillibrand, Mark Kelly, Ben Ray Luján, Brian Schatz ve Adam Schiff tarafından imzalandı. Hangi adımların atılması gerektiğine dair sizce en etkili çözümler neler olabilir?
