Meta’nın denetim kurulu, pornografik deepfake’lerin Facebook ve Instagram’daki dağıtımını inceleyecek. Yapay zeka (AI) geliştikçe giderek daha fazla endişeye neden olan bir olgu.
Sayıları giderek artan pornografik deepfake’ler
Kuruluş, Meta’nın pornografik deepfake’lerin çoğalmasını nasıl yönettiğini analiz edecek. Yapay zeka tarafından oluşturulan bu görüntülerde insanlar, özellikle de kadınlar, belirgin duruşlarda yer alıyor.
Konsey iki özel vakaya odaklanacak. Bunlardan ilki “ Amerikalı halk figürü » böyle bir görselle temsil ediliyor. İkincisi, yalnızca bu tür içeriği paylaşan bir hesap tarafından yayınlanan, yapay zeka tarafından oluşturulan çıplak bir Hintli kadının görüntüsünü içeriyor. Meta’nın dahili sistemi her iki gönderiyi de kaldırdı ancak yazarları, gönderilerine tekrar izin verilmesi için denetim kuruluna başvurdu.
Kurul, görsellerin Meta’nın içerik politikaları kapsamında kaldırılması gerekip gerekmediğini değerlendirecek. Bir deyim 16 Nisan Salı günü yayınlandı. “ Pornografik deepfake’ler çevrimiçi ortamda cinsiyete dayalı tacizin büyüyen bir nedenidir ve kadınları hem çevrimiçi hem de çevrimdışı olarak hedeflemek, susturmak ve korkutmak için giderek daha fazla kullanılmaktadır. », diyor denetim kurulu eş başkanı Helle Thorning-Schmidt.
Ocak ayının sonunda, şarkıcı Taylor Swift’in müstehcen görüntüleri, eski adıyla Twitter olan X.com da dahil olmak üzere birçok sosyal ağda hızla yayıldı. Birçok Amerikalı siyasi figürün öfkesini uyandıran bir olay.
“ Bu konunun ele alınması kritik öneme sahiptir ve komite, Meta’nın politikalarının ve uygulama uygulamalarının bu konuyu ele almada etkili olup olmadığını incelemenin önemli olduğuna inanmaktadır. », diye devam ediyor eşbaşkan.
2020 yılında kurulmuş bir organizasyon
2020 yılında kurulan denetim kurulu akademisyenler ve hukuk uzmanlarından oluşuyor. Meta’nın uygulamalarına ilişkin önerilerde bulunabilir ancak şirketin bunlara uyma zorunluluğu yoktur. Kendisi daha önce firmanın Donald Trump’ın Facebook ve Instagram hesaplarını yasaklama kararı da dahil olmak üzere yüksek profilli içerik denetleme kararlarını incelemişti.
Kurul, yakın zamanda Joe Biden’ın torununa uygunsuz bir şekilde dokunduğunu gösteren yapay zeka tarafından düzenlenmiş bir video hakkında öneriler yayınladı. Meta daha sonra yapay zeka tarafından oluşturulan tüm içeriğin platformlarında etiketleneceğini duyurdu.