ABD TikTok yasağı olasılığı artmaya devam ederken, video uygulaması içerik denetleme politikalarını yeniledi. Hangi içeriğin yayınlanabileceğine ve tanıtılabileceğine ilişkin kurallar büyük ölçüde değişmedi ancak son aylarda uygulamada giderek daha popüler hale gelen yapay zeka derin sahtekarlıklarının paylaşılmasına ilişkin yeni kısıtlamalar içeriyor.
Bu moderasyon politikalarının (veya TikTok’un deyimiyle “Topluluk Kuralları”) büyük bir kısmı değişmedi ve şaşırtıcı değil. Sansürlenmemiş şiddete, nefret söylemine ve alenen cinsel içeriğe izin verilmez; ikincisi için öznenin yaşına göre derecelendirilmiş kurallar vardır. Bununla birlikte, yeni genişletilmiş bir bölüm, son aylarda uygulamada giderek daha popüler hale gelen “sentetik ve manipüle edilmiş medyayı”, yani yapay zeka derin sahtekarlıklarını kapsar.
Daha önce, TikTok’un derin sahtekarlıklarla ilgili kuralları, “olayların gerçekliğini çarpıtarak kullanıcıları yanıltabilecek” içeriği yasaklayan tek bir satırla sınırlıydı. [or] videonun öznesine ciddi zarar verebilir.” Artık şirket, AI tarafından oluşturulan ve düzenlenen tüm gerçekçi içeriğin, video başlığında veya üst üste bindirilmiş bir çıkartma olarak “açıkça ifşa edilmesi” gerektiğini söylüyor.
Ünlülerin destekçilerinin ve halka açık olmayan kişilerin Deepfake’leri yasaklandı
TikTok, “herhangi bir gerçek özel figürün benzerini içeren” veya kamuya mal olmuş bir kişinin bir ürünü onayladığını veya uygulamanın diğer politikalarını (yani nefret söylemi yasaklarını) ihlal ettiğini gösteren hiçbir sentetik medyaya izin vermeyeceğini söylüyor. Şirket, kamuya mal olmuş kişileri, “hükümet görevlisi, politikacı, iş lideri veya ünlü gibi önemli bir kamu görevine” sahip 18 yaşında veya daha büyük herkes olarak tanımlıyor.
Yapay zeka tarafından oluşturulan içerik, büyük ölçüde birinin sesini taklit etmeyi kolaylaştıran yapay zeka ses klonlama araçlarının daha geniş kullanılabilirliği sayesinde TikTok’ta popülaritesini artırdı. Bu araçlar, genellikle Başkan Joe Biden ve eski Başkan Donald Trump gibi tanınmış kişileri beklenmedik senaryolara yerleştirmeye odaklanan yeni içerik alt türleri oluşturdu. Zindanlar ve Ejderhalar, Örneğin.
Diğer kullanım durumları daha zararlıdır. Birçok AI sahtekarlığı aynı rakamları gösteriyor transfobik veya homofobik ifadeleri okumak ve bazen gerçek çekimlerle karıştırılmıştır. Bu arada TikTok’un derin sahte onayları yasaklaması, belirli bir videoya bir yanıt gibi görünüyor. Joe Rogan’ın promosyonunu taklit etmek için AI kullandı bir “erkekler için libido güçlendirici”. Bu tür videolar Twitter ve Instagram gibi uygulamalarda da yayıldı.
TikTok’un politikalarındaki güncelleme, Batılı hükümetlerin uygulamanın özel verileri toplaması ve kamuoyunu etkileme potansiyelinden duyduğu korkuyu dile getirmesiyle, ana şirket ByteDance için artan siyasi baskının olduğu bir zamanda geldi. ABD hükümeti bildirildiğine göre TikTok’u halka açık bir yasakla tehdit etti ByteDance sahibi, uygulama zaten satılmışken hissesini satmazsa devlet cihazlarında yasaklandı ABD, İngiltere, Yeni Zelanda ve Kanada’da.
TikTok, işine yönelik bu tehditleri bu güncellenmiş politikalarla doğrudan ele almıyor ancak “kurallarımız ve bunları nasıl uyguladığımız hakkında çok daha fazla şeffaflık” sunmak istediğini belirtiyor. Şirket ayrıca, “günlük işlerimizi şekillendiren ve zor uygulama kararlarına nasıl yaklaştığımıza rehberlik eden” sekiz “Topluluk İlkesi” içeren bir liste yayınlıyor. Özellikle ilk iki ilke “zararı önleme” ve “ifade özgürlüğünü mümkün kılma”dır.