TikTok’un platform güvenliği konusundaki ilk büyük kongre oturumuna alınmasından aylar sonra, şirket bugün duyuru video tabanlı sosyal ağı özellikle genç kullanıcılar için daha güvenli ve güvenli bir ortam haline getirmeyi amaçlayan yeni özellikler ve teknolojiler için bir dizi politika güncellemesi ve planı. Değişiklikler, ABD’li senatörlerin TikTok’un ticari uygulamalarına yönelik soruşturmaları sırasında özellikle gençler ve genç yetişkinler için zararlı olan yeme bozukluğu içeriğinin yaygınlığı ve uygulamadaki tehlikeli aldatmacalar da dahil olmak üzere bazı endişeleri gidermeye çalışıyor. Buna ek olarak, TikTok, LGBTQ ve küçük güvenlikle ilgili nefret dolu ideolojiler etrafındaki diğer ciddi sorunları ele almak için bir yol haritası hazırlıyor – ikincisi, içeriklerinin yaşa uygunluğunu yaratıcıların belirlemesini içerecektir.
TikTok ayrıca platformunun “güvenlik, bütünlük, kullanılabilirlik ve güvenilirliğini” korumak için politikasını genişlettiğini söyledi. Bu değişiklik, Biden yönetiminin son haberlerini takip ediyor. yeni kuralları tartmak Çin uygulamalarının ABD kullanıcı verilerini yabancı düşmanlar tarafından istismar edilmekten korumak için. Şirket, TikTok içeriğine, hesaplarına, sistemlerine ve verilerine yetkisiz erişimi daha iyi yasaklamak için bu genişletilmiş çabanın bir parçası olarak bu yıl Washington, DC, Dublin ve Singapur’da siber olay izleme ve soruşturma müdahale merkezleri açacağını söyledi.
TikTok’u bekleyen daha büyük değişikliklerden bir diğeri, yaşa uygun tasarıma yönelik yeni bir yaklaşım – düzenleyiciler için zaten ön planda olan bir konu.
Birleşik Krallık’ta çocuklara yönelik dijital hizmetler artık yasal düzenlemelere uymak zorundadır. standartlar çocukların mahremiyetini, izlemesini, ebeveyn denetimlerini, manipülatif “karanlık kalıpların” kullanımını ve daha fazlasını ele alan. Bu arada ABD’de yasa koyucular, mevcut çocukların gizlilik yasasını güncelleyin (COPPA) gençler için daha fazla koruma eklemek için. TikTok zaten farklı yaşlardaki kullanıcılar için farklı ürün deneyimlerine sahip, ancak şimdi hangi içeriğin yetişkinlere kıyasla daha genç ve daha yaşlı gençler için uygun olduğunu da belirlemek istiyor.
Resim Kredisi: TikTok’un yaşa uygun tasarımı
TikTok, belirli içerik türlerini belirlemek ve gençler tarafından erişilmesini kısıtlamak için bir sistem geliştirdiğini söylüyor. Şirket henüz yeni sistemle ilgili belirli ayrıntıları paylaşmasa da, üç bölümden oluşacak. İlk olarak, topluluk üyeleri uygulamada görmek istedikleri “konfor alanlarını” – veya içerik olgunluk düzeylerini – seçebilecekler. Ebeveynler ve vasiler, küçük çocukları adına bu konuda kararlar almak için TikTok’un mevcut Aile Eşleştirme ebeveyn kontrolü özelliğini de kullanabilecekler. Son olarak, TikTok içerik oluşturuculardan içeriklerinin yetişkin bir kitle için ne zaman daha uygun olduğunu belirtmelerini isteyecek.
Resim Kredisi: TikTok’un Aile Eşleştirme özelliği
“Yaratıcılarımızdan, bazen yalnızca belirli bir eski kitleye ulaşma isteklerinin olduğunu doğrudan duyduk. Örnek olarak, belki yetişkinlere yönelik mizah içeren bir komedi yaratıyorlar ya da yalnızca yetişkinleri ilgilendiren sıkıcı iş yeri ipuçları sunuyorlar. Ya da belki çok zor yaşam deneyimlerinden bahsediyorlar” diye açıkladı. Tracy Elizabeth, TikTok’un platform için küçük güvenliği denetleyen ABD Sorun Politikası başkanı gazetecilere verdiği brifingde. “Bu tür konular göz önüne alındığında, içerik oluşturucuların belirli içerikleri için hedeflenen kitleye ulaşmalarını daha iyi güçlendirmeye yardımcı olacak yolları test ediyoruz” dedi.
Elizabeth, küçük güvenlik konularına odaklanmak için 2020’nin başlarında TikTok’a katıldı ve Kasım 2021’de yeni pozisyonuna terfi etti ve şimdi onun Küçük Güvenlik, Dürüstlük ve Özgünlük, Taciz ve Zorbalık, İçerik Sınıflandırması dahil Güven ve Güvenlik Sorunu Politikası ekiplerini denetlediğini görüyor. Uygulamalı Araştırma ekipleri. TikTok’tan önce, şirketin küresel olgunluk derecelendirme departmanını kurmasına yardım ettiği Netflix’te üç buçuk yıldan fazla zaman geçirdi. Bu çalışma, TikTok’taki çabalarını bilgilendirecek.
Ancak Elizabeth, TikTok’un TikTok videolarında insanların belirli bir içeriğin yaşa uygun yapısını bir bakışta görmelerini sağlayacak “görüntülenebilir” derecelendirmelere veya etiketlere sahip olmayacak kadar ileri gitmeyeceğini belirtiyor. Bunun yerine, TikTok, içerik oluşturucuların bir şekilde kendi içeriklerini etiketlemesine dayanacak şekilde arka uçta kategorizasyona güvenecek. (Örneğin, içerik oluşturuculardan içeriklerinin yetişkinlere uygun mu yoksa “çocuklara özel” mi olduğunu belirlemelerini istediği için YouTube benzer bir yaklaşım benimsiyor.)
TikTok, şu anda bu alanda küçük bir test yürüttüğünü, ancak henüz herkese açık olarak paylaşacak bir şeyi olmadığını söylüyor.
“Ürünü tüm özellikleriyle tanıtacağımız yerde henüz değiliz. Ancak bunun pratikte nasıl çalıştığını görmek için çok küçük bir kullanıcı deneyimi alt kümesini deneyeceğiz ve ardından ayarlamalar yapacağız,” dedi Elizabeth.
Resim Kredisi: TikTok
TikTok’un güncellenen içerik politikaları
İçerik olgunluğu sistemi planlarına ek olarak, TikTok bugün içerik politikalarını üç temel alanda revize ettiğini de duyurdu: nefret dolu ideolojiler, tehlikeli eylemler ve meydan okumalar ve yeme bozukluğu içeriği.
Şirketin halihazırda bu konuların her birini ele alan politikaları varken, şimdi bu politikaları netleştiriyor ve rafine ediyor ve bazı durumlarda kendi kategorisi içinde kendi kategorisine taşıyor. Topluluk Rehberleri nasıl uygulanacağına dair daha fazla ayrıntı ve ayrıntı sağlamak için.
Nefret dolu ideolojiler açısından TikTok, yasaklı konulara netlik kazandırıyor. Politika artık aşağıdaki gibi uygulamaları belirleyecektir: isimsiz adlandırma ve yanlış cinsiyetlendirmekadın düşmanlığı veya destekleyici veya teşvik edici içerik dönüşüm tedavisi programlara izin verilmeyecektir. Şirket, bu konuların zaten yasak olduğunu söylüyor, ancak yaratıcılardan ve sivil toplum kuruluşlarından yazılı politikalarının daha açık olması gerektiğini duydu. Politika üzerinde TikTok ile birlikte çalışan GLAAD, CEO Sarah Kate’den değişiklikleri desteklemek için bir açıklama paylaştı ve bunun “çevrimiçi LGBTQ güvenliği standardını yükselttiğini” ve “LGBTQ güvenliğine öncelik verdiğini iddia eden diğer platformların bir mesaj gönderdiğini” belirtti. Bunun gibi somut eylemlerle davayı takip etmeli ”dedi.
Genişletilen başka bir politika, tehlikeli eylemlere ve zorluklara odaklanıyor. Bu, şirketin yakın zamanda, üzücü, tehlikeli ve hatta ölümcül viral trendlerin ardından Güvenlik Merkezinde ve diğer kaynaklarında yaptığı bir güncellemeyle ele aldığı bir alandır. dahil olmak üzere “öğretmene tokat at”, karartma meydan okuması ve öğrencileri okul mülkünü yok etmeye teşvik eden başka bir meydan okuma. TikTok, bu içeriğin bir kısmını platformunda barındırmayı reddetti, örneğin uygulamasında herhangi bir boğulma sorununa dair kanıt bulamadığını ve “öğretmene tokat attığını” iddia etti. değildi bir TikTok trendi. Bununla birlikte TikTok, Güvenlik Merkezine zorluklar ve sahtekarlıklar hakkında daha fazla bilgi eklemek için harekete geçti ve güvenlik uzmanları ve araştırmacıları tarafından tavsiye edildiği gibi, uygulamada bu tür içerik arandığında yeni uyarılar ekledi.
Bugün TikTok, tehlikeli eylemlerin ve zorlukların da kendi politikasına ayrılacağını ve TikTok’un genç kullanıcılarının çevrimiçi içeriği daha iyi değerlendirmesine yardımcı olmayı amaçlayan daha geniş bir PSA tarzı kampanyanın bir parçası olarak bir dizi içerik oluşturucu videosu yayınlayacağını söylüyor. Bu videolar, kullanıcıların “Dur, Düşün, Karar Ver ve Harekete Geç”, çevrimiçi zorluklarla karşılaştıklarında – yani, duraklamak için bir dakikanızı ayırın, zorluğun gerçek olup olmadığını düşünün (veya emin değilseniz bir yetişkine danışın), riskli veya zararlı olup olmadığına karar verin ve ardından meydan okumayı uygulamada bildirerek harekete geçin. ve paylaşmamayı seçerek.
Resim Kredisi: TikTok
Kongre oturumunun yalnızca TikTok için değil, Instagram, YouTube ve Snapchat gibi diğer sosyal ağlar için de önemli bir odak noktası olan yeme bozukluğu içeriği konusunda TikTok daha somut adımlar atıyor. Şirket, bulimia veya anoreksiyayı yücelten içerik gibi “yeme bozukluğu” içeriğini zaten kaldırdığını, ancak şimdi politikasını “düzensiz yeme” içeriğinin tanıtımını kısıtlamak için genişleteceğini söylüyor. Bu terim, aşırı kalori sayımı, kısa süreli açlık ve hatta aşırı egzersiz gibi daha sonra yeme bozukluğu teşhisine yol açabilecek diğer erken evre belirtilerini kapsamayı amaçlar. Bununla birlikte, bu aramaların yapılmasıyla ilgili nüans nedeniyle, TikTok’un üstesinden gelmesi daha zor bir alandır.
Şirket, bu videolardan bazılarının kendi başlarına iyi olabileceğini kabul ediyor, ancak insanların bu türden çok fazla tükettikleri filtre baloncuklarında sıkışıp kaldığını gördüğünde ne tür “devre kesicilerin” yerleştirilebileceğini incelemesi gerekiyor. içerik. Bu, TikTok’un Aralık ayında açıkladığı ve şirketin ürün ekibinin, güven ve güvenlik ekibinin nasıl paylaştığını paylaştığı haberleri takip ediyor. özellikler üzerinde işbirliği yapmaya başladı kullanıcıların daha çeşitli bir deneyim için öneriler yoluyla diğer alanlara yönlendirmek için filtre balonlarını “açmasına” yardımcı olmak.
Bu politika güncellemeleri üçlüsü kağıt üzerinde kulağa hoş gelse de, burada uygulama kritik ve zordur. TikTok’un bu içeriğin bazılarına karşı yönergeleri var, ancak kadın düşmanlığı ve transfobik içerik defalarca çatlaklardan kaymıştır. Zaman zaman, ihlal edici içerik TikTok’un algoritmaları tarafından bile desteklendi, binaen bazı testlere. Bu tür bir denetleme başarısızlığı, TikTok’un öğrenmeyi ve geliştirmeyi hedeflediğini söylediği bir alandır.
“TikTok’ta, herkesin yaratıcılığının gerçekten gelişmesini ve parlamasını sağlayan şeyin güvende hissetme olduğuna inanıyoruz. Ancak iyi yazılmış, nüanslı ve kullanıcı öncelikli politikalar bitiş çizgisi değildir. TikTok’un ABD Güven ve Güvenlik ekibi politika direktörü Tara Wadhwa, güncellemeler hakkında, “Herhangi bir politikanın gücü, daha ziyade, uygulanabilirlikte yatar” dedi. “Politikalarımızı TikTok’un sunduğu tüm özelliklere uyguluyoruz ve bunu yaparken, yaptırımlarımızda kesinlikle tutarlı ve adil olmaya çalışıyoruz” dedi.
Şu anda içerik, potansiyel politika ihlallerini belirlemek için eğitilmiş bir teknolojiden geçer ve bu, teknolojinin içeriğin ihlal edici olduğundan emin olması durumunda derhal kaldırılmasıyla sonuçlanır. Aksi takdirde, insan ılımlılığı için tutulur. Ancak bu gecikme süresi, karar verilirken içeriklerinin neden saatlerce (veya günlerce!) bekletildiğini veya ihlal edici olmayan içeriğin neden kaldırıldığını anlamayan içerik oluşturucuları etkileyerek onları itiraz etmeye zorluyor. Genellikle algoritmik veya insan hatalarına atfedilen bu hatalar, içerik oluşturucunun TikTok tarafından kişisel olarak hedeflendiğini hissetmesine neden olabilir.
TikTok, moderasyon sorunlarını çözmek için vücut pozitifliği, kapsayıcılık, medeni haklar, karşı konuşma ve daha fazlası gibi alanlarda uzmanlaşmış moderatör eğitimine yatırım yaptığını söylüyor. şirket iddia ediyor Geçen yılın üçüncü çeyreğinde yüklenen tüm videoların yaklaşık %1’i – veya 91 milyon video – çoğu daha izlenmeden önce, denetleme politikalarıyla kaldırıldı. Şirket bugün ayrıca, hem tam zamanlı ABD çalışanları hem de Güneydoğu Asya’da 7/24 kapsama sağlamak için sözleşmeli moderatörler olarak “binlerce” moderatör istihdam ediyor. Ve hata yaptığında dahili olarak otopsi yapıyor, diyor.
Ancak, yönetilmesi gereken daha fazla içerik olduğu için, denetleme ve ilke uygulama sorunları ölçekle daha da zorlaşır. Ve TikTok artık Facebook’un dünyanın en büyük uygulamalarından biri olarak büyümesini engelleyecek kadar büyüdü. Aslında, Meta sadece Facebook’un ilk düşüşünü gördüğünü bildirdi kısmen TikTok’u suçladığı dördüncü çeyrekte kullanıcılarda. Daha fazla genç, tercih ettikleri sosyal ağ olarak TikTok’a döndükçe, sadece doğru şeyleri söylemekle kalmayıp, aslında bunları doğru bir şekilde elde etmeleri için baskı yapılacak.