İtalya’nın rekabet ve tüketici otoritesi AGCM, algoritmik güvenlik endişeleriyle ilgili soruşturmanın ardından TikTok’a 10 milyon Euro (neredeyse 11 milyon dolar) para cezası verdi.
Yetkili makam geçen yıl, platform kullanıcılarının yüzlerinde derilerinin sıkıştırılmasıyla oluşan izlerin videolarını paylaştığı bildirilen “Fransız yara izi” iddiasıyla ilgili bir soruşturma başlattı.
İçinde basın bülteni Perşembe günü AGCM, ByteDance grubundaki üç bölgesel şirketin, İrlanda merkezli TikTok Technology Limited, TikTok Information Technologies UK Limited ve TikTok Italy Srl’nin “haksız ticari uygulama” olarak özetlediği durum nedeniyle yaptırıma maruz kaldığını söyledi.
“Şirket, platformda yayınlanan, özellikle de küçüklerin ve savunmasız bireylerin güvenliğini tehdit edebilecek içerikleri izlemek için uygun mekanizmaları uygulama konusunda başarısız oldu. Üstelik bu içerik, algoritmik profil oluşturmanın bir sonucu olarak kullanıcılara sistematik olarak yeniden öneriliyor ve sosyal ağın giderek artan kullanımını teşvik ediyor.” diye yazdı AGCM.
Yetkili, soruşturmanın TikTok’un “Fransız yara izi” sorunuyla ilgili videolar gibi “özellikle küçük ve savunmasızsa kullanıcıların psiko-fiziksel güvenliğini tehdit etmesi muhtemel” içeriği yayma sorumluluğunu doğruladığını söyledi. Ayrıca platformun bu tür içeriğin yayılmasını önlemek için yeterli önlemleri almadığını ve kendi platform kurallarına tam olarak uymadığını tespit etti.
AGCM ayrıca TikTok’un “ergenlerin belirli hassasiyetlerini yeterince hesaba katmadan” uygulandığını söylediği kuralları nasıl uyguladığını da eleştirdi. Örneğin, gençlerin beyinlerinin hâlâ gelişmekte olduğunu ve gençlerin, sosyal olarak uyum sağlamaya çalışmak için grup davranışlarını taklit etme konusunda akran baskısına yatkın olabilecekleri için özellikle risk altında olabileceğine dikkat çekti.
Yetkilinin açıklamaları, özellikle TikTok’un öneri sisteminin “potansiyel olarak tehlikeli” içeriği yaymadaki rolünü vurguluyor ve platformun etkileşimi artırma ve reklam gelirini artırmak için kullanıcı etkileşimlerini ve hizmette harcanan zamanı artırma teşvikine dikkat çekiyor. Sistem, TikTok’un “Sizin İçin” ve “Takip Edilenler” akışlarını destekler ve varsayılan olarak kullanıcıların algoritmik profilini çıkarmaya dayanır ve onlara hangi içeriğin gösterileceğini belirlemek için dijital etkinliklerini izler.
AGCM, profil oluşturmaya dayalı içerik akışlarının yönlendirdiği etkileşimi eleştirmesi açısından dikkate değer başka bir açıklamasında, “Bu, platformu giderek daha fazla kullanmaya teşvik edilen kullanıcıların gereksiz şekilde koşullandırılmasına neden oluyor” dedi.
Sorularımızı yetkililere ilettik. Ancak algoritmik profil oluşturmanın risklerine ilişkin olumsuz değerlendirmesi, Avrupa’daki bazı yasa koyucuların profil oluşturmaya dayalı içerik akışlarının varsayılan olarak devre dışı bırakılması yönündeki yenilenen çağrıları ışığında ilginç görünüyor.
Sivil toplum grupları, örneğin ICCLayrıca bunun, reklamla finanse edilen sosyal medya platformlarının katılım odaklı tavsiye sistemleri aracılığıyla para kazandığı, bölünmeyi güçlendiren ve kâr için toplumsal uyumu zayıflatan ikincil bir etkiye sahip olan öfke musluğunu kapatacağını da savunuyor.
TikTok, AGCM’nin ceza verme kararına itiraz ediyor.
Platform yaptığı açıklamada, müdahaleyi tartışmalı ancak küçük ölçekli tek bir sorunla ilişkili olarak çerçeveleyerek, küçüklerin ve savunmasız bireylerin maruz kaldığı algoritmik risklere ilişkin değerlendirmesini küçümsemeye çalıştı. İşte TikTok’un bize söyledikleri:
Bu karara katılmıyoruz. AGCM’nin geçen yılki duyurusundan önce, “Fransız Yarası” olarak adlandırılan içerik İtalya’da günlük ortalama yalnızca 100 aramada yapılıyordu ve uzun zaman önce bu içeriğin görünürlüğünü U18’lerle sınırladık ve aynı zamanda Sizin İçin beslemesi için uygunsuz hale getirdik.
İtalya’daki yaptırım bir AB üye ülkesiyle sınırlı olsa da Avrupa Komisyonu, TikTok’un pan-AB Dijital Hizmetler Yasası’ndaki (DSA) algoritmik hesap verebilirlik ve şeffaflık hükümlerine uygunluğunu denetlemekten sorumludur; burada uyumsuzluk cezaları %6’ya kadar ölçeklenebilir. küresel yıllık ciro. TikTok, geçen yılın nisan ayında DSA kapsamında çok büyük bir platform olarak belirlenmişti ve uyumluluğun yaz sonuna doğru gerçekleşmesi bekleniyordu.
DSA’nın bir sonucu olarak dikkate değer bir değişiklik, TikTok’un kullanıcılara profil oluşturmaya dayalı olmayan yayınlar sunmasıdır. Ancak bu alternatif akışlar varsayılan olarak kapalıdır; yani kullanıcılar, kendileri bunları kapatmak için harekete geçmedikçe yapay zeka tabanlı izleme ve profil oluşturmaya tabi olmaya devam eder.
Geçtiğimiz ay AB, bağımlılık yaratan tasarım ve zararlı içerik ile küçüklerin korunmasının odak alanları arasında olduğunu öne sürerek TikTok hakkında resmi bir soruşturma başlattı. Bu prosedür halen devam etmektedir.
TikTok, Komisyon’a küçükleri korumaya yönelik yaklaşımına ilişkin ayrıntılı bir açıklama sunma fırsatını sabırsızlıkla beklediğini söyledi.
Ancak şirket, son yıllarda çocuk güvenliği konusunda endişe duyan bölgesel uygulayıcılarla bir dizi anlaşmazlık yaşadı; bunlar arasında İtalyan veri koruma otoritesinin çocuk koruma müdahalesi de vardı; reşit olmayanlarla da ilgili veri koruma hataları nedeniyle geçen sonbaharda 345 milyon Euro para cezası; ve küçük güvenlik ve profil oluşturma konusunda endişe duyan tüketici koruma gruplarından uzun süredir devam eden şikayetler.
TikTok ayrıca bloğun Görsel-İşitsel Medya Hizmetleri Direktifini uygulayan üye devlet düzeyindeki kuruluşlar tarafından düzenlemelerin artırılması olasılığıyla da karşı karşıya. İrlanda’nın Coimisiún na Meán’ı gibi kuralları uygulamayı düşünüyor profil oluşturmaya dayalı öneri algoritmalarının varsayılan olarak kapatılmasını gerektiren video paylaşım platformlarına.
ABD’deki platform için de tablo hiç de parlak değil; milletvekilleri, ulusal güvenlik ve platformun kullanıcıları izleme ve profil oluşturma potansiyelini öne sürerek Çinli ana şirket ByteDance ile bağlarını kesmediği sürece TikTok’un yasaklanması için bir yasa tasarısı teklif etti. yabancı bir hükümetin Amerikalıları manipüle etmesi için bir yol.