Avrupa Birliği’nde, Komisyon’un bazı parlamenterlerden, kullanıcı verilerini işleyen “kişiselleştirme” motorları olarak da bilinen profil oluşturmaya dayalı içerik akışlarını dizginleme çağrısıyla karşı karşıya olduğu Big Tech’in Avrupa Birliği’ndeki içerik tavsiye sistemleri etrafında başka bir politika çekişmesi ortaya çıkabilir. onlara hangi içeriğin gösterileceğini belirlemek için.
Ana akım platformların “kişiselleştirilmiş” içerik akışlarını güçlendirmek için kullanıcıları takip etmesi ve profil oluşturması, bireylere ve demokratik toplumlara yönelik potansiyel zararlar konusunda uzun süredir endişeleri artırıyor; eleştirmenler, teknolojinin sosyal medya bağımlılığını artırdığını ve savunmasız insanlar için zihinsel sağlık riskleri oluşturduğunu öne sürüyor. Ayrıca teknolojinin, bireyleri öfke ve öfkelerini kanalize ederek siyasi aşırılıklara doğru itebilecek bölücü ve kutuplaştırıcı içeriği artırma eğilimi yoluyla sosyal uyumu baltaladığına dair endişeler de var.
mektupAralarında S&D, sol, yeşiller, EPP ve Renew Europe’un da bulunduğu siyasi gruplardan 17 Avrupa Parlamentosu üyesi tarafından imzalanan anlaşma, teknoloji platformlarının tavsiye sistemlerinin varsayılan olarak kapatılmasını savunuyor. Bu fikir, bloğun Dijital Hizmetler Yasası (DSA) ile ilgili müzakereler sırasında ortaya atılan bir fikir. ) ancak demokratik çoğunluğa sahip olmadığı için nihai düzenlemeye dahil edilmedi. Bunun yerine AB kanun yapıcıları, tavsiye sistemleri için şeffaflık tedbirlerini ve daha büyük platformların (VLOP’lar olarak adlandırılan) profil oluşturmaya dayalı olmayan en az bir içerik beslemesi sağlaması zorunluluğunu kabul etti.
Ancak milletvekilleri mektuplarında teknoloji için genel bir temerrüt için baskı yapıyorlar. “Etkileşime dayalı öneri sistemleri, özellikle aşırı kişiselleştirilmiş sistemler, özellikle kışkırtılması muhtemel bireyleri hedef alarak duygusal ve aşırı içeriğe öncelik verdikleri için vatandaşlarımız ve genel olarak toplumumuz için ciddi bir tehdit oluşturuyor” diye yazıyorlar.
“Bu sinsi döngü, kullanıcıları sansasyonel ve tehlikeli içeriklerle karşı karşıya bırakıyor ve reklam gelirlerini en üst düzeye çıkarmak için platform etkileşimlerini uzatıyor. Uluslararası Af Örgütü’nün TikTok üzerinde yaptığı deney, algoritmanın 13 yaşındaki simüle edilmiş bir çocuğu yalnızca bir saat içinde intiharı yücelten videolara maruz bıraktığını ortaya çıkardı.’ Üstelik Meta’nın dahili araştırması, aşırılık yanlısı grupların katılımının %64’ünün önemli bir bölümünün öneri araçlarından kaynaklandığını ve bu durumun aşırılık yanlısı ideolojilerin yayılmasını şiddetlendirdiğini ortaya çıkardı.”
Çağrı şöyle: video paylaşım platformları için çevrimiçi güvenlik kılavuzu taslağıDüzenleme önümüzdeki Şubat ayında kapsam içi hizmetlerde yürürlüğe girdiğinde yerel olarak DSA gözetiminden sorumlu olacak olan İrlanda medya komisyonu (Coimisiún na Meán) tarafından bu ayın başlarında yayınlandı. Coimisiún na Meán şu anda video paylaşım platformlarının “profil oluşturmaya dayalı öneri algoritmalarının varsayılan olarak kapatılmasını sağlayacak önlemler” almasını öneren kılavuza danışıyor.
Kılavuzun yayınlanması bir bölümün ardından geldi: Dublin’de şiddetli toplumsal huzursuzluk Ülkedeki polis otoritesi bu olayın sosyal medyada ve mesajlaşma uygulamalarında aşırı sağcı “holiganlar” tarafından yayılan yanlış bilgilerle kışkırtıldığını ileri sürdü. Ve bu haftanın başlarında, İrlanda Sivil Özgürlükler Konseyi Dijital haklar konularında uzun süredir kampanya yürüten (ICCL) ayrıca Komisyon’a Coimisiún na Meán’ın teklifini desteklemesi ve teklifini yayınlaması çağrısında bulundu. kendi raporu sosyal medya algoritmalarının toplumları parçaladığını öne sürerek kişiselleştirilmiş yayınların varsayılan olarak kapalı olmasını savunuyor.
Avrupa Parlamentosu Üyeleri mektuplarında İrlanda medya düzenleme kurumunun önerisini de değerlendirerek, bu önerinin “duygusal ve aşırı içeriği” teşvik etme eğiliminde olan tavsiye sistemleriyle ilgili sorunları “etkili bir şekilde” ele alacağını öne sürüyor ve benzer şekilde sivil uyuma zarar verebileceğini öne sürüyorlar.
Mektup aynı zamanda yakın zamanda kabul edilen bir yasaya da gönderme yapıyor. Avrupa Parlamentosu’nun raporu Çevrimiçi hizmetlerin bağımlılık yaratan tasarımı ve tüketicinin korunması hakkında “kullanıcıları mümkün olduğu kadar uzun süre platformda tutmak ve böylece onları manipüle etmek amacıyla bireylerin, özellikle de reşit olmayanların profilini çıkaran çevrimiçi hizmetler üzerindeki tavsiye sistemlerinin zararlı etkisini vurguladılar” dediler. nefretin, intiharın, kendine zarar vermenin ve dezenformasyonun yapay olarak güçlendirilmesi”.
“Avrupa Komisyonunu İrlanda’nın izinden gitmeye ve bu tedbiri yalnızca TRIS kapsamında onaylamakla kalmayıp kararlı adımlar atmaya çağırıyoruz. [Technical Regulations Information System] prosedürünün yanı sıra bu tedbirin Çok Büyük Çevrimiçi Platformlar tarafından alınacak bir hafifletme tedbiri olarak önerilmesiyle [VLOPs] Vatandaşların verileri ve çevrimiçi ortamları üzerinde anlamlı bir kontrole sahip olmalarını sağlamak için Dijital Hizmetler Yasası’nın 35(1)(c) maddesi uyarınca” diye yazan milletvekilleri şunları ekliyor: “Vatandaşlarımızın, özellikle de genç neslin korunması son derece önemlidir Herkes için güvenli bir dijital ortamın sağlanmasında Avrupa Komisyonu’nun önemli bir rol oynadığına inanıyoruz. Bu konuda hızlı ve kararlı adımlarınızı bekliyoruz.”
TRIS uyarınca, AB Üye Devletlerinin, AB’nin tekliflerin bloğun kurallarıyla tutarlı olmasını sağlamak amacıyla yasal bir inceleme yapabilmesi için, teknik düzenleme taslaklarını ulusal yasa olarak kabul edilmeden önce Komisyona bildirmeleri gerekmektedir (bu durumda DSA). .
Sistem, AB düzenlemelerine ‘altın kaplama’ yapmayı amaçlayan ulusal yasaların incelemede başarısız olma ihtimalinin yüksek olduğu anlamına geliyor. Bu nedenle, İrlanda medya komisyonunun video platformlarının öneri sistemlerinin varsayılan olarak kapalı olması yönündeki teklifi, ilgili yasanın lafzının ötesine geçtiği göz önüne alındığında, TRIS sürecinden sağ çıkamayabilir.
Bununla birlikte, Coimisiún na Meán’ın teklifi AB’nin yasal tutarlılık incelemesini geçemese bile DSA, tavsiye sistemlerinden kaynaklanan riskleri değerlendirmek ve azaltmak için daha büyük platformlara (diğer adıyla VLOPS) bir gereklilik koymaktadır. Yani en azından olası platformlar, DSA sistemik risk azaltma yükümlülüklerini yerine getirmek için bir uyumluluk önlemi olarak bu sistemleri varsayılan olarak kendileri kapatmaya karar verebilir.
Her ne kadar henüz hiçbiri bu kadar ileri gitmemiş olsa da ve açıkçası bu, reklamla finanse edilen, etkileşim odaklı platformların hiçbirinin ticari bir temerrüt olarak seçeceği bir adım değil.
Komisyon, sorduğumuzda Avrupa Parlamentosu üyelerinin mektubu (ya da ICCL’nin raporu) hakkında kamuya açık yorum yapmayı reddetti. Bunun yerine bir sözcü, DSA’nın 38. Maddesinde belirtilen VLOP tavsiye sistemlerine ilişkin “açık” yükümlülükler olarak tanımladıkları şeye dikkat çekti; bu, platformların bu sistemlerin her biri için profil oluşturmaya dayalı olmayan en az bir seçenek sunmasını gerektirir. Ancak daha özgürce konuşabilmek için arka planda konuşan bir AB yetkilisiyle profil oluşturma beslemesi tartışmasını tartışabildik.
Platformların, DSA sistemik risk azaltma uyumluluğunun bir parçası olarak profil oluşturmaya dayalı öneri sistemlerini varsayılan olarak kapatmayı seçebilecekleri konusunda anlaştılar, ancak hiçbirinin henüz kendi sopasının bu kadar ileri gitmediğini doğruladılar.
Şimdiye kadar, yukarıda belirtilen (Madde 38) DSA gerekliliğini karşılamak amacıyla kullanıcılara kaçınma seçeneği sunmak için profil oluşturmayan yayınların kullanıcılara bir seçenek olarak sunulduğu (örneğin TikTok ve Instagram gibi) örnekleri gördük. bu tür içerik kişiselleştirmesi. Ancak bu, kullanıcıların etkin bir şekilde devre dışı bırakılmasını gerektirir; oysa feed’lerin varsayılan olarak profil oluşturmayan olarak ayarlanması, açıkça, etkili olması için kullanıcı eylemi gerektirmeyeceğinden daha güçlü bir içerik düzenleme türü olacaktır.
Konuştuğumuz AB yetkilisi, Komisyonun, bu hafta başında X’te açılan resmi dava da dahil olmak üzere, VLOP’lara ilişkin DSA’nın uygulayıcısı olarak tavsiye sistemlerini araştırdığını doğruladı. Öneri sistemleri aynı zamanda Komisyonun VLOP’lara gönderdiği bazı resmi bilgi taleplerinin de odak noktası olmuştur; bunlar arasında çocuk güvenliği risklerine odaklanan Instagram’a da yer verilmiştir. Ve AB’nin, uygulayıcı rolü gereği, yani kanunları uygulamak için sahip olduğu yetkileri kullanarak, daha büyük platformları kişiselleştirilmiş yayınları varsayılan olarak kapatmaya zorlayabileceği konusunda anlaştılar.
Ancak Komisyon’un böyle bir adımı ancak belirli riskleri azaltmada etkili olacağına karar vermesi halinde atacağını öne sürdüler. Yetkili, platform başına bile çok sayıda profil tabanlı içerik akışının mevcut olduğuna dikkat çekti ve her birinin bağlam içinde değerlendirilmesi gerektiğini vurguladı. Daha genel olarak tavsiye sistemlerinin riskleri etrafındaki tartışmada “nüans” talebinde bulundular.
Komisyon’un buradaki yaklaşımının, endişelerin vaka bazında değerlendirilmesi olacağını öne sürdüler; kapsamlı önlemler yerine VLOP’lara ilişkin veriye dayalı politika müdahaleleri için seslerini yükselttiler. Sonuçta bu, video paylaşımı ve sosyal medya devlerinin yanı sıra perakende satış ve bilgi hizmetleri ile (en son olarak) porno sitelerini de kapsayacak kadar çeşitliliğe sahip bir platformlar topluluğudur. Bunları destekleyecek sağlam delillerin bulunmaması halinde, icra kararlarının hukuki zorluklar nedeniyle başarısızlığa uğrama riski, açıkça Komisyon’un endişe duyduğu bir husustur.
Yetkili ayrıca, tavsiye sistemi tartışmasıyla ilgili temel hususları bile anlamak için daha fazla veri toplamaya ihtiyaç duyulduğunu savundu – örneğin kişiselleştirmenin varsayılan olarak kapalı konuma getirilmesinin bir risk azaltma önlemi olarak etkili olup olmayacağı gibi. Davranışsal yönlerin de daha fazla çalışmaya ihtiyaç duyduğunu öne sürdüler.
Özellikle çocukların, ayarı tersine çevirerek bu tür bir sınırlamayı aşma konusunda oldukça motive olabileceklerini, konu ebeveyn kontrollerinden kaçmak olduğunda çocukların bunu yapabildiklerini gösterdiklerini ileri sürdüler; profil oluşturmaya dayalı öneri sistemlerini varsayılan olarak kapatmanın bunun ne anlama geldiğinin açık olmadığını iddia ettiler. aslında bir çocuk koruma tedbiri olarak etkili olabilir.
Genel olarak AB kaynağımızdan gelen mesaj, düzenlemeye ve Komisyona çalışması için zaman verilmesi yönündeki bir ricaydı. DSA ancak Ağustos ayının sonuna doğru ilk VLOP setinde yürürlüğe girdi. Ancak daha bu hafta, bir öneri sistemi bileşeni içeren (X’in Topluluk Notları olarak bilinen kitle kaynaklı içerik denetleme sistemiyle ilgili endişelerle ilgili) ilk resmi soruşturmanın (X hakkında) açıldığını gördük.
Ayrıca platformların ilk risk değerlendirme raporlarını sunmasının ardından son haftalarda platformlar hakkında resmi bilgi taleplerinin arttığını da gördük; bu da Komisyonun şu ana kadar sağlanan ayrıntı seviyesinden memnun olmadığını gösteriyor. Bu, AB’nin yeni bölgesel İnternet şerifi rolüne alışmasıyla birlikte yakında daha sıkı önlemlerin alınabileceği anlamına geliyor. Sonuç olarak 2024, bloğun Büyük Teknoloji’ye yönelik politika tepkisi açısından önemli bir yıl olacak gibi görünüyor. Ayrıca AB’nin yaptırımlarının dijital haklar savunucularının özlemini duyduğu sonuçları sağlayıp sağlamadığını değerlendirmek için.
Yetkili bize, “Bunlar yasal yetkilerimiz dahilinde platformları sorguladığımız konular – ancak Instagram’ın algoritması X’in algoritmasından farklı, TikTok’un algoritmasından farklı – bu konuda incelikli olmamız gerekecek” dedi ve Komisyon’un yaklaşımının değişeceğini öne sürdü Farklı akışlardaki bağlamlara ve risklere bağlı olarak VLOP’lar için farklı varsayılanların zorunlu kılınmasını içerebilecek bir müdahaleler dizisi oluşturun. “Her seferinde platformların özelliklerini gerçekten hesaba katan bir yaklaşım benimsemeyi tercih ederiz.”
“Şimdi bu yaptırım eylemini başlatıyoruz. Ve bu aslında enerjimizi rakip yasal çerçevelere falan harcamamamız için bir neden daha,” diye eklediler ve dijital haklar savunucularının Komisyonun programına katılmaları için bir çağrıda bulundular. “DSA çerçevesinde çalışmayı tercih ederim; bu da sorunları çözebilir” [the MEPs’ letter and ICCL report] tavsiye sistemlerini yükseltiyor ve yasa dışı içeriği güçlendiriyor.”