Kenara çekil, Tiktok. Artık resmi olan Çevrimiçi Güvenlik Yasasını uygulayan Birleşik Krallık düzenleyici kurumu Ofcom, daha da büyük bir hedefi belirlemeye hazırlanıyor: Google ve Bing gibi arama motorları ve bunların kendine zarar verme, intihar ve diğer zararlı içeriklerin bir tıklamayla sunulmasında oynadıkları rol. özellikle reşit olmayan kullanıcılar için bir düğme.
Ofcom tarafından görevlendirilen ve Network Contagion Research Institute tarafından hazırlanan bir rapor, Google, Microsoft’un Bing, DuckDuckGo, Yahoo ve AOL gibi büyük arama motorlarının, web sayfalarına, resimlere kolay ve hızlı erişimi kolaylaştırarak bu tür içeriklere “tek tıklamayla açılan geçitler” haline geldiğini ortaya çıkardı. ve videolar — kendine zarar verme temel terimleriyle ilgili her beş arama sonucundan biri, daha fazla zararlı içeriğe bağlantı veriyor.
Araştırma zamanlı ve önemlidir çünkü son zamanlarda çevrimiçi zararlı içeriklere odaklanılan konuların çoğu, Instagram ve Instagram gibi etrafı duvarlarla çevrili sosyal medya sitelerinin etkisi ve kullanımı üzerine yoğunlaşmıştır. Tiktok. Bu yeni araştırma, önemli ölçüde, Ofcom’un çok daha büyük bir potansiyel tehdidin olup olmadığına dair kanıt toplamasına yardımcı olacak ilk adımdır; Google.com gibi açık uçlu siteler, aylık aktif TikTok’a kıyasla ayda 80 milyardan fazla ziyaret almaktadır. Kullanıcı sayısı yaklaşık 1,7 milyar.
Ofcom Çevrimiçi Güvenlik Politikası Geliştirme Direktörü Almudena Lara, “Arama motorları genellikle insanların çevrimiçi deneyiminin başlangıç noktasıdır ve bunların, ciddi derecede zararlı, kendine zarar veren içeriğe tek tıklamayla açılan bir geçit görevi görebileceğinden endişe duyuyoruz” dedi. ifade. “Arama hizmetlerinin, baharda gerçekleştireceğimiz geniş kapsamlı istişare öncesinde potansiyel risklerini ve koruma tedbirlerinin etkinliğini – özellikle de çocukları çevrimiçi ortamda güvende tutmak için – anlamaları gerekiyor.”
Ofcom, araştırmacıların rapor için bu beş arama motorundaki yaklaşık 37.000 sonuç bağlantısını analiz ettiğini söyledi. Hem yaygın hem de daha şifreli arama terimlerini (temel taramadan kaçmaya çalışmak için şifreli) kullanarak, insanların arama motorlarıyla etkileşimde bulunabileceği en temel yöntemlerin yanı sıra en kötü yöntemleri taklit etmek için kasıtlı olarak “güvenli arama” ebeveyn tarama araçlarını devre dışı bırakan aramalar yürüttüler. -vaka senaryoları.
Sonuçlar pek çok açıdan tahmin edebileceğiniz kadar kötü ve kahrediciydi.
Arama sonuçlarının %22’si zararlı içeriğe yönlendiren tek tıklamalı bağlantılar üretmekle kalmadı (çeşitli kendine zarar verme biçimlerine yönelik talimatlar da dahil), aynı zamanda bu içerik, sonuçlarda en üstteki bağlantıların tam %19’unu oluşturdu (ve 22) Sonuçların ilk sayfalarındaki bağlantıların yüzdesi).
Araştırmacılar, görsel aramaların özellikle berbat olduğunu, bunların tam %50’sinin aramalar için zararlı içerik döndürdüğünü, bunu %28 ile web sayfalarının ve %22 ile videonun izlediğini buldu. Rapor, bunlardan bazılarının arama motorları tarafından daha iyi taranamamasının bir nedeninin, algoritmaların kendine zarar verme görüntülerini tıbbi ve diğer meşru medyayla karıştırabilmesi olduğu sonucuna varıyor.
Şifreli arama terimleri, tarama algoritmalarından kaçma konusunda da daha başarılıydı: Bunlar, bir kullanıcının zararlı içeriğe erişme olasılığını altı kat artırıyordu.
Raporda değinilmeyen ancak zamanla daha büyük bir sorun haline gelmesi muhtemel olan şey, üretken yapay zeka aramalarının bu alanda oynayabileceği roldür. Şu ana kadar ChatGPT gibi platformların toksik amaçlarla kötüye kullanılmasını önlemek için daha fazla kontrolün uygulamaya konulduğu görülüyor. Soru, kullanıcıların bununla nasıl oynayacağını ve bunun neye yol açabileceğini anlayıp anlayamayacakları olacak.
“Kullanıcıların güvenliği korunurken inovasyonun gelişebilmesi için yeni ve gelişmekte olan teknolojilerin fırsatları ve riskleri hakkında derinlemesine bir anlayış oluşturmak için halihazırda çalışıyoruz. Bir Ofcom sözcüsü TechCrunch’a verdiği demeçte, Üretken Yapay Zeka’nın bazı uygulamalarının Çevrimiçi Güvenlik Yasası kapsamında olması muhtemeldir ve hizmetlerin risk değerlendirmesini gerçekleştirirken kullanımıyla ilgili riskleri de değerlendirmesini bekliyoruz.” dedi.
Bunların hepsi bir kabus değil: Arama sonuçlarının yaklaşık %22’si de olumlu yönde faydalı olduğu için işaretlendi.
Rapor, Ofcom tarafından mevcut sorun hakkında daha iyi bir fikir edinmek için kullanılıyor olabilir, ancak aynı zamanda arama motoru sağlayıcılarına, üzerinde çalışmaya hazırlanmaları gerekenler konusunda da erken bir sinyaldir. Ofcom, Çevrimiçi Güvenlik Yasa Tasarısı’nın uygulanmasında ilk odak noktasının çocuklar olacağını açıkça ifade etti. Ofcom ilkbaharda, “arama hizmetlerinin çocukları yeterince korumak için atabileceği pratik adımları” ortaya koymayı amaçlayan Çocukların Korunması Uygulama Kuralları hakkında bir danışma toplantısı başlatmayı planlıyor.
Bu, arama motorları da dahil olmak üzere internetin tamamında çocukların intihar veya yeme bozuklukları gibi hassas konularla ilgili zararlı içerikle karşılaşma olasılığını en aza indirecek adımların atılmasını içerecektir.
Ofcom sözcüsü, “Bunu ciddiye almayan teknoloji firmaları, Ofcom’un gelecekte kendilerine karşı uygun önlemleri almasını bekleyebilirler” dedi. Bu, Ofcom’un yalnızca son çare olarak kullanacağını söylediği para cezalarını ve en kötü senaryolarda, İSS’lerin kurallara uymayan hizmetlere erişimi engellemesini gerektiren Mahkeme emirlerini içerecektir. Kuralları ihlal eden hizmetleri denetleyen yöneticiler için de potansiyel olarak cezai sorumluluk söz konusu olabilir.
Google şu ana kadar raporun bazı bulgularına ve çabalarını nasıl tanımladığına itiraz etti ve ebeveyn kontrollerinin bu bulguların bazılarını geçersiz kılan önemli işlerin çoğunu yaptığını iddia etti.
Bir sözcü TechCrunch’a yaptığı açıklamada, “İnsanları çevrimiçi ortamda güvende tutmaya tamamen kararlıyız” dedi. “Ofcom’un çalışması, Google Arama’da uyguladığımız önlemleri yansıtmıyor ve Arama’da nadiren kullanılan terimlere atıfta bulunuyor. Zararlı ve şok edici arama sonuçlarını filtreleyen Güvenli Arama özelliğimiz, 18 yaşın altındaki kullanıcılar için varsayılan olarak açıktır; kendine zarar veren içerik gibi müstehcen görüntüleri bulanıklaştıran bir özellik olan Güvenli Arama bulanıklaştırma ayarı ise tüm hesaplar için varsayılan olarak açıktır. Ayrıca, insanların intihar, kendine zarar verme veya yeme bozuklukları hakkında bilgi almak için Google Arama’ya geldiklerinde, kriz destek kaynak panellerinin sayfanın üst kısmında görünmesini sağlamak için uzman kuruluşlar ve hayır kurumlarıyla da yakın işbirliği içinde çalışıyoruz.” Microsoft ve DuckDuckGo şu ana kadar yorum talebine yanıt vermedi.