Yapay zeka devreye girdi artı işaretleri dolandırıcılık, dezenformasyon ve diğer kötü amaçlı çevrimiçi faaliyetler için nasıl kötüye kullanılabileceği konusunda endişe duyan hükümetlerin; Şimdi Birleşik Krallık’ta bir düzenleyici, özellikle çocuklara zararlı içeriklerle ilgili olmak üzere, yapay zekanın bazılarıyla mücadelede nasıl kullanıldığını keşfetmeye hazırlanıyor.
OfcomBirleşik Krallık’ın kurallarını uygulamakla görevli düzenleyici Çevrimiçi Güvenlik Yasasıözellikle çocukları zararlı içerikten korumak ve çocuklara yönelik cinsel istismarı tespit etmek amacıyla çevrimiçi yasa dışı içeriği proaktif olarak tespit etmek ve kaldırmak için yapay zeka ve diğer otomatik araçların bugün ve gelecekte nasıl kullanılabileceği konusunda bir danışma başlatmayı planladığını duyurdu. önceden tespit edilmesi zor olan materyal.
Araçlar, Ofcom’un çevrimiçi çocuk güvenliğine odaklanarak bir araya getirdiği daha geniş bir teklif kümesinin parçası olacak. Ofcom, kapsamlı tekliflere yönelik istişarelerin önümüzdeki haftalarda başlayacağını ve bu yılın sonlarında yapılacak yapay zeka istişarelerinin başlayacağını söyledi.
Ofcom’un Çevrimiçi Güvenlik Grubu yöneticisi Mark Bunting, yapay zekaya olan ilgisinin, yapay zekanın günümüzde bir tarama aracı olarak ne kadar iyi kullanıldığına bakmakla başladığını söylüyor.
TechCrunch ile yaptığı röportajda “Bazı hizmetler çocukları bu içerikten tespit etmek ve korumak için bu araçları zaten kullanıyor” dedi. “Ancak bu araçların ne kadar doğru ve etkili olduğuna dair çok fazla bilgi yok. Endüstrinin değerlendirdiğinden emin olabileceğimiz yollara bakmak istiyoruz. [that] bunları kullanırken ifade özgürlüğüne ve mahremiyete yönelik risklerin yönetildiğinden emin olmak.”
Olası bir sonuç, Ofcom’un platformların nasıl ve hangi değerlendirme yapması gerektiğini önermesi olacaktır; bu, potansiyel olarak platformların daha gelişmiş araçlar benimsemesine yol açmakla kalmayacak, aynı zamanda içeriği engellemede veya genç kullanıcıları tutmak için daha iyi yollar oluşturmada iyileştirmeler sağlamada başarısız olmaları durumunda potansiyel olarak para cezalarına yol açacaktır. onu görmekten.
“Birçok çevrimiçi güvenlik düzenlemesinde olduğu gibi, kullanıcıları korumak için uygun adımları attığından ve uygun araçları kullandığından emin olma sorumluluğu firmalara aittir” dedi.
Hareketi hem eleştirenler hem de destekleyenler olacak. Yapay zeka araştırmacıları yapay zekayı kullanmanın giderek daha karmaşık yollarını buluyor örneğin derin sahtekarlıkları tespit etmekkullanıcıları çevrimiçi olarak doğrulamanın yanı sıra. Yine de bir o kadar çok var şüpheciler AI tespitinin kusursuz olmaktan uzak olduğunu belirtenler.
Ofcom, Birleşik Krallık’ta çocukların çevrimiçi ortamda nasıl etkileşim kurduğuna ilişkin en son araştırmasını yayınlarken aynı zamanda AI araçlarına ilişkin istişareyi de duyurdu; bu araştırma genel olarak her zamankinden daha fazla sayıda küçük çocuğun internete bağlı olduğunu ortaya çıkardı; öyle ki Ofcom artık giderek daha genç yaş grupları arasında aktiviteyi artırıyor.
ABD’li ebeveynler arasında yapılan bir ankete göre, 5-7 yaş grubundaki çocukların neredeyse dörtte biri, yani %24’ü artık kendi akıllı telefonlarına sahip ve tabletleri de dahil ettiğinizde bu oran %76’ya çıkıyor. Aynı yaş grubu, bu cihazlarda medyayı çok daha fazla kullanıyor: %65’i sesli ve görüntülü arama yapıyor (sadece bir yıl önce bu oran %59’du) ve çocukların yarısı (bir yıl önce %39’a kıyasla) medya akışını izliyor .
Bazı ana akım sosyal medya uygulamalarının yaş sınırlamaları azalıyor ancak sınırlar ne olursa olsun, Birleşik Krallık’ta bunlara zaten pek dikkat edilmiyor. Ofcom’un bulgularına göre 5-7 yaş grubundaki çocukların yüzde 38’i sosyal medya kullanıyor. Meta’nın WhatsApp’ı %37 ile aralarında en popüler uygulamadır. Ve muhtemelen Meta’nın amiral gemisi resim uygulamasının ByteDance’in viral sansasyonundan daha az popüler olmasının ilk örneğinde, TikTok’un 5-7 yaş arası çocukların %30’u tarafından kullanıldığı ve Instagram’ın “sadece” %22 olduğu görüldü. Discord listeyi tamamladı ancak yalnızca %4 ile önemli ölçüde daha az popüler.
Bu yaştaki çocukların yaklaşık üçte biri, yani %32’si kendi başlarına internete giriyor ve ebeveynlerin %30’u, reşit olmayan çocuklarının sosyal medya profillerine sahip olmasının sorun olmadığını söyledi. YouTube Kids %48 ile genç kullanıcılar arasında en popüler ağ olmaya devam ediyor.
Çocukların daimi favorisi olan oyun, 5-7 yaş arası çocukların %41’i tarafından kullanılmaya başlandı ve bu yaş grubundaki çocukların %15’i nişancı oyunları oynuyor.
Ankete katılan ebeveynlerin %76’sı küçük çocuklarıyla çevrimiçi ortamda güvende kalma konusunda konuştuklarını söylese de Ofcom, bir çocuğun gördükleri ile bildirebilecekleri arasında soru işaretleri olduğuna dikkat çekiyor. Ofcom, 8-17 yaş arası daha büyük çocukları araştırırken onlarla doğrudan görüştü. Çocukların yüzde 32’si internette endişe verici içerik gördüklerini bildirdi, ancak ebeveynlerinin yalnızca yüzde 20’si herhangi bir şey bildirdiğini söyledi.
Ofcom, raporlamadaki bazı tutarsızlıkları hesaba katsa bile, “Araştırma, daha büyük çocukların çevrimiçi ortamda potansiyel olarak zararlı içeriğe maruz kalmaları ile çevrimiçi deneyimleriyle ilgili ebeveynleriyle paylaştıkları arasında bir kopukluk olduğunu gösteriyor” diye yazıyor. Endişe verici içerik de zorluklardan sadece biri: derin sahtekarlıklar da bir sorun. Ofcom, 16-17 yaş arası çocukların yüzde 25’inin internette sahte olanı gerçek olandan ayırt etme konusunda emin olmadıklarını söyledi.