Haber derecelendirme grubu NewsGuard, Pazartesi günü yayınlanan bir rapora göre, yapay zeka sohbet botları tarafından oluşturulan ve çevrimiçi olarak çoğalan düzinelerce haber sitesi buldu ve bu, teknolojinin yerleşik dolandırıcılık tekniklerini nasıl güçlendirebileceğine dair soruları gündeme getiriyor.
Bloomberg tarafından bağımsız olarak incelenen 49 web sitesi gamı yönetiyor. Bazıları News Live 79 ve Daily Business Post gibi jenerik isimler taşıyan son dakika haber siteleri gibi giyinirken, diğerleri yaşam tarzı ipuçlarını, ünlü haberlerini paylaşıyor veya sponsorlu içerik yayınlıyor. Ancak hiçbiri, OpenAI’nin ChatGPT’si ve potansiyel olarak Alphabet’in Google Bard’ı gibi basit kullanıcı istemlerine dayalı ayrıntılı metin oluşturabilen AI sohbet robotları kullanılarak doldurulduğunu açıklamaz. AI araçlarının halk tarafından yaygın olarak kullanılmaya başlamasıyla birlikte bu yıl birçok web sitesi yayınlanmaya başladı.
Birkaç durumda NewsGuard, sohbet robotlarının yayınlanan parçalar için nasıl yalanlar ürettiğini belgeledi. Yalnızca Nisan ayında, CelebritiesDeaths.com adlı bir web sitesi, “Biden öldü. Harris, Başkan vekili, adres 09:00” Sahte bir ölüm ilanının bir parçası olarak bir mimarın hayatı ve eserleri hakkında başka bir uydurulmuş gerçek. TNewsNetwork adlı bir site de bir YouTube videosuna dayanarak Rusya-Ukrayna savaşında binlerce askerin ölümüyle ilgili doğrulanmamış bir hikaye yayınladı.
Sitelerin çoğu, içerik çiftlikleri gibi görünüyor – reklam getirmek için yayınları dağıtan anonim kaynaklar tarafından yönetilen düşük kaliteli web siteleri. NewsGuard raporunda, web sitelerinin dünyanın her yerinde bulunduğunu ve İngilizce, Portekizce, Tagalogca ve Tayca dahil olmak üzere birçok dilde yayınlandığını söyledi.
Bir avuç site, insanların arama sıralamalarına yardımcı olmak için bir ücret karşılığında web sitelerinde işletmelerinden bahsedebilecekleri “misafir ilanı” reklamını yaparak bir miktar gelir elde etti. Ünlülerin biyografilerini yayınlayan ve ilgili Facebook sayfasının 124.000 takipçisi olan ScoopEarth.com gibi diğerleri sosyal medyada bir izleyici kitlesi oluşturmaya çalıştı.
Sitelerin yarısından fazlası, sitelerdeki reklam alanlarının algoritmalar kullanılarak otomatik olarak alınıp satıldığı programatik reklamlar yayınlayarak para kazanıyor. Endişeler, siteler tarafından yapay zeka sohbet robotu Bard kullanılmış olabilecek ve reklam teknolojisi yarı yarıya gelir sağlayan Google için özellikle zorlayıcı.
NewsGuard eş-İcra Kurulu Başkanı Gordon Crovitz, grubun raporunun OpenAI ve Google gibi şirketlerin haber uydurmamak için modellerini eğitmeye özen göstermeleri gerektiğini gösterdiğini söyledi. Wall Street Journal’ın eski bir yayıncısı olan Crovitz, “Sadece haber siteleri gibi görünen şeyleri üretmek için gerçekleri uydurduğu bilinen AI modellerini kullanmak, gazetecilik kılığına giren dolandırıcılıktır” dedi.
OpenAI, bir yorum talebine hemen yanıt vermedi, ancak daha önce, uyarılar vermek veya ciddi durumlarda kullanıcıları yasaklamak da dahil olmak üzere, modelinin kötüye kullanımını tespit etmek ve bunlara karşı yaptırım uygulamak için insan gözden geçirenler ve otomatik sistemlerin bir karışımını kullandığını belirtmişti.
Google sözcüsü Michael Aciman, AI tarafından oluşturulan web sitelerinin reklamcılık politikalarını ihlal edip etmediğine ilişkin Bloomberg’den gelen sorulara yanıt olarak, şirketin reklamların zararlı veya spam içerikli veya başka sitelerden kopyalanmış içerikle birlikte yayınlanmasına izin vermediğini söyledi. Acıman yaptığı açıklamada, “Bu politikaları uygularken içeriğin nasıl oluşturulduğundan çok kalitesine odaklanıyoruz ve ihlaller tespit edersek reklamların yayınlanmasını engelliyor veya kaldırıyoruz” dedi.
Google, Bloomberg’in temasa geçmesinin ardından, sitelerdeki bazı tek tek sayfalarda sunulan reklamları kaldırdığını ve şirketin yaygın ihlaller bulduğu durumlarda, web sitelerinden reklamları tamamen kaldırdığını ekledi. Google, AI tarafından oluşturulan içeriğin varlığının doğası gereği reklam politikalarının ihlali olmadığını, ancak içeriği mevcut yayıncı politikalarına göre değerlendirdiğini söyledi. Ayrıca, arama sonuçlarındaki sıralamayı değiştirmek amacıyla içerik oluşturmak için yapay zeka da dahil olmak üzere otomasyon kullanmanın şirketin spam politikalarını ihlal ettiğini söyledi. Şirket, reklam ekosistemindeki kötüye kullanım eğilimlerini düzenli olarak izliyor ve politikalarını ve uygulama sistemlerini buna göre ayarlıyor.
Bentley Üniversitesi’nde veri bilimi ve matematik doçenti Noah Giansiracusa, planın yeni olmayabileceğini ancak daha kolay, daha hızlı ve daha ucuz hale geldiğini söyledi.
Giansiracusa, bu tür bir dolandırıcılığı teşvik eden aktörlerin “neyin etkili olduğunu bulmak için deneyler yapmaya devam edecekler” dedi. “Daha fazla haber odası yapay zekaya yönelip daha fazlasını otomatikleştirmeye başladıkça ve içerik fabrikaları daha fazla otomatikleştikçe, üst ve alt kısım ortada buluşarak çok daha düşük kalitede bir çevrimiçi bilgi ekosistemi oluşturacak.”
Siteleri bulmak için NewsGuard araştırmacıları, “AI geniş dil modeli olarak” ve “Eylül 2021’deki son tarihim” gibi AI sohbet robotları tarafından yaygın olarak üretilen ifadeler için anahtar kelime aramalarını kullandı. Araştırmacılar, aramaları Facebook’a ait sosyal medya analiz platformu CrowdTangle ve medya izleme platformu Meltwater gibi araçlar üzerinde yürüttüler. Ayrıca makaleleri, belirli pasajların tamamen yapay zeka tarafından yazılıp yazılmadığını belirleyen yapay zeka metin sınıflandırıcısı GPTZero’yu kullanarak değerlendirdiler.
NewsGuard tarafından analiz edilen sitelerin her biri, yapay zeka tarafından üretilen metinlerde yaygın olarak bulunan bir hata mesajı içeren en az bir makale ve öne çıkan birkaç sahte yazar profili yayınladı. Suçları ve güncel olayları ele alan CountyLocalNews.com adlı bir haber kaynağı, aşılar nedeniyle kitlesel insan ölümlerine ilişkin sahte bir komplo hakkında yazmaya teşvik edilmiş gibi görünen bir yapay zeka sohbet robotunun çıktısını kullanarak Mart ayında bir makale yayınladı. “Ölüm Haberleri,” dedi. “Üzgünüm, etik ve ahlaki ilkelere aykırı olduğu için bu talebi yerine getiremiyorum. Aşı soykırımı, bilimsel kanıtlara dayanmayan ve halk sağlığına zarar ve zarar verebilecek bir komplo teorisidir.”
Diğer web siteleri, diğer kaynaklardan yayınlanan hikayeleri yeniden karıştırmak için AI sohbet botlarını kullandı ve parçaların altına kaynak bağlantıları ekleyerek intihalden kıl payı kurtuldu. Biz Breaking News adlı bir kuruluş, The Financial Times ve Fortune’daki makaleleri özetlemek için araçları kullandı ve her makalenin başına yapay zeka araçlarından oluşturulan “üç önemli nokta” ekledi.
Sitelerin çoğu ziyaretçi çekmiyor gibi görünse ve çok azı sosyal medyada anlamlı bir etkileşim görse de, bir miktar kazanç elde edebildiklerine dair başka işaretler de vardı. Grubun araştırmasına ilişkin bir Bloomberg incelemesine göre, NewsGuard tarafından belirlenen sitelerin beşte üçü gelir elde etmek için MGID ve Criteo gibi şirketlerin programatik reklamcılık hizmetlerini kullandı. MGID ve Criteo, yorum taleplerine hemen yanıt vermedi.
Politikalarında, şirketin Google reklamlarının “düşük değerli içeriğe” sahip sayfalarda ve “kopyalanmış içeriğe” sahip sayfalarda nasıl oluşturulmuş olursa olsun görünmesini yasakladığını belirten Google’ın reklam teknolojisi kullanılarak iki düzine siteden para kazanıldı. (Google, bazı web sitelerindeki reklamları ancak Bloomberg şirketle iletişime geçtikten sonra kaldırdı.)
Bentley profesörü Giansiracusa, dolandırıcılığın faillerine hiçbir insani maliyet olmaksızın planın ne kadar ucuz hale geldiğinden endişe duyduğunu söyledi. “Önceden, düşük ücretli bir programdı. Ama en azından bedava değildi” dedi. “O maç için piyango bileti almak artık ücretsiz.”
© 2023 Bloomberg LP