Sahte haberler karmaşık bir sorundur ve metin, resim ve videoyu kapsayabilir.
Özellikle yazılı makaleler için sahte haber üretmenin birkaç yolu vardır. İnsanların adları, tarihleri veya istatistikleri dahil olmak üzere gerçekler seçilerek düzenlenerek sahte bir haber makalesi üretilebilir. Bir makale tamamen uydurma olaylar veya kişilerle de üretilebilir.
Yapay zekadaki gelişmeler yanlış bilgi üretmeyi özellikle kolaylaştırdığından, sahte haber makaleleri de makine tarafından üretilebilir.
Zarar verici etkiler
“2020 ABD seçimlerinde seçmen sahtekarlığı oldu mu?” gibi sorular. veya “İklim değişikliği bir aldatmaca mı?” mevcut verileri analiz ederek doğruluk kontrolü yapılabilir. Bu sorular doğru veya yanlış olarak yanıtlanabilir, ancak bunun gibi sorularla ilgili yanlış bilgilendirme potansiyeli vardır.
Yanlış bilgilendirme ve dezenformasyon – veya sahte haberler – Kısa sürede çok sayıda insan üzerinde zararlı etkiler. kavramına rağmen sahte haberler teknolojik gelişmelerden çok önce vardısosyal medya sorunu daha da kötüleştirdi.
2018’de yapılan bir Twitter araştırması şunu gösterdi: Sahte haber hikayeleri, insanlar tarafından botlardan daha sık retweetlendi ve retweet edilme olasılığı gerçek hikayelerden yüzde 70 daha fazla. Aynı çalışma, gerçek haberlerin 1.500 kişilik bir gruba ulaşmasının yaklaşık altı kat daha uzun sürdüğünü ve gerçek hikayelerin nadiren 1.000’den fazla kişiye ulaşmasını sağlarken, popüler yanlış haberlerin 100.000’e kadar yayılabileceğini buldu.
2020 ABD başkanlık seçimleri, COVID-19 aşıları ve iklim değişikliği, ciddi sonuçları olan yanlış bilgilendirme kampanyalarının konusu oldu. Tahmin ediliyor ki COVID-19 hakkındaki yanlış bilgilerin maliyeti günlük 50-300 milyon ABD doları arasındadır. Politik yanlış bilgilendirmenin bedeli sivil düzensizlik, şiddet ve hatta halkın demokratik kurumlara olan güveninin aşınması olabilir.
Yanlış bilgileri tespit etmek
Yanlış bilgilerin tespiti, algoritmalar, makine öğrenimi modelleri, yapay zeka, ve insanlar. Önemli bir soru, tespit edildikten sonra yanlış bilginin yayılmasını durdurmak değilse bile kontrol etmekten kimin sorumlu olduğudur. Yalnızca sosyal medya şirketleri, ağları aracılığıyla bilginin yayılması üzerinde gerçekten kontrol uygulayabilecek konumdadır.
Yanlış bilgi üretmenin özellikle basit ama etkili bir yolu, haber makalelerini seçerek düzenlemektir. Örneğin, “Ukraynalı yönetmen ve oyun yazarı tutuklandı ve ‘terörü haklı çıkarmak’la suçlandı.” gerçek haber makalesi.
Büyümesini ve yayılmasını kontrol etmek amacıyla çevrimiçi yanlış bilgileri tespit etmek için çok yönlü bir yaklaşıma ihtiyaç vardır.
Sosyal medyadaki iletişimler, ağ modelinde noktaları oluşturan kullanıcılar ve bunlar arasındaki bağlantıları oluşturan iletişimlerle ağlar olarak modellenebilir; bir gönderiyi retweetlemek veya beğenmek, iki nokta arasındaki bağlantıyı yansıtır. Bu ağ modelinde, yanlış bilgi yayan kişiler, gerçeği yayan kullanıcılara göre çok daha yoğun bağlantılı çekirdek-çevre yapıları oluşturma eğilimindedir.
araştırma grubum verimli algoritmalar geliştirdi yoğun yapıları tespit etmek için iletişim ağlarından. Bu bilgi, aşağıdakiler için daha fazla analiz edilebilir: yanlış bilgi kampanyalarının örneklerini tespit etmek.
Bu algoritmalar yalnızca iletişim yapısına dayandığından, yanlış bilgi olaylarını doğrulamak için algoritmalar ve insanlar tarafından yürütülen içerik analizine ihtiyaç vardır.
Manipüle edilmiş makaleleri tespit etmek dikkatli bir analiz gerektirir. Araştırmamız kullanılan bir sinir ağı tabanlı yaklaşım Bu tür kurcalamaları tespit etmek için metin bilgilerini harici bir bilgi tabanıyla birleştiren.
Yayılmayı durdurmak
Yanlış bilgileri tespit etmek savaşın sadece yarısıdır – yayılmasını durdurmak için kararlı adımlar atılması gerekir. Sosyal ağlarda yanlış bilginin yayılmasıyla mücadele stratejileri arasında hem internet platformlarının müdahalesi hem de sahte haber kampanyalarını etkisiz hale getirmek için karşı kampanyalar başlatma yer alır.
Müdahale, bir kullanıcının hesabını askıya almak gibi sert biçimler veya bir gönderiyi şüpheli olarak etiketlemek gibi daha yumuşak önlemler alabilir.
Algoritmalar ve yapay zeka destekli ağlar başına 100 değilyüzde güvenilir. Gerçek bir eşyaya yanlışlıkla müdahale etmenin de sahte bir eşyaya müdahale etmemenin de bir maliyeti vardır.
Bu amaçla, bir maddeye müdahale edilip edilmeyeceğine otomatik olarak karar veren bir akıllı müdahale politikası tasarladık. tahmin edilen doğruluğuna ve tahmin edilen popülaritesine dayalı olarak.
Sahte haberlerle mücadele
Yanlış bilgilendirme kampanyalarının etkilerini etkisiz hale getirmese bile en aza indirmek için karşı kampanyalar başlatmak, her birinin ne kadar hızlı ve kapsamlı bir şekilde yayıldığı konusunda gerçek ve sahte haberler arasındaki büyük farklar.
Bu farklılıkların yanı sıra hikayelere verilen tepkiler kullanıcıya, konuya ve gönderinin uzunluğuna göre değişebiliyor. Yaklaşımımız tüm bu faktörleri dikkate alır ve yanlış bilginin yayılmasını etkili bir şekilde azaltan etkili bir karşı kampanya stratejisi tasarlar.
Üretken yapay zekadaki son gelişmeler, özellikle de ChatGPT gibi büyük dil modelleri tarafından desteklenenler, makalelerin yüksek hızda ve önemli hacimlerde oluşturulmasını her zamankinden daha kolay hale getirerek, yanlış bilgileri tespit etme ve yayılmasını büyük ölçekte ve gerçek zamanlı olarak önleme zorluğunu artırıyor. Mevcut araştırmamız, muazzam toplumsal etkiye sahip olan bu devam eden zorluğu ele almaya devam ediyor.
Yapay zeka, sohbet robotları ve makine öğreniminin geleceği hakkında daha fazla bilgi edinmek ister misiniz? Kapsamımızın tamamına göz atın yapay zekaveya kılavuzlarımıza göz atın En İyi Ücretsiz AI Sanat Üreticileri Ve OpenAI ChatGPT Hakkında Bildiğimiz Her Şey.
Laks VS LakshmananBilgisayar Bilimleri Profesörü, İngiliz Kolombiya Üniversitesi
Bu makale şu adresten yeniden yayınlanmıştır: Konuşma Creative Commons lisansı altında. Okumak orijinal makale.