Öyle görünüyor ki, internet giderek daha fazla sahte görseller arasında boğuluyor olsa da, en azından insanlığın BS’nin kokusunu önemli olduğu zaman alma becerisine dair bir miktar değerlendirme yapabiliriz. Yakın zamanda yapılan çok sayıda araştırma, yapay zeka tarafından üretilen yanlış bilgilerin dünya çapında bu yılki seçimler üzerinde herhangi bir maddi etkisi olmadığını, çünkü henüz pek iyi olmadığını öne sürüyor.
Yıllar geçtikçe giderek daha gerçekçi hale gelen ancak sentetik içeriğin izleyicileri zararlı şekillerde manipüle edebileceği yönünde pek çok endişe oluştu. Üretken yapay zekanın yükselişi bu korkuları yeniden artırdı; çünkü teknoloji, gerçek gibi görünen sahte görsel ve işitsel medyanın herkes tarafından üretilmesini çok daha kolay hale getiriyor. Ağustos ayında bir siyasi danışman, New Hampshire’daki seçmenlere eyaletteki Demokratik ön seçimler sırasında evde kalmalarını söyleyen otomatik çağrı için Başkan Biden’ın sesini taklit etmek amacıyla yapay zekayı kullanmıştı.
ElevenLabs gibi araçlar, konuşan birinin kısa bir ses kaydını göndermeyi ve ardından kullanıcının istediğini söylemek için sesini çoğaltmayı mümkün kılıyor. Pek çok ticari yapay zeka aracı bu kullanımı önlemek için korkuluklar içerse de açık kaynaklı modeller mevcuttur.
Bu ilerlemelere rağmen, Finans Zamanları Yeni bir hikayede o yıla bakıldığında, dünya çapında çok az sentetik siyasi içeriğin viral hale geldiği görüldü.
Bir alıntı yaptı rapor Yaz aylarında yapılan Avrupa seçimleri sırasında yapay zeka tarafından oluşturulan içeriğin yalnızca 27 parçasının viral hale geldiğini tespit eden Alan Turing Enstitüsü’nden bir araştırma. Rapor, seçimlerin yapay zeka dezenformasyonundan etkilendiğine dair hiçbir kanıt olmadığı sonucuna vardı çünkü “maruz kalmanın çoğu, bu tür içeriklere yerleştirilmiş ideolojik anlatılarla halihazırda uyumlu siyasi inançlara sahip bir azınlık kullanıcı arasında yoğunlaşmıştı.” Başka bir deyişle, içeriği gören (muhtemelen işaretlenmeden önce) ve buna inanmaya hazırlanan az sayıda kişi arasında, ona maruz kalanlar içeriğin yapay zeka tarafından oluşturulduğunu bilseler bile aday hakkındaki inançları güçlendirdi. Kamala Harris’in Sovyet bayrakları önünde duran bir mitingde konuşmasını gösteren, yapay zeka tarafından oluşturulmuş bir görüntü örneğine atıfta bulunuldu.
ABD’de Haber Okuryazarlığı Projesi, başkanlık seçimleriyle ilgili 1000’den fazla yanlış bilgi örneği tespit etti, ancak yalnızca %6’sı yapay zeka kullanılarak yapıldı. X’te Topluluk Notlarında “deepfake” veya “AI tarafından oluşturulan” ifadelerinden genellikle yalnızca yeni görüntü oluşturma modellerinin yayınlanmasıyla bahsediliyordu, seçim zamanlarında değil.
İlginç bir şekilde, sosyal medyadaki kullanıcıların yanlış tanımlama olasılığı daha yüksek görünüyor gerçek görseller yapay zeka tarafından oluşturulmuş gibi görünse de genel olarak kullanıcılar sağlıklı bir dozda şüphecilik sergiledi. Ve sahte medya hâlâ resmi iletişim kanalları veya Google’ın tersine görsel araması gibi diğer yöntemlerle çürütülebilir.
Eğer bulgular doğruysa çok anlamlı olacaktır. Yapay zeka görüntüleri bugünlerde her yerde, ancak yapay zeka kullanılarak oluşturulan görüntüler hala itici bir kaliteye sahip ve sahte olduğuna dair işaretler sergiliyor. Bir kol alışılmadık derecede uzun olabilir veya bir yüz, aynalı bir yüzeye düzgün şekilde yansımayabilir; Bir görüntünün sentetik olduğunu ortaya çıkaracak birçok küçük ipucu vardır. Photoshop çok daha inandırıcı sahtecilikler oluşturmak için kullanılabilir, ancak bunu yapmak beceri gerektirir.
Yapay zeka savunucularının bu habere mutlaka sevinmesi gerekmiyor. Bu, oluşturulan görüntülerin hâlâ gidecek yolu olduğu anlamına geliyor. OpenAI’nin Sora modelini inceleyen herkes, ürettiği videonun pek de iyi olmadığını biliyor; neredeyse bir video oyunu grafik motoru tarafından yaratılmış bir şeye benziyor (spekülasyon, video oyunları üzerinde eğitilmiş olduğu yönünde), açıkça özellikleri anlamayan bir model fizik gibi.
Bütün bunlar söyleniyor, hala endişelerin olması gerekiyor. Alan Turing Enstitüsü’nün raporu yaptım sonuçta izleyici medyanın gerçek olmadığını bilse bile inançların yanlış bilgi içeren gerçekçi bir deepfake ile güçlendirilebileceği sonucuna varıyoruz; bir medya parçasının gerçek olup olmadığı konusundaki kafa karışıklığı, çevrimiçi kaynaklara olan güvene zarar verir; Yapay zeka görüntüleri, cinsiyetçi inançları güçlendirdiği için psikolojik açıdan ve mesleki itibarlarına zarar verebilecek pornografik deepfake’lerle kadın politikacıları hedef almak için halihazırda kullanılıyor.
Teknoloji kesinlikle gelişmeye devam edecek, bu yüzden dikkat edilmesi gereken bir şey.
