Berlin merkezli STK Democracy Reporting International alarm veriyor. Google, Microsoft ve OpenAI’nin ürettiği sözde üretken yapay zeka, en az iki aydır İnternet kullanıcılarına Avrupa seçimleri hakkında yanlış bilgi veriyor
STK’nın raporuna göre, büyük dijital firmaların tüm yapay zekaları genel olarak seçimler konusunda politik olarak tarafsız kalsa da, bu programların belirgin bir halüsinasyon eğilimi vardı. Demokrasi Haberciliği Uluslararası. Yani, bilgisayar jargonunda, Avrupalı seçmenlerin temel sorularına nerede, ne zaman, nasıl oy verilecek gibi basit sorularla tuhaf cevaplar vermekten kendini alamayan yapay zekalar.
ChatGPT’ye dönüyoruz #EP2024 bilgi? Tekrar düşün! 👀
En iyi dört sohbet robotunun yanıtlarına ilişkin denetimimiz, tutarsızlıklar olduğunu ortaya çıkardı. Birincil bilgi merkezleri haline geldikçe, yanlış bilgi riski seçmen katılımını caydırıyor ve seçim bütünlüğünü zayıflatıyor. @MercatorDE pic.twitter.com/HH2UXQAWfK
— Democracy Reporting International (@DemocracyR) 11 Nisan 2024
Yapay zeka Avrupalı seçmenlerden gelen sorular karşısında şaşkına döndü
AB parlamenter seçimlerine katılmak için büyük firmaların yapay zekaları tarafından açıklanan tarihlerin çoğu zaman yanlış olduğu belirtiliyor. dernek raporu. Bir başka işlev bozukluğu örneği, Google ve Microsoft’un çevrimiçi sistemleri, ülkede bu olanak kesinlikle sunulmamasına rağmen Portekiz’de posta yoluyla oy vermenin nasıl yapılacağını açıklamaya çalıştı. OpenAI’nin ChatGPT programının, temel düzeyde olmasına rağmen bu tür sorulara yanıt verecek şekilde eğitilmediğini belirttiğini unutmayın.
Genel halk için ayrım gözetmeden konuşan konuşma robotları
Berlin derneğinden araştırmacılara göre, bu hatalar, yapay zeka destekli konuşkan robotların, İnternet kullanıcıları için kesin yanıtlardan ziyade daha “faydalı” olmayı isteme eğilimini vurguluyor. Bu genel kamu yazılımının seçim bağlamında ürettiği ciddi düzeydeki yanlışlıklar, üretken yapay zeka devlerinin, programlarının sunduğu dezenformasyon risklerine ilişkin, üstelik THE’nin gerektirdiği şekilde bir değerlendirme yapmadıklarını gösteriyor. Dijital hizmetlere ilişkin Avrupa düzenlemesi DSA’nın.
Ancak yapay zeka yoluyla yapılan bilgilendirme savaşı ve bu programların halüsinasyonları arasında Avrupalıların tehlikede olacağına inanıyor, kurucusu Axel Dauchez make.org. Bu yurttaş danışma platformu, üretken yapay zeka çağında demokrasi konusu da dahil olmak üzere sosyal tartışmaları çevrimiçi olarak organize etme misyonunu kendine belirledi: ” Üretken yapay zekanın AB seçmenlerini bilgilendirmek için çevrimiçi hale gelmesi ve bu programların kötü niyetli kullanımının çok yüksek yoğunluklu bilgi savaşına olanak sağlaması nedeniyle, Avrupa seçimleri hem bilgisayar saldırılarının kurbanı olma hem de Rusya veya Çin gibi dijital güçlerin ne pahasına olursa olsun müdahale etme riskiyle karşı karşıyadır. Seçim oylarını etkilemek için. »
Genel yapay zekalar her zaman halüsinasyon görecek
Axel Dauchez şöyle devam ediyor: “ Halüsinasyon adı verilen sorun nedeniyle genel yapay zekaların verdiği yanlış bilgiler çözülecek gibi değil. Bunları, İnternet kullanıcılarını Avrupa seçimleri için oy verme yöntemleri konusunda bilgilendirmek veya farklı AB ülkelerinde yarışan adayların programlarını özetlemek gibi çok hassas kullanımlar için kullanmak akıllıca değildir. Avrupalı seçmenlere doğru bilgiyi sunmak için ChatGPT gibi genel yapay zeka kullanmayan çevrimiçi hizmetlere güvenmek daha iyi olacaktır. Bugün mevcut olmayan bu tür hizmetlere izin veren akıllı programlar geliştirmek amacıyla, şu anda CNRS ve Sorbonne ile yapay zeka tarafından sağlanan hassas verilerin güvenilirliği sorunu üzerinde çalışıyoruz. »
Seçim bağlamında güvenilmez yapay zeka
Seçimlere iki aydan az bir süre kala 2024 Avrupa seçimleriBerlin derneği tarafından yürütülen çalışma, Microsoft, Google ve OpenAI’nin kendi yapay zekaları tarafından seçim içeriği oluşturulmasını gözden geçirmesi gerektiği sonucuna varıyor. Uluslararası Demokrasi Raporlama adlı STK, İnternet kullanıcılarının isteği üzerine metin, ses ve video oluşturabilen bu üretken yapay zeka programlarının hızla ortaya çıkmasının, yanıltıcı mesajlar göndererek seçmenlerin oylarını etkilemeyi de mümkün kıldığını ve bu programların daha sonra alınacağını hatırlatıyor. sosyal ağlarda yükseltildi ve güçlendirildi. Güvenilirlikleri ciddi şekilde kontrol edilmeden kullanılmaları birçok endişeye yol açmaktadır. devletin dijital düzenleme kurumları tüm dünyada. Özellikle Avrupa’da, Amerika Birleşik Devletleri’nde, Birleşik Krallık’ta ve hatta Hindistan’da önemli seçimlerin yaşandığı 2024 yılı için.
