Avrupa seçimleri hızla yaklaşırken Brüksel, üretken yapay zeka (AI) programları kullanılarak üretilen hileli ses, fotoğraf ve videoların mevcut seçim kampanyası üzerindeki etkisinden endişe duyuyor.
Avrupa Komisyonu bir aydır TikTok, Facebook, Google, YouTube ve YouTube dahil olmak üzere sekiz büyük çevrimiçi hizmetten açıklama talep ediyor. Seçim dönemlerinde manipüle edilen içerik. Avrupa Birliği onlardan, önümüzdeki Haziran ayında yapılacak Avrupa seçimlerinde oylamayı etkilemesi muhtemel tüm “derin sahteleri” (ya da Fransızca hiper sahteleri) denetlemelerini ve ardından derhal silmelerini istedi.
Komisyon ayrıca yüksek teknoloji şirketlerinin, ister metinler, ister manipüle edilmiş sesler, videolar ve hatta fotoğraflar olsun, üretken yapay zeka programları tarafından oluşturulan seçimlerle ilgili olan veya olmayan tüm içeriği hileli olarak etiketlemelerini talep etti.
Orijinal konuşmacıya çok benzeyen, doğal sese sahip bir konuşma oluşturmak için metin girişini ve 15 saniyelik tek bir ses örneğini kullanan bir model olan Voice Engine’in küçük ölçekli bir ön izlemesinden öğrendiklerimizi paylaşıyoruz. https://t.co/yLsfGaVtrZ
— OpenAI (@OpenAI) 29 Mart 2024
Avrupa Birliği’nde 45 milyondan fazla aktif kullanıcısı olan çok büyük çevrimiçi platformlar ve arama motorlarının, Avrupalı seçmenleri çevrimiçi her türlü yanlış bilgiye karşı korumak amacıyla 5 Nisan Cuma gününe kadar kendi özel önlemlerini uygulamaya koymaları gerekiyordu. Hepsi Avrupa Komisyonu’nun gerekliliklerine uymuştur.
Yanıltıcı çevrimiçi seçim reklamları yasaklandı
Bu önlem, Avrupalıları oy vermekten caydırabilecek yapay zeka hilesi olsun veya olmasın yapılan veya seçimin geçerliliğini ve sonuçlarını sorgulayan tüm reklamlar için geçerlidir. Sahte haberlerin yayılması veya “ derin sahtekarlıklar » Büyük dijital platformlarda seçmenlerin oylarını etkileyebilecek konular artık iyi düzenlenmiş görünüyor.
Öte yandan siber güvenlik uzmanı Xavier Duros, gizli ağlarda veya şifreli mesajlaşmada buna benzer bir şeyin olmadığını tahmin ediyor. Kontrol Noktası YazılımıDarknet’te veya Telegram’da “deepfake” oluşturmak için saldırıya uğrayan yapay zeka programlarında keskin bir artışa dikkat çekiyor: ” Yapay zeka tarafından oluşturulan deepfake’in tanımını anlamak önemlidir. Bu hiper sahtekarlıklar, çevrimiçi bir video gibi tamamen meşru olan içeriğin yeniden kullanılmasından veya bir kişinin sesinin internetten indirilmesinden ve Web’de video veya ses olarak sahte bir mesaj iletecek şekilde dönüştürülmesinden oluşur. Günümüzde üretken yapay zeka programları olarak adlandırılan programlar, genel halk tarafından kullanımı çok basit olan çevrimiçi araçlarla son derece güçlü donanım yetenekleri sunuyor. »
Karanlık ağda hile yapmaya yönelik yapay zeka yazılımı
Xavier Duros kesin : ” Tüketici üreten yapay zeka yazılımı aynı zamanda kötü niyetli kişiler tarafından da kullanılıyor. daha sonra bunu sosyal ağlarda dezenformasyon yayınlamak için kullanıyorlar. Deepfake’ler Avrupa’daki seçim oylarını etkileme konusunda gerçek bir tehlike oluşturduğundan, AB bu tehdide karşı koymak için küresel gözetimi uygulamaya koydu. Dahası, Avrupa Birliği’nin her Devleti, belirsiz siber suç pazarlarında ve karanlık ağın çeşitli yer altı ağlarında, hatta Telegram gibi şifreli mesajlaşma hizmetlerinde olup bitenleri izliyor. »
Hacklenen yapay zeka programları siber suçluların elinde
Check Point Software’in siber güvenlik uzmanı şu sonuca varıyor: ” Sorun, “Hactivist” veya hacker gruplarının, üretken yapay zekayı yaratan şirketler kadar önemli teknolojik ve finansal kaynaklara sahip olmasıdır. Bunu, karanlık ağda dolaşan dizginsiz yapay zeka programlarının bolluğunda görüyoruz. Dahası, üretken yapay zekayı kullanan kötü niyetli gruplar, seçim dönemlerinde deepfake’leri toplu olarak yayınlamak için AB’ye düşman olacak bazı ülkelere ek teknik ve mali araçlar sunarak onların desteğinden yararlanıyor. »
Europol seçim döneminde “deepfake”lerin bolluğu konusunda uyardı
Kamuya açıklanan raporda,Avrupa Polis Ofisi alarmı çalar. AB ülkelerindeki kolluk kuvvetlerine yapay zeka sahtekarlık teknolojilerinin kötü niyetli kullanımına karşı mücadeleyi birinci öncelik haline getirmeleri çağrısında bulunuluyor. Europol, siber suçluların artık hem halk arasındaki bilgileri manipüle etmek hem de şirketleri fidye karşılığında alıkoymak için deepfake kullandığını belirtiyor.