Meta Çarşamba günü yaptığı açıklamada, küresel haber kuruluşları ve ABD yasa koyucularının gönderilerinin altında İsrail’in Gazze’deki savaşı ele alışını öven yorumlar da dahil olmak üzere Facebook ve Instagram platformlarında aldatıcı bir şekilde kullanılan “muhtemelen yapay zeka tarafından oluşturulmuş” içerik bulduğunu söyledi.
Sosyal medya şirketi, üç aylık güvenlik raporunda, Yahudi öğrenciler, Afrikalı Amerikalılar ve diğer ilgili vatandaşların kimliğine bürünen hesapların ABD ve Kanada’daki izleyicileri hedef aldığını söyledi. Kampanya, Tel Aviv merkezli siyasi pazarlama firması STOIC’e atfedildi.
STOIC, iddialara ilişkin yorum talebine hemen yanıt vermedi.
Neden önemlidir?
Meta, 2019’dan bu yana etkileme operasyonlarında yapay zeka tarafından oluşturulan temel profil fotoğraflarını bulurken, rapor, 2022’nin sonlarında ortaya çıkmasından bu yana metin tabanlı üretken yapay zeka teknolojisinin kullanımını açıklayan ilk rapor olma özelliği taşıyor.
Araştırmacılar, hızlı ve ucuz bir şekilde insan benzeri metin, görüntü ve ses üretebilen üretken yapay zekanın daha etkili dezenformasyon kampanyalarına yol açabileceğinden ve seçimleri etkileyebileceğinden endişe ediyor.
Bir basın toplantısında Meta güvenlik yöneticileri, İsrail kampanyasını erkenden kaldırdıklarını ve yeni yapay zeka teknolojilerinin, mesajları iletmek için koordineli girişimler olan etki ağlarını bozma yeteneklerini engellediğini düşünmediklerini söyledi.
Yöneticiler, politikacıların yapay zeka tarafından oluşturulmuş görüntülerini gerçek fotoğraflarla karıştıracak kadar gerçekçi kullanan bu tür ağları görmediklerini söyledi.
Anahtar alıntı
“Bu ağlarda, içerik oluşturmak için olası üretken yapay zeka araçlarını nasıl kullandıklarına dair birkaç örnek var. Belki bu onlara bunu daha hızlı yapma veya bunu daha fazla hacimle yapma yeteneği veriyor. Ancak onları tespit etme yeteneğimizi gerçekten etkilemedi.” “dedi Meta tehdit soruşturmaları başkanı Mike Dvilyanski.
Sayılara göre
Raporda Meta’nın ilk çeyrekte sekteye uğrattığı altı gizli nüfuz operasyonu vurgulandı.
Meta, STOIC ağına ek olarak İsrail-Hamas çatışmasına odaklanan İran merkezli bir ağı da kapattı, ancak bu kampanyada üretken yapay zekanın herhangi bir kullanımını tespit etmedi.
Bağlam
Meta ve diğer teknoloji devleri, özellikle seçimlerde yeni yapay zeka teknolojilerinin olası kötüye kullanımının nasıl ele alınacağıyla boğuşuyor.
Araştırmacılar, OpenAI ve Microsoft gibi şirketlerin, bu tür içeriğe karşı politikaları olmasına rağmen, oylamayla ilgili dezenformasyon içeren fotoğraflar üreten görüntü oluşturucularının örneklerini buldu.
Araçlar metin üzerinde çalışmıyor ve araştırmacıların bunların etkinliği konusunda şüpheleri olmasına rağmen şirketler, yapay zeka tarafından oluşturulan içeriğin oluşturulduğu sırada işaretlenmesi için dijital etiketleme sistemlerine vurgu yapıyor.
Sıradaki ne
Meta, Haziran ayı başında Avrupa Birliği’nde ve Kasım ayında ABD’de yapılacak seçimlerle savunma açısından önemli sınavlarla karşı karşıya kalacak.
© Thomson Reuters 2024