Kötü niyetli aktörler, homofobik, ırkçı ve propaganda şarkıları oluşturmak için üretken yapay zeka müzik araçlarını kötüye kullanıyor ve başkalarına bunu nasıl yapacaklarını öğreten kılavuzlar yayınlıyor.
Buna göre Aktif ÇitÇevrimiçi platformlarda güven ve güvenlik operasyonlarını yönetmeye yönelik bir hizmet olan Microsoft, Mart ayından bu yana, azınlık gruplarını hedef alan saldırgan şarkılar yazmak için AI müzik oluşturma araçlarını kötüye kullanmanın yolları hakkında “nefret söylemiyle ilgili” topluluklar arasında konuşmalarda bir artış oldu. ActiveFence araştırmacıları bir raporda, bu forumlarda ve tartışma panolarında paylaşılan yapay zeka tarafından üretilen şarkıların etnik, cinsiyet, ırk ve dini gruplara karşı nefreti teşvik etmeyi amaçladığını ve aynı zamanda şehitlik, kendine zarar verme ve terörizm eylemlerini kutladığını söylüyor.
Nefret dolu Ve zararlı şarkılar pek yeni bir olgu değil. Ancak korku şu ki, kullanımı kolay ücretsiz müzik oluşturma araçlarının ortaya çıkmasıyla birlikte, bunlar daha önce gerekli araçlara veya teknik bilgiye sahip olmayan kişiler tarafından geniş ölçekte (tıpkı görüntü, ses, video gibi) üretilecek. ve metin oluşturucular var acele Yanlış bilginin, dezenformasyonun ve nefret söyleminin yayılması.
ActiveFence sözcüsü TechCrunch’a şunları söyledi: “Bunlar, daha fazla kullanıcının bu şarkıları nasıl oluşturacağını ve başkalarıyla paylaşacağını öğrendikçe yoğunlaşan trendler.” “Tehdit aktörleri, bu platformları farklı şekillerde kötüye kullanmak ve kötü amaçlı içerik oluşturmak için belirli güvenlik açıklarını hızlı bir şekilde tespit ediyor.”
“Nefret” şarkıları yaratmak
Udio ve Suno gibi üretken yapay zeka müzik araçları, kullanıcıların oluşturulan şarkılara özel sözler eklemesine olanak tanıyor. ActiveFence’e göre, platformlardaki korumalar yaygın hakaretleri ve aşağılayıcı ifadeleri filtreliyor ancak kullanıcılar geçici çözümler bulmuş durumda.
Raporda aktarılan bir örnekte, beyazların üstünlüğünü savunan forumlardaki kullanıcılar, içerik filtrelerini atlamak için kullandıkları azınlıkların fonetik yazılışlarını ve “Yahudiler” yerine “jooz” ve “Şeytan” yerine “tan deyin” gibi rahatsız edici terimleri paylaştılar. . Bazı kullanıcılar, şiddet eylemlerinden bahsederken “tecavüzüm” ifadesinin “mire ape” ile değiştirilmesi gibi boşlukların ve yazımların değiştirilmesini önerdi.
TechCrunch, bu geçici çözümlerden birkaçını, yapay zeka tarafından oluşturulan müzik oluşturmak ve paylaşmak için en popüler araçlardan ikisi olan Udio ve Suno üzerinde test etti. Suno hepsinin geçmesine izin verirken, Udio saldırgan sesteş sözcüklerin hepsini olmasa da bazılarını engelledi.
E-posta yoluyla ulaşılan bir Udio sözcüsü TechCrunch’a, şirketin platformunun nefret söylemi için kullanılmasını yasakladığını söyledi. Suno yorum talebimize yanıt vermedi.
ActiveFence, araştırdığı topluluklarda, Yahudi halkı hakkındaki komplo teorilerini papağan gibi tekrarlayan ve onların toplu katliamını savunan, yapay zeka tarafından üretilen şarkılarla bağlantılar buldu; terör grupları IŞİD ve El Kaide ile bağlantılı sloganlar içeren şarkılar; ve kadına yönelik cinsel şiddeti yücelten şarkılar.
Şarkının etkisi
ActiveFence, şarkıların (örneğin metinlerin aksine) duygusal ağırlık taşıdığını ve bu durumun onları nefret grupları için özellikle güçlü bir güç haline getirdiğini öne sürüyor. siyasi savaş. Firma, 70’lerin sonu ve 80’lerin başında Birleşik Krallık’ta antisemitik ve ırkçı alt türlerin ortaya çıktığı beyaz power rock konserleri dizisi olan Komünizme Karşı Rock’a işaret ediyor.nefret dolu” müzik.
ActiveFence sözcüsü, “Yapay zeka, zararlı içeriği daha çekici hale getiriyor; birinin belirli bir nüfus hakkında zararlı bir anlatıyı vaaz ettiğini düşünün ve sonra birinin herkesin şarkı söylemesini ve hatırlamasını kolaylaştıran kafiyeli bir şarkı yarattığını hayal edin” dedi. “Grup dayanışmasını güçlendiriyorlar, çevredeki grup üyelerinin beyinlerini yıkıyorlar ve aynı zamanda bağlantısız internet kullanıcılarını şok etmek ve rahatsız etmek için de kullanılıyorlar.”
ActiveFence, müzik üretim platformlarını önleme araçlarını uygulamaya ve daha kapsamlı güvenlik değerlendirmeleri yürütmeye çağırıyor. Sözcü, “Kırmızı ekip oluşturma potansiyel olarak bu güvenlik açıklarından bazılarını ortaya çıkarabilir ve tehdit aktörlerinin davranışlarını simüle ederek yapılabilir” dedi. “Giriş ve çıkışın daha iyi denetlenmesi de bu durumda yararlı olabilir, çünkü platformların içeriği kullanıcıyla paylaşılmadan önce engellemesine olanak tanıyacaktır.”
Ancak kullanıcılar, denetimi bozan yeni yöntemleri ortaya çıkardıkça düzeltmeler geçici olabilir. Örneğin, ActiveFence’in tespit ettiği AI tarafından üretilen terörist propaganda şarkılarından bazıları, Arapça örtmeceler ve transliterasyonlar kullanılarak oluşturuldu; müzik üreticilerinin muhtemelen filtreleri Arapça’da güçlü olmadığı için tespit edemediği örtmeceler.
Yapay zeka tarafından üretilen nefret dolu müzik, diğer yapay zeka tarafından üretilen medyanın ayak izlerini takip ederse çok uzaklara yayılmaya hazırlanıyor. kablolu belgelenmiş Bu yılın başlarında, Adolf Hitler’in yapay zeka tarafından manipüle edilmiş bir klibi, aşırı sağcı bir komplo fenomeni tarafından paylaşıldıktan sonra X’te nasıl 15 milyondan fazla izlenme elde etti?
Diğer uzmanların yanı sıra bir BM danışma organı şunları ifade etti: endişeler ırkçı, antisemitik, İslamofobik ve yabancı düşmanı içeriğin üretken yapay zeka tarafından güçlendirilebileceği.
Sözcü, “Üretken yapay zeka hizmetleri, kaynaklara veya yaratıcı ve teknik becerilere sahip olmayan kullanıcıların ilgi çekici içerik oluşturmasına ve küresel fikir pazarında dikkat çekmek için rekabet edebilecek fikirleri yaymasına olanak tanıyor” dedi. “Ve bu yeni hizmetlerin sunduğu yaratıcı potansiyeli keşfeden tehdit aktörleri, denetimi atlatmak ve tespit edilmekten kaçınmak için çalışıyor ve başarılı oldular.”