Elbette, derin sahtekarlıklara çok fazla ilgi gösteriliyor. ünlüler Ve büyük halk figürleri. Yine de, bedava ya da ucuzun gelişiyle AI tabanlı ses sentezleme yazılımısesini internete yükleyen herkes derin sahte olma riskiyle karşı karşıyadır.
yardımcısı ilk önce seslendirme sanatçılarının ve diğer sıradan insanların kendi seslerini kullanarak çevrimiçi taciz ve bilgi verme saldırılarıyla hedef alındığını bildirdi. Spesifik olarak, bu saldırılar YouTube kanalları, podcast’leri veya akışları olan kişileri hedef aldı. Bu doxxing girişimlerinin birçoğu, bazıları geçmişte yapay zeka tarafından üretilen içerik konusunda özellikle eleştirel olan seslendirme sanatçılarını da etkiledi.
Ses sanatçıları Zane Schacht ve Tom Schalk, Twitter’da ırkçı hakaretler kullanırken ev adreslerini paylaşan sahte ses içeren videolar tarafından hedef alınan birkaç kişi arasındaydı. gibi mülkler için ses çalışması yapmış olan Schacht serpinti 4, Gizmodo’ya kendisinin ve diğer ses aktörlerinin üretken yapay zekaya yönelik açık sözlü antipatilerini yayınladıktan sonra hedef alındığını söyledi. Birkaç bağımsız video oyununda ve animasyon dizisinde seslendirme yapan Schalk, kötü niyetli tweet’lerin hedef aldığı kişilerin yapay zeka konusunda açık sözlü olduğunu da söyledi.
Bu hesaplardan ve rahatsız edici tweet’lerden bazıları yasaklandı ve Twitter’dan silindi, ancak bu kötü niyetli tweet’lerden birkaçı bir süre çevrimiçi kaldı. Gizmodo, rahatsız edici tweet’lerin veya hesapların çevrimiçi olup olmadığını bağımsız olarak doğrulayamadı. Schalk, Gizmodo’ya telefonda, kullanıcıların yapay zeka tarafından üretilen sesten endişe duyan aktörlere karşı bir karalama kampanyası yapmaya çalışan “sadece trol olan troller” olduğunu düşündüğünü söyledi.
“[The doxxing video] Tam olarak bana benzemiyordu, bunu yapmak zaman alıyor” dedi. “Ama biri sesimi başarıyla taklit ederse, özellikle de büyük bir ticari ölçekte kullanıyorsa, buna karşı harekete geçeceğimi biliyorsun.”
G/O Media komisyon alabilir
Ön sipariş ver
Galaxy Kitap 3 Serisi
24 Şubat’ta mevcut
Her yeni dizüstü bilgisayar modeli, ücretsiz bir depolama yükseltmesi ile birlikte gelir. Her birinin 1 TB sürümü, 512 GB sürümüyle aynı şekilde fiyatlandırılır, bu da temelde 1 TB sürümünün 200 $ indirimli olduğu anlamına gelir.
Bildirilen gönderilerden birkaçı, bunların ElevenLabs’te bulunan teknoloji kullanılarak oluşturulduğunu açıkça söylüyordu. Şirketin Voice Lab yazılımı, kullanıcıların sesleri klonlamasına ve ardından bir metin istemine dayalı olarak yeni ses oluşturmasına olanak tanır. Tabii ki, bu ücretsiz program, kullanıcıların aşağıdakiler gibi önde gelen kişilerin derin sahte seslerini üretmelerine olanak tanır: Joe Rogan ve Justin Roiland cinsiyetçi veya ırkçı lakaplar söylüyor. Kullanıcılar şirkete bu sahtekarlıkların örneklerini bildirdikten sonra ElevenLabs, VoiceLab’i yalnızca ücretli sürümün kullanıcılarına sunduğunu ve kullanıma sunduğunu duyurdu. yeni hesaplar için daha fazla kimlik doğrulaması.
Schacht, Gizmodo’ya bir e-postada, bu teknoloji daha da üretken hale geldiğinde yanlış bilgilendirme ile ilgili büyük sorunlar olabileceğinden korktuğunu söyledi.
Seslendirme sanatçısı, “Ama yasal varsayımların dışında bile, birinin sesini almak, manipüle etmek ve kullanmak için bir bilgisayar programı kullanma eylemi bana gerçekten iğrenç geliyor” diye yazdı. “Kabus gibi bir peri masalından fırlamış gibi hissettiriyor.” “İnsan sesi çok güzel bir şey.” diyerek devam etti.
Bir ElevenLabs sözcüsü bir e-posta bildirisinde Gizmodo’ya şunları söyledi: “Daha sonra yanlış bir şekilde teknolojimize atfedilen saldırgan veya sakıncalı içerik oluşturmak için kullanılan metinden sese yazılım vakalarının farkındayız. Yazılımımız kullanılarak yapılan tüm içeriği tanımlayabiliyoruz ve soruşturma sonucunda, işaretlenen kliplerden biri hariç tümü diğer platformlar kullanılarak oluşturuldu.”
Vice, tweet’ler için kurbanlardan birkaçının ElevenLabs’tan taciz için özür dileyen bir Twitter DM’si aldığını ve ayrıca tacizcinin hesabına atıfta bulunarak “o kişinin IP adresini bulduk” dediğini gösterdi.
Sözcü ayrıca, ElevenLabs’in kötü niyetli kullanıcılara karşı yeni önlemlerini ve “herhangi bir metinden sese dönüştürme yazılımının başkalarına zarar vermek veya taciz etmek için” kötüye kullanılmasına karşı “sıfır tolerans yaklaşımını” yineledi. Şunları eklediler: “Mevcut ve gelecek koruma önlemlerinin bununla mücadele etmeye devam edeceğine ve insanların büyük çoğunluğunun metinden sese araçlarını sonsuza dek kullanmaya devam etmesine izin vereceğine güveniyoruz.”
Mike Pollock Gibi Ses Sanatçıları, Yapay Zeka Tarafından Oluşturulan Kopyaların Devam Eden Bir Sorun Olduğunu Söyledi
Tabii ki, kullanıcıların AI tarafından üretilen sesler oluşturmasına izin veren başka şirketler de var. UberDuck, FakeYou ve Storyteller gibi siteler, ses kliplerine dayalı olarak sahte sesler oluşturabilir. Ses aktörleri, sosyal medyada kullanılan karakter seslerinin sahte versiyonlarıyla başa çıkmak için hiç bitmeyen bir köstebek kaçma oyunu oynamak zorunda kaldıklarını söylediler.
Ayırt edici sesiniz geçim kaynağınızın bir yönü olduğunda, seslendirme sanatçıları, sosyal medyanın kendi seslerinin derin sahte versiyonlarını kaldırması gibi göz korkutucu bir görevle karşı karşıya kalır. Sonic the Hedgehog serisi için Doctor Eggman’ın megalomanyak tonlamalarını sağlamasıyla tanınan bir seslendirme sanatçısı olan Mike Pollock, YouTube’a yüklenen sesini kullanan çok sayıda derin sahte örnek olduğunu yazdı.
Bir telefon görüşmesinde Pollock, Gizmodo’ya bir yılı aşkın süredir Doctor Eggman gibi karakterlerinin AI tarafından oluşturulmuş versiyonlarını yükleyen insanlarla uğraştığını söyledi. Şirketlerin sesini sistemlerinden kaldırmaları için UberDuck ve FakeYou ile iletişime geçti, ancak yine de düzenli olarak YouTube videolarında sesini kopyalayarak yorum yapıyor ve onlardan videoları kaldırmalarını istiyor.
Schalk, yapay zeka tarafından yaratılan sesin “dolar tasarrufu uğruna aktörlerin yerini almanın” bir yolu olduğunu düşünen herhangi bir büyük şirket için seslendirme sanatçısı sendikalarının yakında dahil olması ve sohbeti yönlendirmesi gerektiğine inandığını söyledi.
Pollock, diğer seslendirme sanatçılarıyla birlikte katıldığını söyledi. Vokal Varyantlar, seslendirme sanatçılarını ve yapay zeka tarafından üretilen seslere karşı çıkmaya çalışan diğer sanatçıları temsil eden bir ticaret grubu ve aktörlerin seslerini alma hakkına hâlâ izin veren iş sözleşmelerini teşvik ediyor. O ve diğer seslendirme sanatçıları, Ticaretleri için bir sonraki en iyi şeyin, ses benzerliklerine ilişkin haklarını kanunlaştıran bir yasa olacağını söyledi.
Pollock, “Elimden gelenin en iyisini yapıyorum,” dedi. “Bir müşterim korkunç bir şey söylediğimi duyarsa, bunun ben olmadığımı söyleyebileceğimi bilmekten memnunum. Yine de, birinin geçimini mahvetmenin eğlenceli olduğunu düşünen insanlar hakkında söyleyecek pek iyi bir şeyim yok.