OpenAI Cuma günü Voice Engine adında yeni bir AI tabanlı ses klonlama aracını duyurdu. Şirket açıkça bu teknolojinin potansiyelinden gurur duysa da (çocuklara okuma yardımı sağlamak ve kendi teknolojilerini kaybedenlere ses vermek için nasıl kullanılabileceğini öne sürüyor), OpenAI bunun nasıl suistimal edilebileceği konusunda oldukça gergin. Ve iyi bir sebeple.
Şirket Cuma günü yaptığı açıklamada, “OpenAI güvenli ve geniş çapta faydalı yapay zeka geliştirmeye kendini adamıştır” dedi ve endişelerini en başından beri açıkça ortaya koydu. ilk cümle.
Voice Engine, esas olarak metinden konuşmaya API’si ve ChatGPT Voice’un arkasında bulunan teknolojinin aynısını kullanıyor ancak teknolojinin bu uygulaması, bir şeyi bir yabancının ses tonu ve tonlaması ile yüksek sesle okumak yerine tamamen bir sesi klonlamakla ilgilidir. OpenAI, “duygusal ve gerçekçi sesler yaratmak” için yalnızca 15 saniyelik bir örneğe ihtiyaç duyması nedeniyle teknolojisinin olağanüstü olduğunu belirtiyor.
Şirket, “Bugün, metin girişi ve 15 saniyelik tek bir ses örneğini kullanarak orijinal konuşmacıya çok benzeyen, doğal sese sahip bir konuşma üreten Voice Engine adlı bir modelin küçük ölçekli ön izlemesinden elde edilen ön bilgileri ve sonuçları paylaşıyoruz” dedi. yazdı.
Modellerini korunan eserler üzerinde eğiterek telif hakkı yasalarını ihlal etmekle suçlanan yapay zeka şirketleri için hassas bir nokta olan Voice Engine’i oluşturmak için ne tür eğitim verilerinin kullanıldığı açık değil. OpenAI gibi şirketler, eğitim yöntemlerinin ABD telif hakkı yasası kapsamında “adil kullanım” olarak kabul edildiğini savunuyor, ancak bazı hak sahipleri, çalışmalarının karşılığını alamadıklarından şikayet ederek dava açtı.
OpenAI’nin web sitesinde Voice Engine aracılığıyla beslenen örnek ses klipleri var ve bunlar oldukça güzel çok etkileyici. Birinin konuştuğu dili değiştirebilme yeteneği de çok havalı. Ancak bunu henüz kendiniz deneyemezsiniz.
Zaten bir dizi ses klonlama aracı mevcut: Onbir Laboratuvarve çevirmenler bunu seviyor Konuşmacı. Ancak OpenAI, ChatGPT’yi ilk kez 2022’nin sonlarında halka açık olarak piyasaya sürdüğünden beri bir dev haline geldi. Ve Voice Engine’i halka açık bir ürün haline getirir getirmez (henüz çıkış tarihi hakkında bir bilgi yok) her türlü yeni suiistimalin kapısını aralayabilir. hiç hayal etmemiştik bile.
OpenAI’nin Cuma günü yaptığı açıklamada, şu anda her büyük şirketin bu tür AI teknolojisiyle karşı karşıya olduğu endişeleri vurgulayarak, “Sentetik sesin kötüye kullanılması potansiyeli nedeniyle daha geniş bir sürüm için temkinli ve bilinçli bir yaklaşım izliyoruz” denildi.
Birisinin AI ses klonlamasını kötü amaçlarla kullanmasına ilişkin özellikle endişe verici bir örnek, bu yılın başlarında, Başkan Joe Biden’ın sesi. Uzun süredir Demokratların başkan adayı Dean Phillips için çalışan Steve Kramer, insanların New Hampshire ön seçimlerinde oy verme zahmetine girmemeleri gerektiğini söyleyen bir mesaj oluşturmak için Biden’ın sesini klonladı. Kramer, ElevenLabs yapay zeka sesli aracını kullanarak bunu “30 dakikadan kısa bir sürede” gerçekleştirdi ve robot çağrı mesajını yaklaşık 5.000 kişiye gönderdi. Washington Post.
OpenAI’nin açıklamasında, “Sentetik seslerin sorumlu bir şekilde konuşlandırılması ve toplumun bu yeni yeteneklere nasıl uyum sağlayabileceği konusunda bir diyalog başlatmayı umuyoruz” dedi. “Bu görüşmelere ve bu küçük ölçekli testlerin sonuçlarına dayanarak, bu teknolojinin geniş ölçekte uygulanıp uygulanmayacağı ve nasıl uygulanacağı konusunda daha bilinçli bir karar vereceğiz.”
Bu, elbette, tüm yeni teknolojilerin iki ucu keskin kılıcıdır. Dolandırıcılar, insanları zar zor kazandıkları paralardan kandırmak için yeni ortaya çıkan araçlardan yararlanmanın bir yolunu her zaman bulacaktır. Ancak insanları dolandırmak için yapay zeka tarafından oluşturulan sahte sesleri kullanmanıza gerek yok. Bu haftanın başlarında bildirdiğimiz gibi, en son kripto dolandırıcılığı Fiverr’da işe alınan gerçek oyuncular dolandırıcılıklarını gerçekmiş gibi satmaya yardımcı olacak bir senaryo okumak için.