Üç saniye: Bu yapay zekanın herhangi bir insan sesini taklit etmesi için geçen süredir.
Microsoft, çok kısa bir ses örneğinden bir kişinin sesini aslına uygun şekilde simüle edebilen bir konuşma sentezleme modeli sunmuştur.
VALL-E adı verilen bu AI modeli, “mevcut sistemlerden yüzlerce kat daha fazla” 60.000 saatten fazla İngilizce konuşma ile eğitildi. betimlemek Microsoft.
VALL-E yalnızca bir sesin tonlamasını taklit etmekle kalmaz, aynı zamanda “konuşmacının duygusunu ve akustik yönlendirmenin akustik ortamını sentezde koruyabilir”.
Teknoloji gerçek dünya için hazır değil
Bu dil modeli, GPT-3 gibi diğer üretken AI modellerini birleştirerek konuşma düzenleme ve ses içeriği oluşturma gibi çeşitli konuşma sentezi uygulamalarına olanak tanır.
Ancak Microsoft, etik hususları bir kenara bırakmaz. Microsoft, “VALL-E, konuşmacının kimliğini koruyarak konuşmayı sentezleyebildiğinden, ses tanımlama sahtekarlığı veya konuşmacı kimliğine bürünme gibi modelin kötüye kullanılmasına ilişkin potansiyel riskler taşıyabilir. Belirli bir konuşmacı” uyarısında bulunuyor.
Bu aşamada, AI halka açık değildir. Microsoft, gerçek dünyada kullanılmak üzere, bu sistemin “konuşmacının sesinin kullanımını onaylamasını sağlamak için bir protokol ve sentezlenmiş konuşmanın bir algılama modeli içermesi gerektiğini”, bunun ne olup olmadığını hızlı bir şekilde söyleyebilmek için belirtiyor. Duyduğunuz insan sesi mi yoksa sentetik bir ses mi.
siber riskler
Microsoft’un yapay zekası, yanlış ellere geçerse güvenlik sorunlarına neden olabilir. Örneğin sahtekarlar, sahte videolar oluşturmak için VALL-E’yi derin sahte teknolojiyle ilişkilendirebilir. Yapay zekanın yapay olarak insanların ses, görüntü ve video içeriğini yeniden oluşturduğu “Deepfakes”, birkaç yıldır potansiyel bir kimlik hırsızlığı tehdidi oluşturuyor.
VALL-E ayrıca siber suçluların, özellikle operasyonları yetkilendirmek için telefonda potansiyel bir kurbanın sesini taklit etmesine izin verebilir.
Son zamanlarda, bir siber güvenlik araştırmacıları ekibi, openAI’nin chatGPT’sinin de kötü amaçlı yazılım yazmak için ele geçirilmeye başladığını keşfetti.
