Baltimore’daki bir lisenin eski atletik direktörü tutuklandı ve suçlandı okul müdürünü suçlamak için yapay zeka ses klonlama hizmetini kullanıyor.
Baltimore Sancağı raporlar Baltimore polisi, Pikesville Lisesi müdürü Eric Eiswert’in ırkçı ve Yahudi karşıtı yorumlar yaptığı iddia edilen kaydın sahte olduğuna inanıyor. Uzmanlar anlattı Baltimore Sancağı ve Baltimore polisi, Ocak ayında sosyal medyada dolaşan ve kısa süreliğine Eiswert’in uzaklaştırılmasıyla sonuçlanan kaydın “düz bir tona, alışılmadık derecede temiz arka plan seslerine ve tutarlı nefes alma sesleri veya duraklamaların eksikliğine” sahip olduğunu söyledi.
Baltimore polisi kaydın, ses klibinde adı da geçen, okulun eski atletik direktörü Dazhon Darien’e ait olduğunu tespit etti. İddiaya göre “OpenAI araçlarını” aramak için okul bilgisayarlarına erişti. Darien’ın hangi yapay zeka ses platformunu kullandığı iddia edildiği belli değil.
Bu endişe verici ortamda OpenAI, Mart ayında yapay zeka metinden sese dönüştürme platformu Voice Engine’i genel kullanıma kapatmaya karar verdi. Birinin sesini kopyalamak için yalnızca 15 dakikalık bir ses klibi gerektiren hizmet, teknolojinin etrafındaki korkulukların bulunmaması nedeniyle yalnızca sınırlı sayıda araştırmacının kullanımına sunuluyor.
ABD’li milletvekilleri, teknoloji şirketlerinin bir bireyin yüzünü, sesini veya adını izinleri olmadan kullanmasını engellemeyi amaçlayan Sahte Olmama Yasası ve Yapay Zeka Dolandırıcılığına Hayır Yasası gibi çeşitli yasa tasarılarını sunmuş ancak henüz kabul etmemiştir.