Yapay zeka, insan sesini o kadar iyi taklit edebilir ki deepfake’ler birçok insanı bir kişinin konuştuğunu duymaya kandırabilir. Kaçınılmaz olarak, yapay zeka sesleri otomatik telefon görüşmeleri için istismar edilmiştir. ABD Federal İletişim Komisyonu (FCC), bu girişimlerin daha kötü niyetli versiyonlarıyla mücadele etmeye çalışıyor ve istenmeyen ve yasadışı yapay zeka tarafından oluşturulan otomatik aramalara karşı tüketici korumalarını güçlendirmeyi amaçlayan bir teklifi var.
FCC’nin planı, yapay zeka tarafından üretilen aramaların ve mesajların tanımlanmasına yardımcı olacak ve komisyonun, yapay zeka seslerinin arama sırasında sahte olduklarını açıklamasını zorunlu kılmak gibi sınırlar ve kurallar belirlemesine olanak tanıyacak.
Yapay zekanın pek de hoş olmayan iletişim ve aktivitelerdeki faydası, FCC’nin onlar için düzenlemeler koymaya çalışmasını şaşırtıcı kılmıyor. Ayrıca, FCC’nin robot aramaları can sıkıcı bir durum ve dolandırıcılık yapmanın bir yolu olarak ele alma çabasının bir parçası. Yapay zeka, bu tür planların tespit edilmesini ve önlenmesini daha zor hale getiriyor ve bu da yapay zeka tarafından oluşturulan seslerin ve sözcüklerin ifşa edilmesini gerektiren teklifi teşvik ediyor. Çağrı, yapay zekanın hem söylediklerinin hem de bunları söylemek için kullanılan sesin yapay kökenlerini açıklamasıyla başlamalı. Bunu yapmayan herhangi bir grup daha sonra ağır para cezasına çarptırılacak.
Yeni plan, bu yılın başlarında FCC’den alınan ve robot aramalarda ses klonlama teknolojisinin, aranan kişinin izni olmadan yasadışı olduğunu belirten Beyan Kararına ekleniyor. Bu, Ocak 2024 ön seçimleri öncesinde New Hampshire seçmenlerine yanıltıcı bilgi yaymak için Başkan Joe Biden’ın deepfake ses klonunun arayan kimliği sahteciliğiyle birleştirilmesiyle oluşan kasıtlı karışıklıktan kaynaklanıyordu.
Yapay Zekadan Yardım İstemek
FCC, yapay zeka çağrılarının kaynaklarının peşine düşmenin ötesinde, özellikle istenmeyen veya yasa dışı olanlar olmak üzere, insanlara yapay zeka tarafından oluşturulan otomatik aramalar ve robot mesajları aldıklarında uyarıda bulunacak araçlar da sunmak istediğini söyledi. Bunlara, bunların hiç gerçekleşmemesini sağlayan daha iyi arama filtreleri, yapay zeka tabanlı tespit algoritmaları veya yapay zeka tarafından oluşturulan aramaları tespit edip işaretlemek için arayan kimliğinin geliştirilmesi dahil olabilir. FCC’nin önerdiği düzenlemeler, tüketiciler için dolandırıcılar tarafından kullanılan giderek daha karmaşık taktiklere karşı hoş bir koruma katmanı sunuyor. FCC, şeffaflık gerektirerek ve tespit araçlarını geliştirerek tüketicilerin yapay zeka tarafından oluşturulan dolandırıcılıkların kurbanı olma riskini azaltmayı amaçlıyor.
Yapay zeka ile yaratılan sentetik sesler birçok olumlu çaba için de kullanıldı. Örneğin, sesini kaybetmiş kişilere tekrar konuşma yeteneği kazandırabilir ve görme engelli kişiler arasında yeni iletişim seçenekleri açabilir. FCC, araçların yaratabileceği olumsuz etkiyi ortadan kaldırırken, teklifinde bunu kabul etti.
“Yükselen bir yanlış bilgilendirme dalgasıyla karşı karşıya kalan Amerikalıların yaklaşık dörtte üçü, yapay zeka tarafından üretilen içeriğin yanıltıcı olmasından endişe duyduklarını söylüyor. Bu nedenle Federal İletişim Komisyonu, çalışmalarını demokrasinin temel ilkelerinden biri olan şeffaflığa dayandırarak yapay zekaya odakladı,” dedi FCC Başkanı Jessica Rosenworcel bir konuşmasında. ifade“Bu teknoloji gelişmeleri hakkındaki endişe gerçek. Haklı olarak öyle. Ancak şeffaflığa odaklanırsak ve dolandırıcılık bulduğumuzda hızlı bir şekilde harekete geçersek, bu teknolojilerin risklerinin ötesine bakabileceğimize ve faydalarından yararlanabileceğimize inanıyorum.”