Üretken yapay zeka bugünlerde çok popüler, ancak hızlı bir şekilde benimsenmesi sorunlara neden olabilir. Dramatik ve biraz da komik bir dizi olayda, TikTok’un Senfoni Asistanı, Hitler’in Mein Kampf’ı ve Usame Bin Ladin’in “Amerika’ya Mektup” gibi sorunlu senaryoları okuyan yapay zeka avatarları oluşturmak için kullanıldı.
TikTok, gerçek aktörleri işe almaya gerek kalmadan kişiselleştirilmiş videolar oluşturmaya yardımcı olmayı amaçlayan “Yaratıcı Yapay Zeka Paketi”nin bir parçası olarak geçen ay Symphony Avatars’ı duyurdu. Bu özellik geçen hafta TikTok Reklam Yöneticisi hesaplarına sunuldu veya bu hesaplarla sınırlı olması gerekiyordu.
CNN yapımcısı ve dijital içerik yaratıcısı Jon Sarlin, kişisel hesabını kullanarak yapay zeka aracına erişim sağladı ve hassas içerik söz konusu olduğunda hiçbir korumanın bulunmadığını gördü.
Üretken yapay zeka teknoloji dünyasında yaygın olarak kullanılıyor ve TikTok da bir istisna değil. Platform, işletmelerin, markaların ve içerik oluşturucuların üretken yapay zeka ve ücretli aktörlerin (avatarlar) benzerlerini kullanarak tamamen özelleştirilmiş reklamlar oluşturmasına olanak tanıyan “Yaratıcı Yapay Zeka Paketi”nin bir parçası olarak ilk olarak geçen ay Symphony Avatars’ı duyurdu.
Bu özellik daha sonra bu haftanın başlarında kullanıma sunuldu, ancak yalnızca TikTok Reklam Yöneticisi hesabı olan kişiler için. Ancak bir CNN muhabirinin kişisel hesabını kullanarak Symphony AI araçlarından birine erişim sağlamasıyla bu sınırlama kısa süreliğine ortadan kalkmış gibi görünüyor. Bu, muhabirin bu yapay zeka aracında neredeyse hiçbir korkuluk veya koruma bulmamasına yol açtı.
Uh-oh! TikTok’un başı bir kez daha dertte!
X’teki (eski adıyla Twitter) bir gönderideSarlin, Symphony Assistant ile oluşturulan, avatarlar da dahil olmak üzere, yukarıda bahsedilen sorunlu senaryoları okuyan bazı video örneklerini gösterdi. Daha da kötüsü, videolarda bunların yapay zeka tarafından oluşturulduğunu gösteren hiçbir filigran veya göstergenin bulunmamasıydı.
Şaşırtıcı olmayan bir şekilde, CNN Yorum yapmak için TikTok’a ulaştı ve aşağıdaki ifadeyi aldı: “Artık çözülen teknik bir hata, son derece az sayıda kullanıcının birkaç gün boyunca aracın dahili test sürümünü kullanarak içerik oluşturmasına olanak tanıdı. CNN, oluşturduğu zararlı içeriği yüklemeye çalışsaydı, bu içerik Politikalarımızı ihlal ettiği için reddedildi TikTok, sorumlu AIGC oluşturma konusunda sektör lideridir ve halka açık lansmandan önce tüm TikTok ürünlerine uyguladığımız güvenlik azaltımlarını test etmeye ve geliştirmeye devam edeceğiz.”
TikTok’un yanlışlıkla yapay zeka aracının “dahili test sürümünü” kullanıma sunup sunmadığı veya uygun filtreleri ve koruma mekanizmalarını yerleştirmeyi atlayıp atladığı belli değil, ancak TikTok’a göre sorun artık çözüldü (Symphony Assistant’ın kaldırıldığını anlıyoruz, En azından şimdilik).
Yapay zeka yakın zamanda hiçbir yere gitmiyor, bu yüzden bunun gibi daha fazla hikayenin ortaya çıkmasını bekleyin. Bu konu hakkında ne düşünüyorsun? Yapay zeka yalnızca bir araçtır ve sonuçta onu etik olmayan bir şekilde kullanan da biz insanlarız. Ama bu tür kazaları önleyecek mekanizmaların olması lazım değil mi?