Microsoft, Kongre üyelerini dolandırıcılık, suistimal ve manipülasyona karşı korumak için AI tarafından üretilen deepfake’lerin kullanımını düzenlemeye çağırıyor. Microsoft başkan yardımcısı ve başkanı Brad Smith, seçimleri korumak ve yaşlıları dolandırıcılıktan ve çocukları suistimalden korumak için politika yapıcılardan acil eylem çağrısında bulunuyor.
“Teknoloji sektörü ve kâr amacı gütmeyen gruplar bu sorunu ele almak için son zamanlarda adımlar atmış olsa da, yasalarımızın da deepfake dolandırıcılığıyla mücadele etmek için evrim geçirmesi gerektiği açıkça ortaya çıktı.” Smith bir blog yazısında şöyle diyor“ABD’nin yapabileceği en önemli şeylerden biri, siber suçluların bu teknolojiyi sıradan Amerikalılardan çalmak için kullanmasını önlemek için kapsamlı bir deepfake dolandırıcılık yasası çıkarmaktır.”
Microsoft, kolluk kuvvetlerine yapay zeka tarafından üretilen dolandırıcılık ve sahtekarlıkları kovuşturmak için yasal bir çerçeve sağlayacak bir “derin sahtecilik dolandırıcılık yasası” istiyor. Smith ayrıca yasa koyucuları “çocuk cinsel istismarı ve istismarı ve rızaya dayanmayan mahrem görüntüler hakkındaki federal ve eyalet yasalarımızın yapay zeka tarafından üretilen içerikleri de kapsayacak şekilde güncellenmesini sağlamaya” çağırıyor.
Microsoft, şirketin Tasarımcı AI görüntü oluşturucusundaki bir açıktan dolayı insanların Taylor Swift gibi ünlülerin açık görüntülerini oluşturmasına izin vermesinin ardından kendi AI ürünleri için daha fazla güvenlik denetimi uygulamak zorunda kaldı. Smith, “Özel sektörün, AI’nın kötüye kullanılmasını önleyen güvenlik önlemlerini yenileme ve uygulama sorumluluğu var” diyor.
FCC, yapay zeka tarafından oluşturulan seslerle yapılan robot aramaları yasaklamış olsa da, üretken yapay zeka sahte ses, görüntü ve video oluşturmayı kolaylaştırıyor; bunu 2024 başkanlık seçimleri öncesinde zaten görüyoruz. Elon Musk, bu haftanın başlarında X’te Başkan Yardımcısı Kamala Harris’i taklit eden bir deepfake video paylaştı ve bu gönderi, X’in sentetik ve manipüle edilmiş medyaya karşı kendi politikalarını ihlal ediyor gibi görünüyor.
Microsoft, Musk’ınki gibi paylaşımların açıkça deepfake olarak etiketlenmesini istiyor. Smith, “Kongre, yapay zeka sistemi sağlayıcılarının sentetik içeriği etiketlemek için en son teknolojiye sahip kaynak araçlarını kullanmasını zorunlu kılmalı” diyor. “Bu, bilgi ekosistemine güven oluşturmak için olmazsa olmazdır ve halkın içeriğin yapay zeka tarafından mı oluşturulduğunu yoksa manipüle edildiğini daha iyi anlamasına yardımcı olacaktır.”
