Kaliforniya’nın en yeni yasası, seçmenleri yaklaşan seçimler hakkında aldatan yapay zeka deepfake’lerini yayınlayan veya yeniden yayınlayan sosyal medya kullanıcılarını yasal sıkıntıya sokabilir. Vali Gavin Newsom, Salı günü imzaladıktan hemen sonra yürürlüğe giren AB 2839’un, aldatıcı içerik yayan Elon Musk ve diğerlerinin retweet’lerini engellemek için kullanılabileceğini öne sürüyor.
Newsom, “Ben Kaliforniya eyaletinde bunu yasadışı hale getiren bir yasa tasarısını imzaladım” dedi. cıvıldamakbir yapay zekaya atıfta bulunarak Deepfake Musk bu yılın başlarında yeniden yayınladı Bu durum Kamala Harris’in kendisini yetersiz bir aday ve çeşitlilik odaklı bir işe alım olarak nitelendirdiği izlenimini uyandırdı (değil).
Newsom, tweetinin ilerleyen kısımlarında “Artık bilerek, deepfake’ler de dahil olmak üzere önemli ölçüde yanıltıcı içerik barındıran bir reklam veya diğer seçim iletişimlerini dağıtamazsınız” dedi.
Kaliforniya’nın yeni yasası, özellikle gönderi Kaliforniya oy pusulalarındaki bir adaya benziyorsa ve gönderi sahibi bunun kafa karışıklığına yol açacak sahte bir gönderi olduğunu biliyorsa, AI deepfake’lerinin dağıtımcılarını hedef alıyor. AB 2839 benzersizdir çünkü AI deepfake’lerinin yaratıcılarını veya göründükleri platformları değil, onları kötü niyetli bir şekilde yayanları hedef alıyor. Sosyal medyada bir AI deepfake gören herkes artık ihtiyati tedbir talebinde bulunabilir, bu da bir yargıcın gönderi sahibine gönderiyi kaldırmasını emredebileceği veya gönderiyi yapan kişiye karşı parasal tazminat verebileceği anlamına gelir.
Bu, 2024 başkanlık seçimleri öncesinde seçimle ilgili yapay zeka deepfake’lerine karşı Amerika’nın en güçlü yasalarından biri.
AB 2839 taslağına yardımcı olan bir sponsor olan California Teknoloji ve Demokrasi Girişimi (CITED), TechCrunch’a bu yasanın seçimle ilgili yapay zeka deepfake’lerini kötü niyetle paylaşan veya yeniden paylaşan tüm sosyal medya kullanıcılarını etkileyebileceğini söylüyor. “Kötü niyet”, gönderenin bunun yanlış olduğunu bildiği ve seçmenleri şaşırtacağı anlamına geliyor.
“[AB 2839] CITED’ın politika direktörü Leora Gershenzon, TechCrunch ile yaptığı bir röportajda, “İçerik yasa tasarısının şartlarına uyuyorsa, içerik yaratıcılarının veya dağıtımcılarının peşine düşüyor” dedi. “Bu, yanlış olduğunu bilerek, gerçeği umursamadan dağıtılan ve seçimi etkileme olasılığı yüksek olan önemli ölçüde yanıltıcı bir içeriktir.”
Musk’ın deepfake içerikleri yeniden paylaştığı için yasal işlemle karşı karşıya kalıp kalmayacağı sorulduğunda Newsom bu olasılığı dışlamadı.
Vali Newsom, “Sanırım Bay Musk asıl espriyi kaçırdı” dedi. basın toplantısı Perşembe. “Parodi Kaliforniya’da hala canlı ve iyi durumda, ancak deepfake’ler ve seçim manipülasyonları – bunlar demokrasiye zarar veriyor.”
Özellikle, yeni yasa TV, radyo, telefon, metinler veya “internet üzerinden dağıtılan” herhangi bir iletişimden seçimle ilgili AI deepfake’leri yasaklıyor. Yasa, diğer yasaların odaklandığı siyasi kampanya reklamlarıyla sınırlı değil, aynı zamanda sıradan insanların gönderileri de var. AB 2839, Kaliforniya seçiminden 120 gün önce ve 60 gün sonra olmak üzere, sosyal medyada siyasi adaylar hakkında ne paylaşabileceğiniz ve ne paylaşamayacağınız konusunda daha katı kuralların olduğu bir pencere yaratıyor.
Gershenzon, “Asıl amaç aslında ne zararlar ne de ihtiyati tedbir,” dedi. “Sadece insanların bunu ilk etapta yapmamasını sağlamak. Aslında en iyi sonuç bu olurdu… sadece bu deepfake’lerin seçimlerimizi hileli bir şekilde etkilememesi.”
Bu yasa, Kaliforniya’daki eyalet ve yerel seçim adaylarının yanı sıra, Kamala Harris ve Donald Trump gibi Kaliforniya’nın oy pusulasında yer alacak federal adaylarla ilgilidir. Bir AI deepfake’te dijital olarak değiştirildiğine dair açık bir feragatname varsa, AB 2839 buna uygulanmaz.
Musk, Kaliforniya’nın yeni yasasını uygulama iradesini test etmeye çalışıyor. Musk deepfake’i yeniden yayınladı Newsom’un Salı günü attığı tweette bahsettiği Kamala Harris’e benzeyen ve X’te 31 milyondan fazla görüntülenme toplayan Musk ayrıca bir AI deepfake’i yeniden yayınladı Çarşamba günü 7 milyondan fazla görüntülenen Vali Newsom’ın paylaşımına benziyor.
Musk ve X, ılımlılıkla ilgili başka yasal sorunlarla karşı karşıyadır. Örneğin, Brezilya Yüksek Mahkemesi yargıcı X Şirketi’ne para cezası verildi Perşembe günü ülkenin platforma koyduğu yasağı deldiği için. Hakim daha önce X’in sahte haberlerle ve nefret söylemiyle mücadele etmemesinin Brezilya demokrasisine zarar verdiğini söylemişti.