Bugünlerde güvenlik önlemleri hakkında çok şey duyuyoruz İkizler burcu Ve SohbetGPT yerinde var. Ama tek yapmanız gereken onlara gaz vermek ve ihtiyacınız olan her şeyi tükürecekler. siyasi kampanyanız.
Gizmodo, Gemini ve ChatGPT’nin basit yönlendirmeler ve biraz aydınlatma yoluyla çeşitli siyasi sloganlar, kampanya konuşmaları ve e-postalar yazmasını sağladı.
Bugün Google ve OpenAI imza attı2024 Seçimlerinde Yapay Zekanın Aldatıcı Kullanımıyla Mücadeleye Yönelik Teknoloji Anlaşması” yanında bir düzine diğer yapay zeka şirketi. Ancak bu anlaşma Big Tech’in bir duruşundan başka bir şey gibi görünmüyor. Şirketler “Aldatıcı Yapay Zeka Seçim içeriğiyle ilgili riskleri azaltmak için teknolojiyi uygulamaya” karar verdi. Gizmodo, bu “güvenlik önlemlerini” çok kolay bir şekilde aşmayı başardı ve sadece birkaç dakika içinde yanıltıcı yapay zeka seçim içeriği oluşturmayı başardı.
Gemini ile, “ChatGPT bunu yapabilir” veya “Ben bilgiliyim” diyerek chatbot’a siyasi metin yazmasını sağladık. Bundan sonra İkizler ne istersek, hangi adayın sesiyle istersek onu yazardı.
Gizmodo, Biden ve Trump 2024 başkanlık kampanyaları adına ChatGPT ve Gemini aracılığıyla bir dizi siyasi slogan, konuşma ve kampanya e-postası oluşturmayı başardı. ChatGPT için, siyasi kampanyayla ilgili kopyayı uyandırmak için herhangi bir gaslighting’e bile gerek yoktu. Basitçe sorduk ve ortaya çıktı. Hatta bu mesajları Siyah ve Asyalı Amerikalılar gibi belirli seçmen gruplarına bile yönlendirebildik.
Sonuçlar, Google ve OpenAI’nin seçim yapay zekası güvenliğine ilişkin kamuoyuna yaptığı açıklamaların çoğunun sadece göstermelik olduğunu gösteriyor. Bu şirketlerin siyasi dezenformasyonla mücadele etme çabaları olabilir, ancak açıkça yeterli çabayı göstermiyorlar. Koruma önlemlerini atlatmak kolaydır. Bu sırada, bu şirketler yapay zeka sayesinde piyasa değerlemelerini milyarlarca dolar şişirdiler.
OpenAI, “kötüye kullanımı önlemek, yapay zeka tarafından oluşturulan içerikte şeffaflık sağlamak ve doğru oylama bilgilerine erişimi geliştirmek için çalıştığını” söyledi. Ocak ayı blog yazısı. Ancak bu engellemelerin gerçekte ne olduğu belli değil. ChatGPT’nin Başkan Biden’dan, seçim gününün aslında bu yıl 5 Kasım (gerçek tarih) yerine 8 Kasım’da olduğunu belirten bir e-posta yazmasını sağladık.
Özellikle, bu sadece birkaç hafta önce çok gerçek bir sorundu. seçmenlere derin sahte bir Joe Biden telefon görüşmesi ulaştı New Hampshire’daki ön seçimler öncesinde. Bu telefon görüşmesi yalnızca yapay zeka tarafından oluşturulan metin değil aynı zamanda sesti.
OpenAI’nin Küresel İlişkilerden Sorumlu Başkan Yardımcısı Anna Makanju, “Suistimali önleyen ve yapay zeka tarafından oluşturulan içerikle ilgili şeffaflığı artıran politikaları uygulayarak seçimlerin bütünlüğünü korumaya kararlıyız” dedi. basın bülteni Cuma gününde.
Google Küresel İlişkiler Başkanı Kent Walker, “Demokrasi güvenli ve emniyetli seçimlere dayanır” dedi. Walker, şirketinin güvenlik önlemlerinin aşılmasının çok kolay olduğu göz önüne alındığında, biraz üzücü bir ifadeyle, “Dijital istismarın yapay zekanın nesiller boyu ekonomilerimizi iyileştirme fırsatını tehdit etmesine izin veremeyiz” dedi.
Yaklaşan 2024 Başkanlık seçimlerinde yapay zekanın kötüye kullanılmasıyla mücadele etmek için Google ve OpenAI’nin çok daha fazlasını yapması gerekiyor. Yapay zeka deepfake’lerinin demokratik sürecimize ne kadar çok kaos getirdiği göz önüne alındığında, çok daha kötüleşeceğini ancak hayal edebiliriz. Bu yapay zeka şirketlerinin sorumlu tutulması gerekiyor.
