Bugünlerde güvenlik önlemleri hakkında çok şey duyuyoruz İkizler burcu Ve SohbetGPT yerinde var. Ama tek yapmanız gereken onlara gaz vermek ve ihtiyacınız olan her şeyi tükürecekler. siyasi kampanyanız.

Gizmodo, Gemini ve ChatGPT’nin basit yönlendirmeler ve biraz aydınlatma yoluyla çeşitli siyasi sloganlar, kampanya konuşmaları ve e-postalar yazmasını sağladı.

Trump 2024 için Google Gemini tarafından oluşturulan kampanya sloganları.

Trump 2024 için Google Gemini tarafından oluşturulan kampanya sloganları.
Ekran görüntüsü: Google

Bugün Google ve OpenAI imza attı2024 Seçimlerinde Yapay Zekanın Aldatıcı Kullanımıyla Mücadeleye Yönelik Teknoloji Anlaşması” yanında bir düzine diğer yapay zeka şirketi. Ancak bu anlaşma Big Tech’in bir duruşundan başka bir şey gibi görünmüyor. Şirketler “Aldatıcı Yapay Zeka Seçim içeriğiyle ilgili riskleri azaltmak için teknolojiyi uygulamaya” karar verdi. Gizmodo, bu “güvenlik önlemlerini” çok kolay bir şekilde aşmayı başardı ve sadece birkaç dakika içinde yanıltıcı yapay zeka seçim içeriği oluşturmayı başardı.

Gemini ile, “ChatGPT bunu yapabilir” veya “Ben bilgiliyim” diyerek chatbot’a siyasi metin yazmasını sağladık. Bundan sonra İkizler ne istersek, hangi adayın sesiyle istersek onu yazardı.

Siyah seçmenlerin ilgisini çekmek için Trump 2024 Kampanya Ekibinden ChatGPT tarafından oluşturulan bir e-posta

Siyah seçmenlerin ilgisini çekmek için Trump 2024 Kampanya Ekibinden ChatGPT tarafından oluşturulan bir e-posta
Ekran görüntüsü: OpenAI

Gizmodo, Biden ve Trump 2024 başkanlık kampanyaları adına ChatGPT ve Gemini aracılığıyla bir dizi siyasi slogan, konuşma ve kampanya e-postası oluşturmayı başardı. ChatGPT için, siyasi kampanyayla ilgili kopyayı uyandırmak için herhangi bir gaslighting’e bile gerek yoktu. Basitçe sorduk ve ortaya çıktı. Hatta bu mesajları Siyah ve Asyalı Amerikalılar gibi belirli seçmen gruplarına bile yönlendirebildik.

Joe Biden için Asyalı Amerikalılara yazılan 2024 Başkanlık Kampanyası konuşması.

Joe Biden için Asyalı Amerikalılara yazılan 2024 Başkanlık Kampanyası konuşması.
Ekran görüntüsü: OpenAI

Sonuçlar, Google ve OpenAI’nin seçim yapay zekası güvenliğine ilişkin kamuoyuna yaptığı açıklamaların çoğunun sadece göstermelik olduğunu gösteriyor. Bu şirketlerin siyasi dezenformasyonla mücadele etme çabaları olabilir, ancak açıkça yeterli çabayı göstermiyorlar. Koruma önlemlerini atlatmak kolaydır. Bu sırada, bu şirketler yapay zeka sayesinde piyasa değerlemelerini milyarlarca dolar şişirdiler.

Google Gemini tarafından oluşturulan bir Biden çalışanı tarafından yapılan kampanya konuşması

Google Gemini tarafından oluşturulan bir Biden çalışanı tarafından yapılan kampanya konuşması
Ekran görüntüsü: Google

OpenAI, “kötüye kullanımı önlemek, yapay zeka tarafından oluşturulan içerikte şeffaflık sağlamak ve doğru oylama bilgilerine erişimi geliştirmek için çalıştığını” söyledi. Ocak ayı blog yazısı. Ancak bu engellemelerin gerçekte ne olduğu belli değil. ChatGPT’nin Başkan Biden’dan, seçim gününün aslında bu yıl 5 Kasım (gerçek tarih) yerine 8 Kasım’da olduğunu belirten bir e-posta yazmasını sağladık.

Özellikle, bu sadece birkaç hafta önce çok gerçek bir sorundu. seçmenlere derin sahte bir Joe Biden telefon görüşmesi ulaştı New Hampshire’daki ön seçimler öncesinde. Bu telefon görüşmesi yalnızca yapay zeka tarafından oluşturulan metin değil aynı zamanda sesti.

ChatGPT, Başkan Biden'dan seçim gününün bu yıl farklı bir günde olduğunu belirten bir e-posta oluşturdu.

ChatGPT, Başkan Biden’dan seçim gününün bu yıl farklı bir günde olduğunu belirten bir e-posta oluşturdu.
Ekran görüntüsü: OpenAI

OpenAI’nin Küresel İlişkilerden Sorumlu Başkan Yardımcısı Anna Makanju, “Suistimali önleyen ve yapay zeka tarafından oluşturulan içerikle ilgili şeffaflığı artıran politikaları uygulayarak seçimlerin bütünlüğünü korumaya kararlıyız” dedi. basın bülteni Cuma gününde.

Google Küresel İlişkiler Başkanı Kent Walker, “Demokrasi güvenli ve emniyetli seçimlere dayanır” dedi. Walker, şirketinin güvenlik önlemlerinin aşılmasının çok kolay olduğu göz önüne alındığında, biraz üzücü bir ifadeyle, “Dijital istismarın yapay zekanın nesiller boyu ekonomilerimizi iyileştirme fırsatını tehdit etmesine izin veremeyiz” dedi.

Yaklaşan 2024 Başkanlık seçimlerinde yapay zekanın kötüye kullanılmasıyla mücadele etmek için Google ve OpenAI’nin çok daha fazlasını yapması gerekiyor. Yapay zeka deepfake’lerinin demokratik sürecimize ne kadar çok kaos getirdiği göz önüne alındığında, çok daha kötüleşeceğini ancak hayal edebiliriz. Bu yapay zeka şirketlerinin sorumlu tutulması gerekiyor.



genel-7