ABD, üretken yapay zeka araçlarının ana akım haline gelmesinden bu yana ilk başkanlık seçimine gidiyor. Google, OpenAI ve Microsoft gibi bu araçları sunan şirketlerin her biri, önümüzdeki ayları nasıl yönetmeyi planladıklarına dair duyurular yaptı.
Bu seçim sezonunda, reklamlarda yapay zeka tarafından oluşturulan görselleri ve ses klonlama yoluyla seçmenleri yanıltmaya yönelik girişimleri zaten gördük. Yapay zeka sohbet robotlarının potansiyel zararları henüz kamuoyunun gözü önünde görünmüyor. Ancak sohbet robotlarının, temel oy verme bilgileriyle ilgili iyi niyetli sorulara verilen yanıtlar da dahil olmak üzere, uydurma gerçekleri güvenle sağladığı biliniyor. Riskli bir seçimde bu felaket olabilir.
Makul bir çözüm, seçimle ilgili sorgulardan tamamen kaçınmaya çalışmaktır. Aralıkta, Google duyurdu Gemini’nin ABD’deki seçimlerle ilgili soruları yanıtlamayı reddedeceğini ve bunun yerine kullanıcıları Google Arama’ya yönlendireceğini söyledi. Google sözcüsü Christa Muldoon bunu doğruladı Sınır Değişiklik artık e-posta yoluyla tüm dünyaya yayılıyor. (Elbette, Google Arama’nın kendi sonuçlarının kalitesi de kendi sorunlarını beraberinde getiriyor.) Muldoon, Google’ın bu kısıtlamaları kaldırmaya yönelik “hiçbir planının olmadığını” ve bunun yalnızca Gemini tarafından oluşturulan “tüm sorgular ve çıktılar için de geçerli olduğunu” söyledi. metin.
Bu yılın başlarında OpenAI, ChatGPT’nin kullanıcıları CanIVote.org, genellikle yerel oylama bilgileri için en iyi çevrimiçi kaynaklardan biri olarak kabul edilir. Şirketin politikası artık ChatGPT’yi kullanarak adayların veya yerel yönetimlerin kimliğine bürünmeyi yasaklıyor. Aynı şekilde, güncellenen kurallar kapsamında araçlarının kampanya yapmak, lobi yapmak, oy vermeyi caydırmak veya oylama sürecini başka şekilde yanlış tanıtmak için kullanılmasını da yasaklıyor.
E-postayla gönderilen bir açıklamada Sınır, Yapay zeka arama şirketi Perplexity’nin CEO’su Aravind Srinivas, Perplexity’nin algoritmalarının “haber kaynakları gibi güvenilir ve saygın kaynaklara” öncelik verdiğini ve kullanıcıların çıktılarını doğrulayabilmeleri için her zaman bağlantılar sağladığını söyledi.
Microsoft, Aralık ayında yayınlanan bir raporda, artık Copilot olan Bing’in seçimler hakkında düzenli olarak yanlış bilgi verdiğini tespit ettikten sonra, chatbot’unun yanıtlarının doğruluğunu artırmak için çalıştığını söyledi. Microsoft, politikaları hakkında daha fazla bilgi talebine yanıt vermedi.
Bu şirketlerin hepsinin yanıtları (belki de en önemlisi Google’ın yanıtı), diğer ürünleriyle seçimlere yaklaşma eğiliminde olduklarından çok farklı. Geçmişte Google’ın kullandığı İlişkili basın ortaklıklar gerçek seçim bilgilerini arama sonuçlarının en üstüne çıkarmak için çalıştı ve YouTube’daki etiketleri kullanarak postayla oylamayla ilgili yanlış iddialara karşı koymaya çalıştı. Diğer şirketler de benzer çabalar gösterdi; Facebook’un seçmen kayıt bağlantılarına ve Twitter’ın yanlış bilgilendirme karşıtı başlığına bakın.
Ancak ABD başkanlık seçimleri gibi büyük olaylar, yapay zeka sohbet robotlarının meşru bilgilere ulaşmak için gerçekten yararlı bir kısayol olup olmadığını kanıtlamak için gerçek bir fırsat gibi görünüyor. Yararlılıkları hakkında bir fikir edinmek için Teksaslı birkaç sohbet robotuna oy veren birkaç soru sordum. OpenAI’nin ChatGPT 4’ü doğru bir şekilde listeleyebildi the yedi farklı geçerli kimlik biçimi seçmenler için ve ayrıca bir sonraki önemli seçimin İkinci tur seçimler 28 Mayıs’ta. Perplexity AI bu soruları da doğru yanıtladı ve üstte birden fazla kaynak. Copilot cevaplarını doğru buldu ve hatta yedi kimlik türünden herhangi birine sahip olmadığım takdirde seçeneklerimin neler olduğunu bana söyleyerek daha iyisini yaptı. (ChatGPT ayrıca bu eki ikinci denemede de öksürdü).
Gemini az önce beni Google Arama’ya yönlendirdi ve bu bana kimlik konusunda doğru yanıtları verdi, ancak bir sonraki seçimin tarihini sorduğumda üstteki güncel olmayan bir kutu beni 5 Mart’taki ön seçime yönlendirdi.
Yapay zeka üzerinde çalışan şirketlerin çoğu, ürünlerinin kasıtlı olarak kötüye kullanılmasını önlemek veya azaltmak için çeşitli taahhütlerde bulundu. Microsoft, seçimle ilgili yanlış bilgilendirmeyi azaltmak için adaylar ve siyasi partilerle birlikte çalışacağını söyledi. Şirket aynı zamanda önemli seçimlerdeki yabancı etkilerle ilgili düzenli raporlar olacağını söylediği şeyleri yayınlamaya başladı. bu türden ilk tehdit analizi kasım ayında geldi.
Google, DeepMind’in SynthID’sini kullanarak ürünleriyle oluşturulan görsellere dijital filigran ekleyeceğini söylüyor. OpenAI ve Microsoft, AI tarafından oluşturulan görüntüleri bir CR sembolüyle belirtmek için Coalition for Content Provenance and Authenticity’nin (C2PA) dijital kimlik bilgilerini kullanacaklarını duyurdular. Ancak her şirket bu yaklaşımların yeterli değil. Microsoft’un bunu hesaba katmayı planladığı yollardan biri, siyasi adayların derin sahtekarlıkları bildirmesine olanak tanıyan web sitesidir.
Stable Diffusion görüntü oluşturucunun sahibi olan Stability AI, yakın zamanda politikalarını güncelleyerek ürününün “dolandırıcılık veya dezenformasyon yaratmak veya teşvik etmek” amacıyla kullanılmasını yasakladı. Yolculuk ortası söylenmiş Reuters geçen hafta bunu “Özellikle yaklaşan ABD seçimleriyle ilgili güncellemeler yakında gelecek.” Dijital Nefretle Mücadele Merkezi’nin raporuna göre, görüntü oluşturucu yanıltıcı görüntüler oluşturma konusunda en kötü performansı gösterdi geçen hafta yayınlandı.
Meta, geçtiğimiz yılın kasım ayında, siyasi reklam verenlerin platformlarında yayınlanan reklamları oluşturmak için “Yapay Zeka veya diğer dijital teknikleri” kullanıp kullanmadıklarını açıklamalarının zorunlu olacağını duyurmuştu. Şirket da yasakladı üretken yapay zeka araçlarının siyasi kampanyalar ve gruplar tarafından kullanılması.
Yukarıdakilerin tümü de dahil olmak üzere birçok şirket, bir anlaşma imzaladı Geçen ay, seçimlerde yapay zekanın aldatıcı kullanımını azaltmak için yeni yollar yaratma sözü verdi. Şirketler, önleme yöntemlerinin araştırılması ve uygulanması, içeriğe kaynak verilmesi (C2PA veya SynthID tarzı filigranlama gibi), yapay zeka tespit yeteneklerinin geliştirilmesi ve yanıltıcı etkilerin toplu olarak değerlendirilmesi ve bunlardan öğrenilmesi gibi yedi “ilke hedefi” üzerinde anlaştılar. Yapay zeka tarafından oluşturulan içerik.
Ocak ayında Teksas’taki iki şirket, New Hampshire ön seçimlerinde oy vermeyi caydırmak için Başkan Biden’ın sesini klonladı. Bu, üretken yapay zekanın bu seçim döngüsünde istenmeyen bir görünüm sergilediği son sefer olmayacak. 2024 yarışı kızışırken, bu şirketlerin oluşturdukları güvenlik önlemleri ve verdikleri taahhütler açısından test edildiğini kesinlikle göreceğiz.