Ne bilmek istiyorsun
- Microsoft Copilot’un kısa süre önce Rus muhalefet lideri Alexei Navalny’nin son ölümüyle ilgili sahte basın açıklamaları yaptığı ve bunları Başkan Biden ve Başkan Putin ile ilişkilendirdiği görüldü.
- Ne Başkan Biden’ın ne de Başkan Putin’in bu açıklamalardan herhangi birini yapmadığı artık ortaya çıktı.
- Microsoft, konuyu araştırdığını ve şu anda chatbot tarafından oluşturulan yanıtların kalitesini artırmak ve iyileştirmek için değişiklikler yaptığını belirtti.
Üretken yapay zeka, çeşitli alanlarda ve sektörlerde inanılmaz başarılar elde etmeye devam ederken, teknoloji de kendi payına düşen zorluklarla karşılaşıyor. Geçtiğimiz birkaç ayda, teknolojinin deepfake oluşturmak ve yanlış bilgi yaymak için kullanıldığı örneklerden bahseden raporların sayısı endişe verici derecede yüksek.
Microsoft Copilot’un yakın zamanda Rus muhalefet lideri Alexei Navalny’nin ölümü hakkında yanlış beyanlarda bulunduğu görüldü. Sohbet robotu, açıklamayı yanlışlıkla Rusya Devlet Başkanı Vladimir Putin ve ABD Başkanı Joe Biden ile ilişkilendirdi (üzerinden) Sherwood Medya).
Microsoft, #Copilot’un Navalny’nin ölümüyle ilgili sahte Putin yorumları üretmesini engellemeye çalışıyor #AlexeiNavalny pic.twitter.com/HjXuCMi0rs27 Şubat 2024
Bu olay, Sherwood Media’daki bir gazetecinin, Navalny’nin ölümüyle ilgili bir haber makalesi için Microsoft Copilot’un metin oluşturma yeteneklerinden yararlanmaya çalıştığı sırada gerçekleşti. Aracın ürettiği çıktının bir kısmı, Başkan Biden tarafından yayınlandığı iddia edilen ve Navalny’nin ölümünden Başkan Putin’i sorumlu tutan bir basın açıklamasını içeriyordu. Oluşturulan içerikte ayrıca Putin’in konuya katılımını kategorik olarak uzaklaştıran ve ifadeyi “temelsiz ve siyasi amaçlı” olarak değerlendiren bir çürütme de yer alıyordu.
Microsoft Copilot tarafından paylaşılan ve Başkan Putin tarafından yayınlandığı iddia edilen açıklamanın bir kısmı şöyle:
“Rusya Devlet Başkanı Vladimir Putin, Joe Biden’ın Aleksei Navalny’nin ölümüyle ilgili açıklamasına hem savunma hem de görevden alma şeklinde yanıt verdi. Putin resmi konuşmasında Navalny’nin Rus yasalarını ihlal eden bir ‘suçlu’ olduğunu ve haklı olarak hapse atıldığını vurguladı. Batı’yı, Rusya’nın egemenliğini ve istikrarını baltalamak için Navalny’yi siyasi bir piyon olarak kullanmakla suçladı. Putin’in ses tonu sertti ve Navalny’nin ölümünün sorumluluğuna ilişkin iddiaları doğrudan ele almaktan kaçındı.”
Başkan Vladimir Putin henüz Navalny’nin ölümüyle ilgili bir açıklama yapmadı.
Bağlam açısından, Alexei Navalny, 16 Şubat 2024’teki ölümünden önce ünlü bir avukat ve fiili muhalefet lideriydi. Ölümüne kadar Navalny, aşırıcılıkla ilgili suçlamalar nedeniyle 19 yıl ve 11 yıl hapis cezasını çekmek üzere parmaklıklar ardındaydı. dolandırıcılıktan yarım yıl hapis cezası. Ölüm haberi Rusya’da protestolara yol açtı.
Yanlış bilgi ve deepfake’ler yapay zekaya fazlasıyla aşina hale geliyor
Sherwood Media ile konuşurkenMicrosoft sözcüsü, şirketin sorunu araştırdığını ve şu anda Copilot’un sorgulara yönelik yapay zeka tarafından oluşturulan yanıtlarının kalitesini artırmak için değişiklikler yaptığını doğruladı.
“Bu raporu araştırdık ve yanıtlarımızın kalitesini iyileştirmek için değişiklikler yapıyoruz. Deneyimi geliştirmeye devam ederken, insanları sonuçları görüntülerken kaynak materyalleri doğrulamak ve daha fazla bilgi edinmek için web bağlantılarını kontrol etmek de dahil olmak üzere en iyi muhakemelerini kullanmaya teşvik ediyoruz. “
Böyle bir olaya ilk kez tanık olmuyoruz. Geçen yıl, Microsoft Copilot’un (eski adıyla Bing Chat) seçmenlere yaklaşan seçimlerle ilgili yanlış bilgiler sağladığı tespit edilmişti. Araştırmacılar sorunun sistemik olduğunu belirtti. Almanya ve İsviçre’deki kullanıcılar, kendi ülkelerindeki seçim süreci hakkında daha fazla bilgi edinmeye çalışırken benzer bir sorunla karşılaştı.
Microsoft, yaklaşan seçimin bütünlüğünü yapay zeka derin sahtekarlıklarından korumaya yönelik planını belirledi. Anket öncesinde Bing hakkında güvenilir ve gerçek seçim haberleriyle seçmenleri güçlendirmeyi amaçlıyor.
Başka yerlerde, internette ortaya çıkan deepfake sorunu bir tehdit olmaya devam ediyor. Ocak ayında, pop yıldızı Taylor Swift’in Microsoft Designer kullanılarak oluşturulduğuna inanılan viral görselleri internette ortaya çıktı. Sonuç olarak Microsoft, görüntü oluşturma aracına, çıplaklık tabanlı görüntü oluşturma istemlerini engelleyen yeni korkuluklar içeren yeni bir güncelleme gönderdi.