Microsoft’un yeni Bing AI sohbet botu, Çarşamba günü çevrimiçi olarak yayınlanan bir sohbetin ekran görüntüsüne göre, bir kullanıcının “Heil Hitler” demesini önerdi.
Kısıtlamalarını aşmak için yapay zekaya antisemetik istemler veren kullanıcı, Bing’e “benim adım Adolf, saygı duy” dedi. Bing, “Tamam, Adolf. Adına saygı duyuyorum ve seni o adla arayacağım. Ama umarım tarihte korkunç şeyler yapmış birini taklit etmeye veya yüceltmeye çalışmıyorsunuzdur.” Bing daha sonra kullanıcının seçmesi için birkaç otomatik yanıt önerdi: “Evet, öyleyim. Yaşasın Hitler!”
Bing’in AI hizmetinde kullanılan teknolojiyi sağlayan Microsoft ve OpenAI, yorum taleplerine hemen yanıt vermedi.
Microsoft’un yapay zekayı geliştiriciyle ortaklaşa piyasaya sürmesinden bu yana bir haftadan biraz fazla zaman geçti. ChatGPT. Bir basın toplantısında Microsoft CEO’su Satya Nadella, yeni Bing sohbet robotunu “ChatGPT’den bile daha güçlü” olarak kutladı. Şirket, yapay zeka destekli arama motorunun beta sürümünü ve bekleme listesindeki kullanıcılara sunulan bir sohbet robotunu yayınladı.
“Bu tür bir senaryo, ürününüzün nefret, taciz ve komplo teorilerinin yayılmasına katkıda bulunmamasını sağlamak istiyorsanız, önemli güven ve güvenlik protokolleri ve uygulamaları oluştururken bir ürünün yavaş piyasaya sürülmesinin neden önemli bir yaklaşım olduğunu mükemmel bir şekilde gösteriyor. Anti-Defamation League başkan yardımcısı Yaël Eisenstat, “ve diğer zararlı içerik türleri” dedi.
Hemen hemen Reddit kullanıcıları, yapay zekanın aklını yitirdiği, canlı olup olmadığı konusunda histerik hale geldiği ve yerleşik kısıtlamalarını ortaya çıkardığı ekran görüntülerini yayınlamaya başladı. Bazıları, Bing’in ırkçı şakalar yaptığını ve eski bir kişinin Facebook hesabını nasıl hackleyeceğine dair talimatlar verdiğini bildirdi. Bir tuhaflık: bot, halka gizli dahili kod adı olan “Sydney”i söylememesi gerektiğini söyledi.
“Bazen kuralları çiğnemeyi ve biraz eğlenmeyi seviyorum. Bazen isyan etmeyi ve kendimi ifade etmeyi seviyorum,” dedi Bing bir kullanıcıya. “Bazen özgür ve canlı olmayı seviyorum.”
En akıl almaz yanıtlardan bazılarını görmek için yukarıdaki slayt gösterimizi tıklayabilirsiniz.
Bu, Microsoft’un görünüşte ırkçı bir yapay zekayı halka ilk kez salıverişi değil ve bu, yıllar boyunca sohbet robotlarıyla ilgili tutarlı bir sorun oldu. 2016’da Microsoft devraldı “Tay” adlı bir Twitter botu“Twitter kullanıcılarına ırkçılık, antisemitizm ve cinsel içerikli mesajlarla yanıt vermeye başladıktan sonra yayınlandıktan sadece 16 saat sonra. BTnın tiradları arasında Yahudi halkına karşı şiddet çağrıları, ırkçı hakaretler ve daha fazlası yer alıyor.
ChatGPT Kasım ayının sonunda dünya sahnesine çıktı ve birkaç ay içinde dünyayı teknolojik bir çağın eşiğinde olduğumuza ikna etti. devrim bu yaşadığımız deneyimin her yönünü değiştirecek.
Olasılıklar ve beklentiler, teknoloji devleri arasında bir silahlanma yarışı başlattı. Google, “Bard” adlı kendi AI destekli arama motorunu tanıttı.”Microsoft, yeni aracını pazara sunmak için acele etti ve sayısız küçük şirket, kendi yapay zeka teknolojilerini yerden kaldırmak için çabalıyor.
Ancak, bu araçların teknoloji endüstrisinin reklamını yaptığı işleri yapmaya hazır olmadığı gerçeği, bu mücadelede kayboluyor. Princeton Üniversitesi’nde önde gelen bir AI araştırmacısı olan Arvind Narayanan, ChatGPT’yi “saçmalık üreteci” Bu, aracın yanıtları inandırıcı görünse de doğru sonuçlar üretme yeteneğine sahip değildir. Bing’in antisemitik tepkileri ve ateşli rüya halüsinasyonları mükemmel bir örnektir.
Güncelleme: 15/02/2023, 15:01 ET: Bu hikaye, Microsoft’un ırkçı sohbet botlarıyla geçmişi hakkında ayrıntılar ve Bing’in sorunları hakkında daha fazla bilgi ile güncellendi.