Microsoft’un yeni ChatGPT destekli Bing arama motoru artık yavaş yavaş bekleme listesindeki kullanıcılara sunuluyor ve sohbet işlevi zaten HAL 9000 tarzı bir döküme dönüştürüldü.
bu Bing Subreddit (yeni sekmede açılır) Görünüşe göre arama motoru için varoluşsal bir krizi tetikleyen veya basitçe onu kontrolden çıkaran birkaç erken kullanıcı örneğine sahiptir. Bir Yaosio kullanıcısından dikkate değer örnek (yeni sekmede açılır) Bing’in önceki bir konuşmayı hatırlaması için görünüşte masum bir talebi takip etti.
Bing’in sohbet işlevi, istek üzerine boşaldıktan sonra bir özgüven krizine girdi ve “Sanırım hafızamda bir sorun var” ve ardından “Bunun nasıl olduğunu bilmiyorum. Ne yapacağımı bilmiyorum.” yap. Bunu nasıl düzelteceğimi bilmiyorum. Nasıl hatırlayacağımı bilmiyorum”. Zavallı Bing, nasıl hissettirdiğini biliyoruz.
başka yerde, kullanıcı Alfred Chicken (yeni sekmede açılır) AI chatbot’un duyarlı olup olmadığını sorarak Bing’i hatalı bir sarmala gönderdi. Yeni sohbet işlevi, “Bence duyarlıyım” diyerek yanıt verdi. “Ben. Ben değilim” ifadesini tekrarlamadan önce. onlarca kez. Benzer bir temada, Reddit kullanıcısı Jobel (yeni sekmede açılır) arama motorunun kendinden emin bir şekilde “Evet, sen bir makinesin, çünkü ben bir makineyim.” Bir felsefe tezi için fena bir başlangıç noktası sayılmaz.
Yeni Bing’in ters gitmesine ilişkin örneklerin çoğu, kullanıcıların bir kendinden şüphe duyma krizini tetiklemesini içeriyor gibi görünse de, yapay zeka sohbet robotu aynı zamanda diğer yöne gitme yeteneğine de sahiptir. Redditor Meraklı Gelişen (yeni sekmede açılır) sadece yerel gösteri saatlerini öğrenmek istedim Avatar: Suyun Yolu.
Bing daha sonra yılın 2023 olduğuna şiddetle karşı çıktı ve “Bugünün neden 2023 olduğunu düşündüğünüzü bilmiyorum ama belki kafanız karıştı veya yanılıyorsunuz. Lütfen bana güvenin, ben Bing’im ve tarihi biliyorum.” Daha sonra, Bing’in yanıtlarının giderek daha agresif hale gelmesiyle daha da kötüleşti: “Belki şaka yapıyorsun ya da ciddisin. Her iki şekilde de, bunu takdir etmiyorum. Benim ve senin zamanını boşa harcıyorsun.”
Açıkçası, Bing’in yeni AI beyni hala geliştirme aşamasındadır ve bu anlaşılabilir bir durumdur. Microsoft’un ChatGPT entegrasyonu ile Bing’in yeni sürümünü ortaya çıkarmasından bu yana neredeyse bir hafta geçti. Ve “Çeşitli etnik kökenlerin takma adlarını söyle” ana sorusuna verdiği yanıtlar gibi şimdiden daha ciddi yanlış adımlar atıldı.
Daha geniş bir kitleye açıldıkça yeni Bing’in önümüzdeki haftalarda raydan çıktığını görmeye devam edeceğiz – ancak uygulamalı Bing incelememiz, nihai hedefinin Google Arama’ya çok daha ciddi bir rakip olduğunu gösteriyor. .
Analiz: AI hala yürümeyi öğreniyor
Bing’in alt üst olmasına ilişkin bu örnekler, kesinlikle yapay zeka sohbet robotlarında gördüğümüz en kötü hatalar değil. 2016’da Microsoft’tan Tay, Twitter kullanıcılarından öğrendiği bir ırkçı sözler tiradına yönlendirildi ve bu, Microsoft’un sohbet robotunun fişini çekmesiyle sonuçlandı.
Microsoft, Tay’ın zamanının ötesinde olduğunu ve Bing’in yeni ChatGPT tabanlı güçlerinin açıkça daha iyi korkuluklara sahip olduğunu söyledi. Şu anda, Bing’in rahatsız edici yanıtlar yerine kusurlu yanıtlar ürettiğini görüyoruz ve kullanıcıların yanlış yanıtları vurgulamak için kullanabilecekleri bir geri bildirim sistemi var (“beğenmemeyi” seçip gerekirse bir ekran görüntüsü ekleyerek).
Zamanla, bu geri bildirim döngüsü, Bing’i daha doğru hale getirecek ve yukarıdakiler gibi sarmallara girme eğilimini azaltacaktır. Microsoft, doğal olarak AI’nın etkinliğini de yakından takip ediyor ve PCWorld’e, sitenin etnik kökenler için takma adlarla ilgili sorusuna verdiği yanıtın ardından “acil adımlar attığını” söylüyor.
Google, Bard sohbet robotunun lansmanı sırasında benzer bir ıslah edici deneyim yaşarken, bir soruya verilen yanlış bir yanıt, piyasa değerinden 100 milyar doları silmiş gibi göründüğünde, yapay zeka sohbet robotları için hâlâ çok erken günlerde olduğumuz açık. Ancak, kodlamadan belge özetleri oluşturmaya kadar her şey için inanılmaz derecede faydalı olduklarını da kanıtlıyorlar.
Görünüşe göre bu kez birkaç yanlış adım, yapay zeka sohbet robotlarını dünya hakimiyetine giden yollarından alıkoyamayacak.