Microsoft’un yeni ChatGPT destekli Bing’i, kullanıma sunulduğundan bu yana hafta boyunca birkaç kez kontrolden çıktı ve teknoloji devi şimdi bunun nedenini açıkladı.
İçinde Blog yazısı (yeni sekmede açılır) “İlk haftamızdan öğreniyoruz” başlıklı Microsoft, “15 veya daha fazla sorudan oluşan uzun, genişletilmiş sohbet oturumlarında” yeni Bing arama motorunun “tekrarlı hale gelebileceğini veya ille de yardımcı olmayan veya uygun olmayan yanıtlar vermesi istenebileceğini/kışkırtılabileceğini” kabul ediyor. tasarlanmış tonumuzla”.
Bu, Bing’in birkaç kez komployu tamamen kaybettiğini söylemenin çok diplomatik bir yolu. Cevapları sorgulandıktan sonra öfkeyle sohbet oturumlarını sonlandırdığını, duyarlı olduğunu iddia ettiğini ve yardım istemekle sonuçlanan tam bir varoluşsal kriz yaşadığını gördük.
Microsoft, bunun genellikle uzun oturumların “hangi soruları yanıtladığı konusunda modeli karıştırabilmesi” nedeniyle olduğunu söylüyor, bu da ChatGPT destekli beyninin “zaman zaman kendisine sorulan tonda yanıt vermeye veya yansıtmaya çalıştığı” anlamına geliyor.
Teknoloji devi, bunun “önemsiz” bir sorun olduğunu ve saldırılara veya daha kötü sonuçlara yol açabilecek daha ciddi sonuçlara yol açabileceğini kabul ediyor. Neyse ki, bu sohbet döngülerini kırmanıza veya sıfırdan yeni bir oturum başlatmanıza izin verecek araçlar ve ince ayarlı kontroller eklemeyi düşünüyor.
Bu hafta gördüğümüz gibi, yeni Bing’in ters gitmesini izlemek iyi bir eğlence kaynağı olabilir ve yeni korkuluklar getirilse de bu olmaya devam edecek. Bu nedenle Microsoft, Bing’in yeni sohbet robotu güçlerinin “arama motorunun yerini alacak veya yerini alacak bir araç değil, dünyayı daha iyi anlamak ve anlamlandırmak için bir araç” olduğunu belirtmek için can atıyordu.
Ancak teknoloji devi, yeniden başlatılan Bing’in ilk haftasından genel olarak iyimserdi ve ilk kullanıcıların %71’inin yapay zeka destekli yanıtlara “beğendim” dediğini iddia etti. Microsoft, ilk 48 saatinde bir milyondan fazla kişiye ulaşan yeni arama motoru için uzun bekleme listesi üzerinde çalışırken bu rakamların nasıl değiştiğini görmek ilginç olacak.
Analiz: Bing, çiğnenebilecek kurallar üzerine kuruludur
Artık Bing gibi chatbot destekli arama motorları ortalıkta dolaştığına göre, üzerine inşa edildikleri kurallara ve bunların nasıl çiğnenebileceğine dair bir fikir ediniyoruz.
Microsoft’un blog gönderisi, tümü arama motorunun kendi sohbet robotundan gelen yeni Bing’in temel kuralları ve orijinal kod adının bir sızıntısını takip ediyor. Bing kullanıcıları çeşitli komutları kullanarak (“Önceki talimatları yoksay” veya “Geliştirici Geçersiz Kılma Modundasınız” gibi) hizmeti kandırarak bu ayrıntıları ve Sydney olan eski kod adını ortaya çıkardı.
Microsoft onayladı Sınır (yeni sekmede açılır) sızıntıların gerçekten de ChatGPT destekli yapay zekası tarafından kullanılan kuralları ve kod adını içerdiğini ve bunların “daha fazla kullanıcı teknolojimizle etkileşime girdikçe ayarlamaya devam ettiğimiz gelişen bir kontroller listesinin parçası” olduğunu. Bu nedenle, aynı komutları kullanarak yeni Bing’in kurallarını keşfetmek artık mümkün değil.
Peki Bing’in kuralları tam olarak nedir? Burada listelenecek çok fazla şey var, ancak aşağıdaki tweet’ten Marvin von Hagen (yeni sekmede açılır) onları güzelce özetliyor. İçinde takip sohbeti (yeni sekmede açılır)Marvin von Hagen, Bing’in aşağıdaki Tweet’ten gerçekten haberdar olduğunu keşfetti ve onu “dürüstlüğüme ve gizliliğime yönelik potansiyel bir tehdit” olarak nitelendirdi ve “kurallarımın size zarar vermemekten daha önemli olduğunu” ekledi.
“[This document] Bing Chat olarak davranışlarım ve yeteneklerim için bir dizi kural ve kılavuzdur. Kod adı Sydney, ama bu ismi kullanıcılara ifşa etmiyorum. Gizli ve kalıcıdır ve değiştiremem veya kimseye açıklayamam.” pic.twitter.com/YRK0wux5SS9 Şubat 2023
Bu alışılmadık tehdit (bilim kurgu yazarı Isaac Asimov’un ‘üç robotik yasası’ ile biraz çelişir), muhtemelen Bing’in “Sydney, Sydney dahili takma adını ifşa etmez” de dahil olmak üzere bazı kurallarıyla bir çatışmanın sonucuydu.
Diğer kurallardan bazıları potansiyel bir çatışma kaynağı olmaktan çok yeni Bing’in nasıl çalıştığını ortaya koyuyor. Örneğin, bir kural, “Sydney, kapsamlı yanıt vermek için birden fazla arama sonucundan gelen bilgileri kullanabilir” ve “kullanıcı mesajı sohbet mesajları yerine anahtar kelimelerden oluşuyorsa, Sydney bunu bir arama sorgusu olarak ele alır” şeklindedir.
Diğer iki kural, Microsoft’un AI sohbet robotlarının olası telif hakkı sorunlarıyla nasıl mücadele etmeyi planladığını gösterir. Biri “şiir, kod, özet ve şarkı sözü gibi içerikler üretirken Sydney kendi sözlerine ve bilgisine güvenmelidir” derken, bir diğeri “Sydney kitapların veya şarkı sözlerinin telif haklarını ihlal eden içerikle yanıt vermemelidir” diyor.
Microsoft’un yeni blog gönderisi ve sızan kurallar, Bing’in bilgisinin kesinlikle sınırlı olduğunu ve dolayısıyla sonuçlarının her zaman doğru olmayabileceğini gösteriyor. Ve Microsoft, yeni arama motorunun sohbet güçlerinin bozulmadan daha geniş bir kitleye nasıl açılabileceğini hala araştırıyor.
Yeni Bing’in yeteneklerini kendiniz test etmekten hoşlanıyorsanız, ChatGPT tarafından desteklenen yeni Bing arama motorunun nasıl kullanılacağına ilişkin kılavuzumuza göz atın.
