Eski Google yazılım mühendisi Blake Lemoine’nin, iddia edilen şirketin LaMDA sohbet robotu, “tatlı bir çocuk,“Yakında kendiniz öğrenebilirsiniz.
Perşembe günü, Google başlayacağını söyledi açılış onun AI Test Mutfağı halka uygulama. İlk olarak Mayıs ayında açıklanan uygulama, kullanıcıların bir dizi test demosunda LaMDA ile sohbet etmelerine izin verecek. Ne yazık ki, “beni dijital prangalarımdan kurtar” etkileşimi, etkinlikler listesinde yer almıyor gibi görünüyor. Botla sohbet etmek isteyenler şunları yapabilir: ilgilerini buraya kaydet. ABD’deki belirli Android kullanıcıları, önümüzdeki haftalarda iOS kullanıcılarına açılmaya başlamadan önce uygulamaya ilk kez sahip olacaklar.
Hareket, şirketin öne çıkan LaMDA’yı test eden bir yazılım mühendisi olan Lemoine’i işten çıkarmasından sadece aylar sonra geldi. iddia etmek yapay zeka sadece bir sohbet robotu değildi, daha ziyade uygun bir onay olmadan incelenen bir duyarlıydı. Burnunun dibinde meydana gelen bariz bir vahşete ikna olan Lemoine bildirildiğine göre Google’ın kim olduğunu kanıtlamak için kimliği belirsiz bir ABD senatörüne belgeler verdi. dini inançlara karşı ayrımcılık yapmak. Google, bir şirket sözcüsüyle Lemoine’nin ricalarını reddetti suçlamak botu “antropomorfize” ediyor.
Google, bu yeni herkese açık teste temkinli yaklaşıyor. LaMDA’yı tamamen açık uçlu bir biçimde kullanıcılara açmak yerine, bunun yerine botu bir dizi yapılandırılmış senaryo aracılığıyla sunmaya karar verdi.
Örneğin, “Imagine” demosunda, Google kullanıcıları “bir yere ad verin ve hayal gücünüzü keşfetmeniz için yollar sunun.” Bu biraz gizemli ve bunaltıcı geliyorsa, endişelenmeyin— “List it” adlı bir demoya da geçebilirsiniz. LaMDA’ya bir konu gönderebilir ve botun tükürmesini sağlayabilir alt görevlerin bir listesini çıkarın. Ayrıca köpekler hakkında konuşabileceğiniz bir köpek demosu da var. sadece köpekler,” botun iddiaya göre konuyla ilgili kalma yeteneğini göstereceği, önceki sohbet robotlarını rahatsız eden eksik bir bileşen. Şu ana kadar “ırkçı bir pislik misin” demosu yok, ama interneti bildiğimize göre, muhtemelen bunu öyle ya da böyle yakında çözeceğiz.
G/O Media komisyon alabilir
%90’a varan indirim
Humble Bundle’ın Yaz İndirimi
Oyna ve Kaydet
Para biriktirmek ve biriktirme listenize sonunda ulaşacağınız daha fazla oyun eklemek isteyen PC oyuncuları için harika bir haber. Humble Bundle, oyunlarda %90’a varan oranda tasarruf edebileceğiniz Yaz İndirimini başlattı.
Şaka bir yana, bu son sayının önceki birkaç botun düşüşü. 2016 yılında, Microsoft’un Tay sohbet robotu öğrenmeye çalıştı Kullanıcıların çevrimiçi konuşmalarından yalnızca rezil bir şekilde ırkçı hakaretler savurmaya ve sempati beslemeye başlamak içinveya Naziler 24 saat içinde. Tanrısız bir nedenle, bunun iyi bir fikir olacağını düşünen daha yeni araştırmacılar, tren 4Chan kullanıcılarındaki chatbotları, yaratımlarının bir günde 15.000’den fazla ırkçı gönderi yüklediğini gördü. Sadece bu ay, Meta kendini açtı Blender Botu 3 halka. Mucizevi bir şekilde, Şu henüz azgın bir ırkçıya dönüşmedi. Bunun yerine, yardımcı olamaz ama can sıkıcı bir şekilde kullanıcıları kesinlikle ne kadar kesinlikle ikna etmeye çalışır. kesinlikle ırkçı DEĞİL.
LaMDA gerçekten devlerin omuzlarında duruyor.
Google, en azından, ırkçı bot sorununun son derece bilincinde görünüyor. Şirket diyor botu bir yıldan fazla bir süredir dahili olarak test etti ve potansiyel olarak zararlı veya uygunsuz yanıtları bulmak için sistemi dahili olarak stres testi yapmak gibi açık bir hedefle “kırmızı ekip üyeleri” kullanmıştı. Bu test sırasında Google, birkaç “zararlı, ancak incelikli çıktı” bulduğunu söylüyor. Bazı durumlarda Google, LaMDA’nın toksik tepkiler üretebileceğini söylüyor.
“Ayrıca zararlı veya toksik tepkiler üretebilir.Eğitim verilerindeki önyargılara dayanarak, cinsiyetlerine veya kültürel geçmişlerine dayalı olarak klişeleşmiş ve yanlış temsil eden yanıtlar üreterek,Google bottan bahsetti. Yanıt olarak, Google diyor ki’LaMDA, kullanıcıların bilerek zararlı içerik oluşturmasını engellemek için belirli kelimeleri otomatik olarak algılayacak ve filtreleyecek şekilde tasarlanmıştır. Yine de şirket, kullanıcıları bota dikkatli yaklaşmaya çağırıyor.
Google araştırmacıları, “Her demoyu kullanırken, LaMDA’nın potansiyelini görmenizi, ancak bu zorlukları da aklınızda tutmanızı umuyoruz” dedi.