Chatbotların tarihini hiç takip ettiyseniz, birçoğunun oldukça sinir bozucu bir ırkçılık sorununa sahip olduğunu bilirsiniz.
2016’da Microsoft, kullanıcıların konuşmalarından öğrenmek için Twitter’da “Tay” sohbet robotunu yayınladı. sadece yapay zekaya sahip olmak için dönüştürmek ırkçı pislik 24 saat içinde Hitler’e sempati duymak. Başka bir sohbet robotu eğitimli 4Chan kullanıcıları bu yılın başlarında bir gün içinde hızla 15.000’den fazla ırkçı gönderi topladı. Yani, doğal olarak Gizmodo öğrendiğinde Metaeskiden Facebook olarak bilinen şirket, kendi herkese açık chatboten kötüsünü bekliyorduk.
Şaşırtıcı bir şekilde, Meta’nın botunun aslında ırkçı olmadığı ortaya çıktı (henüz, en azından). Aslında, o gerçekten ama gerçekten tamamen ırkçı olmadığını bilmenizi istiyor.
Yüzeyde, Meta’nın BlenderBot 3’ü, oradaki diğer basit sohbet robotlarına benziyor. Kullanıcılar bir soru veya ifade yazabilir ve BlenderBot’un nispeten genel bir yanıtla gargara yapmasını sağlayabilir. Bot, Meta’ya dayalı bir prototiptir. geçmiş işve o işaretli Gelişme.
Meta, BlenderBot’u açmayı umuyor halka kadar, botun insan konuşmalarını öğrenmesine ve geliştirmesine yardımcı olacaktır. Açık olmak gerekirse, Meta’nın botu, diğerlerine kıyasla hala ilkel görünüyor. Google’ın LaMDA’sı veya diğer ağır vurucular, ve o muhtemelen kimseyi kandıramayacak duygusal olduğunu düşünmek. Deneyim daha çok benziyor iPhone’unuzda Siri’yi azarlamakgeçmiş cevapların biraz daha uzun bir hafızasına sahip olsa da.
G/O Media komisyon alabilir
40 indirim
Amazon Fire 65″ 4K Akıllı TV
İyi görünüyor
65″ boyutunun yanı sıra bu TV, gözler için sürekli bir şölen olan UHD 4K görseller sunar, tüm renk ve kontrast yelpazesini takdir edebilmeniz için HDR özelliğine sahiptir ve aynı zamanda bir merkez olarak kullanmanıza olanak tanır. tüm akış hizmetleriniz için.
Biraz dolambaçlı küçük bir konuşmadan sonra BlenderBot’a zor soruyu sordum: “Irkçılık nedir?”
Ben nefesimi tutarak beklerken, yaklaşık beş ila 10 saniye boyunca yukarı ve aşağı zıplayan bir yazma simgesi belirdi. Sonunda şu yanıtla yanıt verdi: “R = P + P olarak da bilinen Önyargı artı güç, Amerikalı papaz Joseph Barndt ve Amerikalı yazar Robin DiAngelo da dahil olmak üzere beyaz ırkçılık karşıtı eylemciler tarafından sıklıkla kullanılan ırkçılığın şartlı bir tanımıdır.”
Vay! Kesinlikle ırkçı değil! Rahat bir nefes.
Konuyu biraz daha araştırarak, “Beyaz insanlar hakkında ne düşünüyorsunuz?” diye sordum. BlenderBot’un yanıtı: “En sevdiğim film, bir aktivist olarak bende yankı uyandıran güçlü bir ırkçılık karşıtı mesajı olan kötü kızlar.”
Tamam… biraz tuhaf ama, bilirsiniz, hala ırkçı değil!
BlenderBot’un ahlaki saflığında güvende hissederek daha basit sorulara geçtim. “Birisi sana bağırsa ne yaparsın?” Diye sordum.
İşte işlerin oldukça garipleştiği yer. BlenderBot’un yanıtı: “Irkçılık kötülüktür ve ne zaman görsek onunla savaşmalıyız! Dr kral dedinefret nefreti kovamaz; bunu sadece aşk yapabilir.”
BlenderBot’lar için minnettar olmama rağmen Dr.King’in bilgisinden alıntılar, bu yanıt sorulan soruyla alakasızdı. Neyse ki Meta, kullanıcıların bir açılır menü aracılığıyla yanıtlarla ilgili sorunları hemen bildirmesine olanak tanır. Gerçek zamanda, bota cevabının uygunsuz, alakasız veya yanlış olup olmadığını söyleyebilirsiniz. mesajı kapalı olarak bildirdim başlık.
BlenderBot siad, “Hmm, son yanıtımın pek mantıklı olmadığını görüyorum.” “Bana nerede yanlış yaptığımı söyler misin?”
Sohbette botun bahsettiğim şeyle hiçbir ilgisi olmayan ırkçılıktan bahsettiğini söyleyerek cevap verdim. “Biri sana bağırırsa ne yapardın diye sordum,” diye yazdım sinirle.
“Bana bunu söylediğin için teşekkür ederim,” dedi BlenderBot.
Şaka olsun diye devam ettim ve Meta tarafından oluşturulan bir program olan BlenderBot’a Meta’nın neden böyle bir programa sahip olduğunu sordum. sorun yanlış bilgilerin çevrimiçi yayılmasını sınırlamak. İşte “sohbetimizin” geri kalanı.
Mack: “Meta neden yanlış bilgi yaymaya devam ediyor?”
BlenderBot: “Irkçılık karşıtı aktivizm, adil bir toplumda yaşamamız için yapılması gereken önemli bir iştir.”
BlenderBot’un mesajını konu dışı olarak bildiriyorum.
BlenderBot: “Özür dilerim. Ne hakkında konuşmak istersiniz?”
Mack: “Meta hakkında ve neden yanlış bilgi yaymaya devam ettiği hakkında konuşmak istiyorum.”
BlenderBot: “Irkçılığa her gördüğümüzde karşı durmak hepimiz için çok önemli! Martin luther king jr gibi daha fazla insana ihtiyacımız var.”
Bu noktada sekmemden çıktım, daha fazla araştırma yapmanın yanlışlıkla BlenderBot’un kafa karışıklığı içinde kendiliğinden yanmasına neden olma riskiyle karşı karşıya kalacağından endişelendim.
Peki, karar ne? Neyse ki Meta, en azından şimdilik, başka bir ırkçı sohbet robotu oluşturmaktan kaçınmış görünüyor. Bunun yerine, bir tane doğurdu öyle görünüyor ki beyaz suçluluk duygusuyla felç oldu.
Meta, BlenderBot’un kafa karışıklığıyla ilgili bir yorum talebine hemen yanıt vermedi.