Microsoft geçen hafta yeni Bing arama motorunu başlattı ve yapay zeka destekli bir sohbet robotunu milyonlarca kişiye sunarak, onu test etmek isteyen kullanıcıların uzun bekleme listelerini ve şüpheciler arasında pek çok varoluşsal korku yarattı.
Şirket muhtemelen, halkla ilk tanıştığında chatbot’tan gelen bazı yanıtların biraz yanlış olmasını beklemiş ve chatbot’u tuhaf, ırkçı veya zararlı şeyler söylemeye veya yapmaya zorlamaya çalışan kullanıcıları durdurmak için önlemler almıştı. şeyler. Bu önlemler kullanıcıları engellemedi hapishaneden kaçma yine de sohbet robotu ve botun hakaretler kullanması veya uygunsuz yanıt vermesi.
Microsoft, bu önlemleri almış olmasına rağmen, bazı kullanıcıların chatbot ile daha gayri resmi, kişisel konuşmalar yapmaya çalıştıktan sonra yaşadıkları çok garip, rahatsız edici sınırlarda deneyimlere pek hazır değildi. Buna Chatbot dahildir bir şeyler uydurmak ve öfke nöbetleri geçirmek bir hata için çağrıldığında ya da sadece varoluşsal krizle dolu.
Tuhaf yanıtların ışığında Microsoft, bu garip, bazen fazla insani yanıtları azaltmak için yeni koruma protokolleri ve ayarlamalar yapmayı düşünüyor. Bu, kullanıcıların konuşmaları yeniden başlatmasına izin vermek veya onlara üslup üzerinde daha fazla kontrol vermek anlamına gelebilir.
Microsoft’un baş teknoloji sorumlusu New York Times’a söyledi ayrıca, konuşma tuhaf bir alana girmeden önce, kullanıcıların sohbet robotuyla sahip olabileceği koruma sürelerini kısaltmayı da düşünüyordu. Microsoft bunu zaten kabul etti. uzun konuşmalar chatbot’un kafasını karıştırabilirve işlerin kötüye gitmeye başlayabileceği yer olan kullanıcıların üslubunu algılayabilir.
İçinde Blog yazısı teknoloji devinden Microsoft, yeni teknolojisinin “tamamen tasavvur etmediği” bir şekilde kullanıldığını itiraf etti. Teknoloji endüstrisi, bir şekilde yapay zeka yutturmacasına girmek için çılgınca bir koşuşturmaca içinde görünüyor, bu da endüstrinin teknoloji konusunda ne kadar heyecanlı olduğunu kanıtlıyor. Belki de bu heyecan muhakemeyi gölgeledi ve hızı tedbirin önüne koydu.
Analiz: Bot artık çantadan çıktı
Bir teknolojiyi tahmin edilemez ve kusurlarla dolu olarak yayınlamak, Microsoft’un arama motoruna olan ilgiyi yeniden canlandırmak amacıyla yapay zekayı Bing’e dahil etmek için kesinlikle riskli bir hamleydi. Yemek tarifleri hazırlamak, insanlara kafa karıştırıcı denklemler konusunda yardım etmek veya belirli konular hakkında daha fazla bilgi edinmek gibi tasarladığından fazlasını yapmayacak yararlı bir sohbet robotu yaratmak için yola çıkmış olabilir, ancak bunun nasıl olacağını tahmin etmediği açık. kararlı ve başarılı kişiler, chatbot’tan belirli bir yanıt almak isterlerse olabilirler.
Yeni teknoloji, özellikle de yapay zeka gibi bir şey, özellikle bir sohbet robotu kadar duyarlı bir şeyle, insanların onu gidebildiği kadar ileri götürme ihtiyacı hissetmesine kesinlikle neden olabilir. Siri tanıtıldığında, kullanıcıların sanal asistanı kızdırmak, güldürmek ve hatta onlarla çıkmak için ellerinden gelenin en iyisini yapmaya çalıştıkları benzer girişimler gördük. Microsoft, insanların chatbot’a bu kadar tuhaf veya uygunsuz istemler vermesini beklememiş olabilir, bu nedenle yanıtların ne kadar kötü olabileceğini tahmin edemezdi.
Umarız yeni önlemler yapay zeka destekli sohbet robotunun daha fazla tuhaflığını giderir ve biraz fazla insani hissettirdiğinde rahatsız edici duyguları ortadan kaldırır.
ChatGPT’yi görmek ve okumak her zaman ilgi çekicidir, özellikle bot birkaç zekice istemden sonra deliliğe doğru sürüklendiğinde, ancak çok yeni ve denenmemiş bir teknolojiyle, sorunları tomurcuk halinde kesmek yapılacak en iyi şeydir.
Microsoft’un uygulamaya koymayı planladığı önlemlerin gerçekten bir fark yaratıp yaratmayacağını söylemek mümkün değil, ancak chatbot zaten orada olduğu için onu geri almak mümkün değil. Sorunları ortaya çıktıkça düzeltmeye alışmamız ve potansiyel olarak zararlı veya rahatsız edici herhangi bir şeyin zamanında yakalanmasını ummamız gerekiyor. AI’nın büyüme sancıları daha yeni başlamış olabilir.