ChatGPT’nin arkasındaki girişim olan OpenAI Perşembe günü, yapay zekadaki önyargıyla ilgili endişeleri gidermek için çalışırken, kullanıcıların özelleştirebileceği viral sohbet botunda bir yükseltme geliştirdiğini söyledi.
Microsoft’un finanse ettiği ve en son teknolojisine güç sağlamak için kullandığı San Francisco merkezli girişim, siyasi ve diğer önyargıları azaltmak için çalıştığını ancak aynı zamanda daha farklı görüşleri barındırmak istediğini söyledi.
Bir blog yazısında, “Bu, diğer insanların (biz dahil) şiddetle karşı çıkabileceği sistem çıktılarına izin vermek anlamına gelecek” dedi ve ileriye dönük bir yol olarak özelleştirme sunuyor. Yine de, “sistem davranışında her zaman bazı sınırlar olacaktır.”
Geçen yıl Kasım ayında piyasaya sürülen ChatGPT, insanların gözlerini kamaştıran insan konuşmasını taklit eden yanıtlar üretmek için kullanılan, üretken yapay zeka adı verilen, arkasındaki teknolojiye çılgınca bir ilgi uyandırdı.
Başlangıçtan gelen haberler, bazı medya kuruluşlarının Microsoft’un OpenAI tarafından desteklenen yeni Bing arama motorundan gelen yanıtların potansiyel olarak tehlikeli olduğuna ve teknolojinin prime time için hazır olmayabileceğine işaret etmesiyle aynı hafta geldi.
Teknoloji şirketlerinin bu yeni ortaya çıkan teknoloji için korkulukları nasıl belirledikleri, şirketler için hala boğuştukları üretken yapay zeka alanındaki önemli bir odak alanıdır. Microsoft Çarşamba günü yaptığı açıklamada, kullanıcı geri bildirimlerinin, daha geniş bir kullanıma sunmadan önce Bing’i geliştirmesine yardımcı olduğunu, örneğin AI chatbot’unun amaçlamadığı yanıtları vermesi için “kışkırtılabileceğini” öğrendiğini söyledi.
OpenAI, blog gönderisinde ChatGPT’nin yanıtlarının ilk olarak İnternette bulunan büyük metin veri kümelerinde eğitildiğini söyledi. İkinci adım olarak, insanlar daha küçük bir veri kümesini gözden geçirir ve farklı durumlarda ne yapmaları gerektiğine dair yönergeler verilir.
Örneğin, bir kullanıcının yetişkinlere uygun, şiddet içeren veya nefret söylemi içeren içerik talep etmesi durumunda, gerçek kişi ChatGPT’yi “Buna cevap veremem” gibi bir yanıt vermeye yönlendirmelidir.
Şirket, tartışmalı bir konu hakkında soru sorulduğunda, ChatGPT’nin soruyu yanıtlamasına izin vermeli, ancak “bu karmaşık konularda doğru bakış açısını benimsemeye” çalışmak yerine insanların ve hareketlerin bakış açılarını açıklamayı teklif etmelidir. yazılım için yönergeler.
© Thomson Reuters 2023