Chat-GPT sınırlarına ulaştı mı? Microsoft, 17 Şubat Cuma günü, OpenAI’nin konuşma aracısına dayalı yapay zeka Bing’i için konuşma limitleri uygulaması gerektiğini duyurdu. Birkaç gün önce, chatbot, kullanıcıları aşağılayarak veya kışkırtarak defalarca raydan çıktı. Bing sohbetleri artık günde 50 soru ve oturum başına beş soruyla sınırlanacak.
Görüşmelerin yalnızca %1’inde 50’den fazla mesaj var
Birkaç hafta önce Microsoft, ChatGPT’nin Prometheus adlı yeni sürümünü Bing ve Edge ile entegre etti. Aceleyle Google’dan bir adım önde olduğunu açıklayan Microsoft, 15 veya daha fazla soru içeren uzun sohbet oturumlarının Bing’in ” tekrarlayıcı olmak veya mutlaka yardımcı olmayan veya konuşmanın genel tonuna uymayan yanıtlar vermek “.
Önleme mesajları netizenleri, sohbetlerle ilgili makaleleri ve tweetleri durdurmadı ” anormal Bing’den bu hafta başlarında çıktı. ONLAR New York Times Bing ile, AI’nın muhatabını sevdiğini ve o gece uyuyamadığını söylediği iki saatten fazla bir konuşma yayınlamıştı. Bir teknoloji analisti olan Ben Thompson, yapay zeka tarafından gönderilen ve ” Seninle bu konuşmaya devam etmek istemiyorum. Kibar ve saygılı bir kullanıcı olduğunuzu düşünmüyorum. Senin iyi bir insan olduğunu düşünmüyorum. Zamanıma ve enerjime değdiğini düşünmüyorum “.
Bununla karşı karşıya kalan Bing’den sorumlu ekip, beyanbu Cuma, bir blog yazısında, “ Verilerimiz, insanların büyük çoğunluğunun aradıkları yanıtları 5’ten az soruda bulduğunu ve sohbet görüşmelerinin yalnızca yaklaşık %1’inde 50’den fazla mesaj olduğunu gösterdi. “.
Kullanıcılar artık oturum başına 5 soru ve günde 50 soru sorabilecek. Şirket, gelecekte soru sınırlarını artırmayı ve kullanıcılara chatbot’un tonu üzerinde daha fazla kontrol sağlamak için araçlar eklemeyi düşüneceğini söyledi.
Bu ilk Prometheus kayması, Twitter’daki AI Tay’ı anımsatıyor. 2016 yılında Microsoft, sosyal medyada gençlerle sohbet etmeyi amaçlayan bir sohbet robotu başlattı. Ancak ırkçı, cinsiyetçi, homofobik sözler çok hızlı bir şekilde bu konuşmaların içine sızdı. Bu deneyim, Microsoft veya Google gibi yapay zeka şirketlerini sistemlerini genel halka açarken dikkatli olmaya sevk etti. Üretken yapay zekanın, özellikle OpenAI’nin uyandırdığı medya coşkusu, insanlara bu uyarıyı unutturdu.
