OpenAI inanılmaz derecede etkileyici özellikleriyle bu hafta ilgi odağı oldu Sora metinden videoya dönüştürme aracıancak yapay zeka tarafından oluşturulan videonun cazibesi, popüler sohbet robotunun kenara itilmesine yol açmış gibi görünüyor ve şimdi bot harekete geçiyor.
Evet, SohbetGPT delirdi ya da daha doğrusu, son 48 saat içinde kısa bir süre için kısa süreliğine delirdi. Kullanıcılar, bottan gelen çok sayıda kafa karıştırıcı ve hatta tehditkar yanıtlar bildirdi; bazıları bunu aldığını gördü saçma sapan metinlerin tekrarlandığı bir döngüde sıkışıp kalmakdiğerleri bozuk İspanyolcada icat edilmiş kelimelere ve tuhaf monologlara maruz kaldılar. Hatta bir kullanıcı, bir kodlama sorunu sorulduğunda ChatGPT’nin, sorunun “odada” olduğu iddiasıyla sona eren gizemli bir ifadeyle yanıt verdiğini belirtti.
Doğal olarak hemen ChatGPT’nin ücretsiz sürümünü kontrol ettim ve şu anda yine normal şekilde çalışıyor gibi görünüyor. Sorunun yalnızca ücretli GPT-4 modelinde mi yoksa ücretsiz sürümde mi olduğu şu anda belli değil ancak OpenAI, “sorunun tespit edildiğini” ve ekibinin “durumu izlemeye devam ettiğini” söyleyerek sorunu kabul etti. ”. Ancak ChatGPT’nin son öfke nöbetine ilişkin bir açıklama yapılmadı.
Bu ilk değil, son da olmayacak
ChatGPT’de geçmişte pek çok kesinti yaşandı; geçen yıl bunu kırmak için yola çıktığımda şöyle diyordu: oldukça komik bazı şeyler – ancak bu, geçmişteki chatbot saçmalıklarından biraz daha yaygın ve sorunlu görünüyor.
Bu, yapay zeka araçlarının genel olarak hatasız olmadığının yerinde bir hatırlatıcısıdır. Yakın zamanda gördük Air Canada, yapay zeka destekli sohbet robotunun kendi politikalarını icat etmesinden sonra para iadesini kabul etmek zorunda kaldıYapay zeka toplumumuzun farklı kesimlerinde uygulanmaya devam ettikçe bu garip aksaklıklardan daha fazlasını göreceğiz gibi görünüyor. Bu mevcut ChatGPT sorunları nispeten zararsız olsa da, gerçek sorunların ortaya çıkma potansiyeli var; Air Canada vakası endişe verici bir şekilde gelecek şeylerin alameti gibi geliyor ve yapay zeka iş ortamlarında kullanıldığında insani denetim gereksinimleri için gerçek bir emsal teşkil edebilir.
Tam olarak Neden ChatGPT’de bu küçük bölüm vardı, şu anda spekülasyonlar yaygın. Bu tamamen farklı bir konu Kullanıcıların ‘aptal’ bir chatbot’a ilişkin şikayetleri Geçen yılın sonlarında GPT-4’ün bazı ödeme yapan kullanıcıları bunun botun ‘sıcaklığı’ ile ilgili olabileceğini öne sürdü.
Açık olmak gerekirse, bu gerçek bir terim değil: Chatbot’ları tartışırken sıcaklık, yapay zekanın ürettiği metin üzerinde uyguladığı odaklanma ve yaratıcı kontrol derecesini ifade eder. Düşük sıcaklık, arkasında çok az karakter bulunan veya hiç karakter içermeyen doğrudan, gerçek yanıtlar verir; yüksek sıcaklık, botun kutudan çıkmasına izin verir ve daha yaratıcı ve muhtemelen daha tuhaf tepkilerle sonuçlanabilir.
Sebep ne olursa olsun, OpenAI’nin ChatGPT’yi yeniden kontrol altına aldığını görmek güzel. Bu tür ‘chatbot halüsinasyonu’, yapay zeka araştırmalarının mızrak noktası statüsü göz önüne alındığında, şirket için kötü bir görünüm ve kullanıcıların ürüne olan güvenini baltalama tehdidi oluşturuyor. Sonuçta duvarlarınızda yaşadığını iddia eden bir chatbotu kim kullanmak ister ki?