20 Şubat’ta ChatGPT kontrolü kaybetti. Bu teknolojiyi duyuran çok popüler üretken yapay zeka (AI) arayüzünün kilidi bu Salı günü birkaç saatliğine açıldı. Nasıl ? Kullanıcı sorularına saçma cümlelerle yanıt vererek.
Ve burada yayıncı OpenAI bazı açıklamalar yapıyor.
“20 Şubat 2024’te kullanıcı deneyimi optimizasyonu, modelin dili işleme biçiminde bir hata ortaya çıkardı” OpenAI retex’te sağlar. Ve ayrıntıya girersek: LLM’ler, kısmen olasılıklara dayalı olarak kelimeleri rastgele örnekleyerek cevaplar üretir. Dolayısıyla onların “dilleri” simgelere karşılık gelen sayılardan oluşur.
“Çıkarım çekirdekleri yanlış sonuçlar üretiyordu”
Editör, “Bu durumda sorun, modelin bu sayıları seçtiği aşamadadır. Sanki bir çeviri hatasıymış gibi, model biraz yanlış sayılar seçmiş ve bu da hiçbir anlamı olmayan kelime dizilerine neden olmuştur” diyor.
Daha teknik olarak, “çıkarım çekirdekleri belirli GPU yapılandırmalarında kullanıldığında yanlış sonuçlar üretti” diye ekliyor.
Bu olayın nedenini belirledikten sonra şirket, bir düzeltme uyguladığını ve olayın çözüldüğünü doğruladığını iddia etti.
“Bu sistemler hiçbir zaman istikrarlı olmadı”
Yapay zeka uzmanı Gary Marcus, olayın bir “uyandırma çağrısı” olarak görülmesini umuyor.
“Bu sistemler hiçbir zaman istikrarlı olmadı. Hiç kimse bu sistemler etrafında güvenlik garantileri geliştiremedi” diye Salı günü yazdı. Ona göre, “tamamen farklı, daha az şeffaf, daha yorumlanabilir, bakımı ve hata ayıklaması daha kolay ve dolayısıyla uygulaması daha kolay teknolojilere olan ihtiyaç hâlâ en önemli konu.”
