OpenAI’nin ChatGPT’si gibi yapay zeka sohbet robotları, çalışanların işlerinde daha verimli olmalarına yardımcı olabilecek, belki de gelecekte bu insanların tamamen yerini alabilecek devrim niteliğinde araçlar olarak satılıyor. Ama baş döndürücü yeni çalışma ChatGPT’nin bilgisayar programlama sorularını %52 oranında hatalı yanıtladığını tespit etti.
Purdue Üniversitesi’nin araştırması ilk kez haber kaynağı tarafından fark edildi Fütürizmbu ayın başlarında sunuldu Bilgisayar-İnsan Etkileşimi Konferansı Hawaii’de Stack Overflow ile ilgili 517 programlama sorusunu inceledim ve bunlar daha sonra ChatGPT’ye aktarıldı.
Yeni çalışma, “Analizimiz, ChatGPT yanıtlarının %52’sinin yanlış bilgi içerdiğini ve %77’sinin ayrıntılı olduğunu gösteriyor” dedi. “Bununla birlikte, kullanıcı araştırması katılımcılarımız, kapsamlılıkları ve iyi ifade edilmiş dil tarzları nedeniyle hala %35 oranında ChatGPT yanıtlarını tercih ediyor.”
Rahatsız edici bir şekilde, çalışmadaki programcılar yapay zeka sohbet robotunun ürettiği hataları her zaman fark edemiyordu.
Araştırmaya göre “Ancak ChatGPT cevaplarındaki yanlış bilgileri de %39 oranında gözden kaçırdılar.” “Bu, ChatGPT’nin programlama sorularına verdiği yanıtlardaki yanlış bilgilere karşı koyma ve görünüşte doğru yanıtlarla ilişkili riskler konusunda farkındalık yaratma ihtiyacını ima ediyor.”
Açıkçası, bu sadece bir çalışmadır ve herkesin erişebileceği bir çalışmadır. çevrimiçi oku, ancak bu araçları kullanan herkesin ilgili olabileceği sorunlara işaret ediyor. Büyük teknoloji şirketleri şu anda en güvenilir sohbet robotlarını sunmak amacıyla yapay zekaya milyarlarca dolar akıtıyor. Meta, Microsoft ve Google, internetle ilişkimizi kökten yeniden şekillendirme potansiyeline sahip, yeni ortaya çıkan bir alana hakim olma yarışında. Ama önümüzde bir takım engeller var.
Bu sorunların en önemlisi, özellikle belirli bir kullanıcı gerçekten benzersiz bir soru sorduğunda, yapay zekanın sıklıkla güvenilmez olmasıdır. Google’ın yeni yapay zeka destekli Arama özelliği sürekli olarak çöp fışkırtmak bunlar genellikle güvenilmez kaynaklardan alıntıdır. Aslında bu hafta Google Arama’da The Onion’dan hicivli makaleler sunulan birçok kez oldu. güvenilir bilgi.
Google ise yanlış yanıtların anormallik olduğu konusunda ısrar ederek kendisini savunuyor.
Bir Google sözcüsü Gizmodo’ya e-posta yoluyla şunları söyledi: “Gördüğümüz örnekler genellikle çok nadir sorgulardır ve çoğu insanın deneyimlerini temsil etmemektedir.” bu haftanın başlarında. “Yapay Zeka Genel Bakışlarının büyük çoğunluğu, web’de daha derinlere inmek için bağlantılarla birlikte yüksek kaliteli bilgiler sağlıyor.”
Ancak “alışılmadık soruların” yanlış yanıtlar gösterdiği savunması açıkçası gülünç. Kullanıcıların bu sohbet robotlarına yalnızca en sıradan soruları mı sormaları gerekiyor? Bu araçların devrim niteliğinde olması gerektiği vaadi varken bu nasıl kabul edilebilir?
OpenAI, Cuma günü ChatGPT yanıtlarına ilişkin yeni çalışma hakkında yapılan yorum talebine hemen yanıt vermedi. Geri bildirim alırsak Gizmodo bu yazıyı güncelleyecektir.