ChatGPT’nin yapımcısı OpenAI, yapay zeka tarafından yazılan metinleri tespit edebilen bir “sınıflandırma” aracı yayınladı. Ama ona çok fazla güvenmemeniz gerektiğini açıkça belirtiyor.
ChatGPT’nin cevap oluşturabileceği soruların genişliği, bazı öğrencilerin yapay zeka tarafından oluşturulan ödevleri kendi çalışmaları gibi göstererek teslim etmeye başlamasıyla öğretim topluluğunu alarma geçiriyor.
Bu nedenle eğitim sektörü, AI tarafından oluşturulan makalelerin ve ödevlerin tespitini otomatikleştirerek OpenAI’nin yeni sınıflandırıcısından yararlanabilecek bir alandır. Yakın zamanda Fransa’da Science Po tarafından veya hatta New York okulları tarafından yapıldığı gibi, kullanımının kısıtlanması veya yasaklanmasından oluşan farklı bir yanıta izin verebilir. Avustralya’dan.
AI tarafından yazılan tüm metinler güvenilir bir şekilde algılanamıyor
Sınıflandırıcı, moderatörleri bazen doğru çözümlerle dolup taştıktan sonra ChatGPT yanıtlarını yasaklayan geliştirici Soru-Cevap sitesi Stack Overflow gibi şirketlere de yardımcı olabilir.
Sınıflandırıcı, tespit çalışmalarının bir kısmını ortadan kaldırabilse de, OpenAI, AI tarafından yazılan tüm metinleri güvenilir bir şekilde tespit etmenin imkansız olduğunu ve bir dizi sınırlamanın etkinliğini etkilediğini söylüyor.
Sınıflandırıcı, AI tarafından yazılan metinlerin% 26’sını “muhtemelen AI tarafından yazılmış” olarak doğru bir şekilde tanımlar – gerçek pozitif oranı. Ayrıca, insanlar tarafından yazılan metinlerin vakaların %9’unda (yanlış pozitif oran) yapay zeka tarafından yazıldığını yanlış bir şekilde tanımlar. Başka bir deyişle, yapay zeka tarafından yazıldığını ortaya çıkarmayan bir insan tarafından gönderilen bir metni algılamama olasılığı yüksektir. Ve her iki durumda da yanıldığı kesin bir olasılık. Ancak şirket, sınıflandırıcının “daha yeni AI sistemlerinden gelen metinlerde önemli ölçüde daha güvenilir” olduğunu söylüyor. GPT-2’ye dayalı önceki dedektör.
Analiz yapmak için 250 kelime
OpenAI, “Bunun gibi kusurlu araçların kullanışlılığı hakkında geri bildirim almak için bu sınıflandırıcıyı halka sunuyoruz” dedi. bir basın açıklamasındaaracın “AI okuryazarlığı hakkında tartışmaları teşvik edeceğini” umduğunu da sözlerine ekledi.
Ücretsiz web sınıflandırma aracı mevcuttur burada. Kullanmak için metnin bir kısmını kopyalayıp metin kutusuna yapıştırmanız ve ardından “Gönder” düğmesini tıklamanız gerekir. Araç, metni AI tarafından oluşturulan “pek olası değil”, “olası değil”, “belirsiz”, “muhtemelen” veya “muhtemelen” olarak sınıflandırır.
Sınıflandırıcı, bir metni analiz etmek için en az 1.000 karaktere veya yaklaşık 150-250 kelimeye ihtiyaç duyar. OpenAI, algılama programlarından kaçınmak için AI tarafından oluşturulan metni düzenlemenin kolay olduğu konusunda uyarır. Ayrıca, öncelikle yetişkinler tarafından yazılan İngilizce içerik üzerine eğitildiğinden, aracın çocuklar tarafından yazılan metinleri ve İngilizce konuşulmayan metinleri yanlış etiketleme olasılığı daha yüksektir.
Ayrıca OpenAI, “sınıflandırıcının insan yazarlarla işbirliği içinde yazılan içeriği tespit etmedeki etkinliğini kapsamlı bir şekilde değerlendirmediğini” iddia ediyor. Şirket, aracın “birincil karar alma aracı olarak değil, bir metnin kaynağını belirlemeye yönelik diğer yöntemleri tamamlayıcı olarak kullanılması” gerektiğini açıklıyor.
Kaynak : “ZDNet.com”