OpenAI, ChatGPT’den ödevlerini yazmasını isteyerek kopya çeken öğrencileri yakalayabilen bir araç geliştirdi – ancak The Wall Street Journal’a göreŞirket, bunu gerçekten yayınlayıp yayınlamama konusunda tartışıyor.
TechCrunch’a yapılan açıklamada, OpenAI sözcüsü şirketin Journal’ın haberinde anlatılan metin filigranlama yöntemini araştırdığını doğruladı ancak “karmaşıklıklar ve OpenAI’nin ötesindeki daha geniş ekosistem üzerindeki muhtemel etkisi” nedeniyle kamuoyuna herhangi bir şey yayınlama konusunda “kasıtlı bir yaklaşım” benimsediklerini söyledi.
Sözcü, “Geliştirdiğimiz metin filigranlama yöntemi teknik olarak ümit verici, ancak alternatifleri araştırırken değerlendirdiğimiz önemli riskler var. Bunlar arasında kötü niyetli kişiler tarafından atlatılmaya açık olma ve İngilizce konuşmayanlar gibi grupları orantısız bir şekilde etkileme potansiyeli yer alıyor” dedi.
Bu, büyük ölçüde etkisiz olan AI tarafından oluşturulan metni tespit etmeye yönelik önceki çabaların çoğundan farklı bir yaklaşım olacaktır. Hatta OpenAI bile geçen yıl önceki AI metin algılayıcısını “düşük doğruluk oranı” nedeniyle kapatmıştı.
Metin filigranlamasıyla OpenAI, yalnızca ChatGPT’den yazıyı tespit etmeye odaklanacaktı, diğer şirketlerin modellerinden değil. Bunu, ChatGPT’nin kelimeleri nasıl seçtiğinde küçük değişiklikler yaparak, esasen yazıda daha sonra ayrı bir araç tarafından tespit edilebilecek görünmez bir filigran oluşturarak yapacaktı.
Derginin hikayesinin yayınlanmasının ardından OpenAI da güncellendi Mayıs blog yazısı AI tarafından oluşturulan içeriği tespit etme konusundaki araştırmasıyla ilgili. Güncelleme, metin filigranlamanın “paraphrase gibi yerelleştirilmiş kurcalamalara karşı oldukça doğru ve hatta etkili” olduğunu, ancak “çeviri sistemleri kullanma, başka bir üretken modelle yeniden ifade etme veya modelden her kelimenin arasına özel bir karakter eklemesini isteme ve sonra o karakteri silme gibi küreselleştirilmiş kurcalamalara karşı daha az dayanıklı” olduğunu söylüyor.
Sonuç olarak, OpenAI bu yöntemin “kötü niyetli kişiler tarafından atlatılmasının kolay olduğunu” yazıyor. OpenAI’nin güncellemesi ayrıca sözcünün İngilizce konuşmayanlar hakkındaki görüşünü yansıtıyor ve metin filigranlamasının “yapay zekanın ana dili İngilizce olmayanlar için yararlı bir yazma aracı olarak kullanılmasını damgalayabileceğini” yazıyor.
