Okul öğretmenlerinden oluşan bir aileden geldiğim için, sürekli gündeme gelen tek endişe, öğrencilerin ödevlerinde kopya çekmek için ChatGPT’yi nasıl kullanabilecekleridir. Yapay zeka metin üretiminin kullanımını tespit ettiği iddia edilen araçlar var, ancak güvenilirlikleri zayıf.
Ve bu yüzden OpenAI’nin bunu memnuniyetle karşıladıklarından eminim bir blog yazısının gizli güncellemesi Mayıs ayından itibaren (görüldü) TeknolojiCrunch) şirketin kullanıma hazır bir “metin filigranlama yöntemi” geliştirdiği. Ancak, ekibin bunu yayınlamasını engelleyen endişeler var.
Peki OpenAI’nin üzerinde çalıştığı yöntemler neler? Birden fazla yöntem var ancak şirket ikisini detaylandırdı:
- Filigranlama: Bir tür gizli metin filigranı eklemenin, yapay zeka tarafından oluşturulan tespit edilen çalışmalarda “oldukça etkili” olduğu ve hatta “parafrazlama gibi yerelleştirilmiş kurcalamalara” karşı bile güçlü olmayı başardığı görüldü.
- Meta Veri: İnsanların bir çözüm yolu bulmaya ve yanlış pozitif olasılığını ortadan kaldırmaya çalışabilecekleri bir filigran eklemek yerine (bu konuya daha sonra değineceğiz), OpenAI ayrıca kriptografik olarak imzalanmış meta veri eklemeyi de düşünüyor.
OpenAI’nin keşfettiği diğer yöntem sınıflandırıcıları kullanmaktır. E-posta uygulamalarının mesajları otomatik olarak spam klasörüne koyması veya önemli e-postaları ana gelen kutusuna kategorize etmesi söz konusu olduğunda, makine öğreniminde bunları düzenli olarak kullanıldığını göreceksiniz. Bu, makalelerin AI tarafından üretilmesi için gizli bir sınıflandırma olarak kullanılabilir.
Sorunlu olabilir
Bu araçlar temelde kullanıma hazır ve OpenAI bunların üzerinde oturuyor, bir rapora göre Wall Street DergisiPeki gecikmenin sebebi ne? Basitçe söylemek gerekirse, tamamen kusursuz değiller ve yarardan çok zarar verebilirler.
Filigranlamanın yerelleştirilmiş kurcalamaya karşı iyi olduğunu, ancak “küreselleştirilmiş kurcalamaya” karşı pek de iyi olmadığını belirttim. “Çeviri sistemlerini kullanma, başka bir üretken modelle yeniden ifade etme veya modelden her kelimenin arasına özel bir karakter eklemesini isteme ve sonra o karakteri silme” gibi bazı küstah yöntemler filigranı aşacaktır.
Bu arada, diğer sorun bazı gruplar üzerinde orantısız bir etkiye sahip olmasıdır. Yapay zeka “ana dili İngilizce olmayanlar için yararlı bir yazma aracı” olabilir ve bu durumlarda, kullanımını damgalamak istemezsiniz – bu araçların eğitim için küresel erişilebilirliğini ortadan kaldırır.