Güncelleme 08/05/24 11:10 ET: Bu gönderi, bir OpenAI sözcüsünün açıklamasını ve Pazar günkü blog yazısından daha fazla bilgiyi eklemek için güncellendi.
ChatGPT yapımcısı OpenAI yeni arama ve ses özelliklerine sahip olacak, ancak aynı zamanda internette gördüğünüz tüm o yapay zeka tarafından oluşturulmuş sahte makaleleri yakalamada oldukça iyi olduğu bildirilen bir araç da emrinde. Şirket yaklaşık iki yıldır üzerinde oturuyor ve yapması gereken tek şey onu açmak. Yine de, Sam Altman liderliğindeki şirket, bunu yapıp yapmamanın OpenAI’nin en büyük hayranlarını kızdırabileceği için hala onu yayınlayıp yayınlamamayı düşünüyor.
Bu o değil işlevsiz yapay zeka tespit algoritması şirket 2023’te yayınladı, ancak çok daha doğru bir şey. OpenAI, bir rapora göre bu AI tespit aracını yayınlama konusunda tereddütlü. Wall Street Dergisi Pazar günü şirket içinden bazı anonim kaynaklara dayanarak. Program, aracının algılayabileceği belirli desenlerle AI tarafından oluşturulan metni basan etkili bir AI filigranlama sistemidir. Diğer AI dedektörleri gibi, OpenAI’nin sistemi bir belgeyi ChatGPT ile oluşturulma olasılığının yüzdesi ile puanlayacaktır.
Açık AI onaylanmış bu araç, Pazar günü yayınlanan bir Mayıs blog yazısının güncellemesinde mevcuttur. WSJ’ye göre, programın dahili belgelere göre %99,9 etkili olduğu bildirilmektedir. Bu, belirtilen etkililikten çok daha iyi olacaktır. diğer AI algılama yazılımları Geçtiğimiz iki yıl içinde geliştirildi. Şirket, yerel sıkıştırmaya karşı iyi olsa da, Google Translate gibi bir şeyle çevrilerek ve yeniden çevrilerek veya başka bir AI üreteci kullanılarak yeniden ifade edilerek bunun önüne geçilebileceğini iddia etti. OpenAI ayrıca, aracı aşmak isteyenlerin “her kelimenin arasına özel bir karakter ekleyip sonra bu karakteri silebileceğini” söyledi.
Programın iç savunucuları, öğretmenlerin, öğrencilerinin yapay zeka tarafından üretilen ödevleri ne zaman teslim ettiğini anlamalarına çok yardımcı olacağını söylüyor. Şirketin, kullanıcı tabanının yaklaşık üçte birinin bundan hoşlanmayacağı endişesiyle bu programı yıllarca beklediği bildirildi. Bir OpenAI sözcüsü, bir e-posta açıklamasında şunları söyledi:
“Geliştirdiğimiz metin filigranlama yöntemi teknik olarak umut verici, ancak alternatifleri araştırırken değerlendirdiğimiz önemli riskler var, kötü aktörler tarafından atlatılmaya yatkınlık ve İngilizce konuşmayanlar gibi grupları orantısız bir şekilde etkileme potansiyeli dahil. Dahil olan karmaşıklıklar ve OpenAI’nin ötesinde daha geniş ekosistem üzerindeki muhtemel etkisi göz önüne alındığında, benimsediğimiz kasıtlı yaklaşımın gerekli olduğuna inanıyoruz.”
OpenAI için diğer bir sorun ise, aracını yeterince geniş bir şekilde yayınlarsa, birisinin OpenAI’nin filigranlama tekniğini çözebileceği endişesidir. Ayrıca, bunun ana dili İngilizce olmayanlara karşı önyargılı, Diğer yapay zeka dedektörlerinde gördüğümüz gibi.
Google da benzerini geliştirdi AI tarafından oluşturulan görseller için filigranlama teknikleri ve metin olarak adlandırılan Sentezleyici KimliğiBu program çoğu tüketiciye açık değil ama en azından şirket bu programın varlığından haberdar.
Büyük teknoloji şirketleri internete AI tarafından üretilen metin ve görselleri tükürmenin yeni yollarını geliştirdikçe, sahteleri tespit eden araçlar neredeyse hiç bu kadar yetenekli değil. Öğretmenler ve profesörler ve özellikle öğrencilerinin ChatGPT ile yazılmış ödevleri teslim edip etmediklerini keşfetmekte zorlanıyorlar. Şu anda şu şirketlerden gelen AI tespit araçları Turnitin %15 kadar yüksek bir başarısızlık oranına sahiptir. Bu şirket, yanlış pozitifleri önlemek için bunu yaptığını söyledi.
Ve yapay zeka metin üretiminin acısını hisseden sadece öğretmenler değil. Gizmodo daha önce bir dizi haksız yere suçlanan profesyonel yazarlar AI’yı işlerini bitirmek için kullanmaları ve sonrasında işten atılmaları. Araştırmacılar, bu vakalarda kullanılan üçüncü taraf AI dedektörlerinin genellikle reklamı yapılandan çok daha az güvenilir olduğunu söyledi.