OpenAI, ChatGPT ile oluşturulan metinlere filigran eklemek için bir sisteme ve filigranı tespit etmek için bir araca yaklaşık bir yıldır sahip. raporlar Wall Street Dergisi. Ancak şirket, bunu yayınlayıp yayınlamama konusunda içeride bölünmüş durumda. Bir yandan, yapılması gereken sorumlu bir şey gibi görünüyor; diğer yandan, kârını zedeleyebilir.
OpenAI’nin filigranlaması, modelin öncekileri takip etme olasılığı en yüksek olan kelimeleri ve ifadeleri nasıl tahmin ettiğini ayarlayarak tespit edilebilir bir desen oluşturması olarak tanımlanıyor. (Bu bir basitleştirme, ancak daha fazla bilgi için Gemini’nin metin filigranlaması için Google’ın daha derinlemesine açıklamasına bakabilirsiniz).
Şirket, bunun yeterince olduğunda AI metnini tespit edilebilir hale getirmek için “%99,9 etkili” olduğunu bulmuş gibi görünüyor – bu, öğrencilerin ödevlerini AI’ya devretmesini engellemeye çalışan öğretmenler için potansiyel bir nimet – ancak sohbet robotunun metin çıktısının kalitesini etkilemedi. Şirketin yaptırdığı bir ankette, “dünya çapındaki insanlar bir AI tespit aracı fikrini dörtte bir oranında destekledi” Günlük yazıyor.
Ancak OpenAI’nin, filigran kullanımının ankete katılan ChatGPT kullanıcılarını rahatsız edebileceğinden endişe ettiği anlaşılıyor; kullanıcıların neredeyse yüzde 30’u, filigran uygulanması durumunda yazılımı daha az kullanacaklarını şirkete söyledi.
Bazı çalışanların ise filigranlamanın, Google Çeviri ile metni diller arasında ileri geri döndürmek veya ChatGPT’nin emoji eklemesini ve daha sonra bunları silmesini sağlamak gibi hilelerle kolayca engellenebileceği gibi başka endişeleri vardı. Günlük.
Buna rağmen, çalışanların hala bu yaklaşımın etkili olduğunu düşündükleri bildiriliyor. Ancak, kullanıcıların rahatsız edici duyguları ışığında, makale Bazıları, “kullanıcılar arasında potansiyel olarak daha az tartışmalı ancak kanıtlanmamış” yöntemleri denemeyi önerdi. Sanırım, hiç yoktan iyidir.