OpenAI, ChatGPT kullanılarak herhangi bir yazılı içerik parçasının oluşturulup oluşturulmadığını tespit edecek bir araç oluşturdu ve test etti. Şirket, birkaç endişe nedeniyle aracı kamuoyuna açıklamaktan kaçınıyor, diyor Wall Street Journal.
Araç, büyük dil modelinin (LLM) çıktısını nasıl yazdığına bir desen ekleyerek OpenAI’nin ChatGPT tarafından oluşturulup oluşturulmadığını tespit etmesini sağlar. Ancak desen insanlar tarafından fark edilmez ve bu nedenle LLM’nin kalitesini etkilemez. Dahili belgeler, aracın ChatGPT’nin çıktısını tespit etmede %99,9 etkili olduğunu söylüyor ancak OpenAI henüz bunu yayınlamadı.
Metin filigranı, ChatGPT tarafından yazılan içerikleri tespit etmek için son derece etkili olsa da, Gemini AI veya Llama 3 gibi diğer LLM’lerin çıktılarıyla çalışamaz. Dahası, bu teknik kolayca atlatılabilir. Örneğin, ChatGPT’nin çıktısını Google Translate’e ekleyebilir, başka bir dile dönüştürebilir ve sonra tekrar İngilizce’ye çevirebilirsiniz, filigranı etkili bir şekilde kaldıracaktır.
Hatta yapay zekadan kelimeler arasına özel bir karakter, emoji veya kısa bir ifade eklemesini ve daha sonra bunları silmesini (örneğin Microsoft Word’ün Bul ve Değiştir işleviyle) istemek kadar basit bir şey bile olabilir veya başka bir LLM’den çıktıyı tamamen yeniden ifade etmesini istemek, tespit aracını bozmak için yeterli olabilir.
OpenAI’nin aracı piyasaya sürerken bir diğer itiraz noktası da, ana dili İngilizce olmayan yazarlara karşı önyargılı olabileceğini söylemesidir. Şirket daha önce geçen yıl bir üretken AI metin algılama aracı piyasaya sürmüştü, ancak OpenAI’nin düşük algılama oranı ve yanlış pozitifler sunma eğilimi nedeniyle fişini çekmesi yalnızca yedi ay sürdü. Hatta bir profesörün bir keresinde gönderilen tüm makalelerin yanlış bir şekilde AI tarafından üretilmiş olarak işaretlenmesi nedeniyle tüm bir sınıfta başarısız olmasına yol açtı.
Ayrıca, OpenAI müşteri tabanını da göz önünde bulunduruyor; müşteri anketleri, ChatGPT kullanıcılarının %69’unun aracın yapay zeka hilesi konusunda asılsız suçlamalara yol açacağına inandığını gösteriyor. Hatta %30’u, OpenAI aracı devreye sokarsa muhtemelen rakip bir LLM’ye geçeceklerini söyledi. ChatGPT dedektörünün geniş çaplı olarak devreye sokulması, şirketin karşı karşıya olduğu bir diğer sorun, çünkü diğer kullanıcılar OpenAI’nin filigranlama tekniğini tersine mühendislikle uygulayabilir ve onu etkisiz hale getirmek için bir eklenti veya uygulama yayınlayabilir.
Bununla birlikte, OpenAI, AI tarafından üretilen içeriğin toplum üzerindeki riskini anlıyor ve metin filigranlama tekniğinin dışında başka alternatiflere bakıyor. Ayrıca, küresel olarak sorulan kişilerin %80’inin varlığını desteklediğini gösteren dahili verilerle bir AI dedektörüne de talep var.
Şu anda, OpenAI’nin metin filigranlama aracını ve dedektörünü yayınlayıp yayınlamayacağı hala bir soru. Ancak, AI geliştirmede önde gelen kuruluşlardan biri olarak, araçlarının sorumlu bir şekilde kullanılmasını sağlamak için adımlar atması gerektiğini de anlıyor. Kaynaklar, OpenAI’nin AI şeffaflığı konusunda kamuoyunu etkilemek için sonbahara kadar vakti olduğunu söylüyor. Bunun ne anlama geldiğini bilmiyoruz, ancak emin olduğumuz bir şey var: Okuduklarımız konusunda eleştirel olmalı ve gerçeği aldığımızdan emin olmalıyız.