OpenAI’nin, yapay zeka (AI) sohbet robotunu kullanarak metin üretildiğinde bunu tespit edebilen bir araç geliştirdiği bildiriliyor ancak bunu kamuoyuna duyurmak istemiyor. Rapora göre, araç bir süredir yayınlanmaya hazırdı ancak AI firması, böyle bir tespit aracının sohbet robotunu kullanıcılar arasında popüler olmaktan çıkarabileceğinden endişe ediyor. Ancak böyle bir aracın yayınlanmaması, eğitimcilerin bir ödev veya makalenin AI yardımıyla ne zaman yazıldığını bulmakta zorlanmasına yol açtı.
OpenAI’nin Bir Yapay Zeka Metin Dedektörüne Sahip Olduğu Bildirildi
Birine göre rapor The Wall Street Journal’a göre, OpenAI son iki yıldır böyle bir aracın piyasaya sürülmesi konusunda tartışıyor. Haberde, konuya aşina isimsiz kişilere atıfta bulunularak, metin algılama aracının da yaklaşık bir yıldır piyasaya sürülmeye hazır olduğu iddia edildi. Kaynaklardan biri yayına, aracın piyasaya sürülmesinin bir düğmeye basmak kadar kolay olduğunu söyledi.
Böyle bir araç, insanların AI kullanarak makaleler ve araştırma makaleleri gibi içerikler üretmeye başvurduğu eğitimcilere ve diğer benzer kurumlara yardımcı olabilir. Bu yılın başlarında, hakemli bir bilimsel kağıt Elsevier’in Surfaces and Interfaces dergisinde yayınlanan makalenin AI tarafından yazıldığı bulundu ve çevrimiçi ilgi gördükten sonra geri çekildi. AI tabanlı bu intihal, AI kullanımını tespit etmek için güvenilir bir yöntemin olmaması nedeniyle akademi için büyük bir endişe haline geldi.
Rapora göre, OpenAI’nin AI tespit aracını yayınlamayı reddetmesinin sebebi mevcut kullanıcıları kaybetme korkusu. Şirketin bir anket yaptığı ve hile karşıtı bir mekanizma yayınlanırsa kullanıcıların yaklaşık üçte birinin ChatGPT’yi kullanmaya daha az meyilli olacağını bulduğu bildirildi.
Bir diğer korku ise, bu teknolojinin eğitimciler gibi belirli sayıda kullanıcıya sunulmasının aracın kullanışlılığını azaltabileceği, daha geniş bir gruba sunulmasının ise kötü niyetli kişiler tarafından filigran teknolojisinin çözülüp daha sonra gelişmiş maskeleme araçları üretilmesine yol açabileceğiydi.
Yayın tarafından görüntülenen dahili belgelere dayanarak, rapor AI metin algılama aracının ChatGPT yardımıyla yazılmış metinleri bulmada %99 etkili olduğunu iddia ediyor. Bu, aracın esasen metni görülemeyen ancak AI denetleyicisinden geçirildiğinde işaretlenen görünmez bir filigranla gömen bir filigranlama teknolojisi olduğu için işe yarıyor.
Aracın işleyişi dahili belgelerde de açıklanmıştır. Rapora göre ChatGPT, bir dizide hangi kelime veya ifadenin, yani bir token’ın takip etmesi gerektiğini tahmin ederek metin üretir. Seçim küçük bir havuza dayanır, böylece cümle tutarlı olur.
AI tespit aracı ise token seçimi için biraz farklı bir algoritmaya sahiptir. ChatGPT tarafından oluşturulan metin ile aracın metni arasındaki değişiklikler, AI’nın metni oluşturmak için kullanılıp kullanılmadığını değerlendirmeye yardımcı olan bir desen bırakır.
