Popüler sohbet robotu ChatGPT’nin yaratıcısı OpenAI, Çarşamba günü bir blog gönderisinde yapay zeka tarafından üretilen metni tanımlamak için bir yazılım aracı yayınladığını söyledi.
ChatGPT, Kasım ayındaki ilk çıkışından bu yana geniş bir popülerlik kazanan ve aynı zamanda telif hakkı ve intihal konusundaki endişeleri artıran makaleler, denemeler, fıkralar ve hatta şiirler dahil olmak üzere bir yönlendirmeye yanıt olarak metin oluşturan ücretsiz bir programdır.
Aynı konuda insan tarafından yazılmış ve yapay zeka tarafından yazılmış metin çiftlerinin veri kümesi üzerinde eğitilmiş bir dil modeli olan AI sınıflandırıcı, AI tarafından yazılan metni ayırt etmeyi amaçlar. Şirket, otomatik yanlış bilgilendirme kampanyaları ve akademik sahtekârlık gibi sorunları ele almak için çeşitli sağlayıcılar kullandığını söyledi.
OpenAI, genel beta modunda, tespit aracının 1.000 karakterin altındaki metinlerde çok güvenilmez olduğunu ve AI tarafından yazılmış metnin sınıflandırıcıyı kandırmak için düzenlenebileceğini kabul ediyor.
OpenAI, “Bu sınıflandırıcıyı, bunun gibi kusurlu araçların yararlı olup olmadığı konusunda geri bildirim almak için halka açık hale getiriyoruz.” Dedi.
“Yapay zeka ile yazılmış metni belirlemenin eğitimciler arasında önemli bir tartışma konusu olduğunun ve aynı derecede önemli olanın, sınıftaki yapay zeka tarafından oluşturulan metin sınıflandırıcıların sınırlarını ve etkilerini fark etmenin de aynı derecede önemli olduğunun farkındayız.”
ChatGPT’nin Kasım ayında kullanıma sunulmasından ve milyonlarca kullanıcı arasında geniş bir popülerlik kazanmasından bu yana, New York Şehri de dahil olmak üzere ABD’nin en büyük okul bölgelerinden bazıları, öğrencilerin metin oluşturucuyu kopya çekmek veya intihal yapmak için kullanacağı endişesiyle yapay zeka sohbet robotunu yasakladı.
Diğerleri, eğitimcilerin AI tarafından oluşturulan metni algılamasına yardımcı olmak için GPTZeroX dahil olmak üzere üçüncü taraf algılama araçları oluşturdu.
OpenAI, ChatGPT’nin yeteneklerini ve sınırlamalarını tartışmak için eğitimcilerle görüştüğünü ve yapay zeka tarafından oluşturulan metnin algılanması üzerinde çalışmaya devam edeceğini söyledi.
© Thomson Reuters 2023