OpenAI’de var ilan edildi (yeni sekmede açılır) söylediği yeni bir araç, bir insan tarafından yazılan metin ile bir yapay zeka yazarının yazdığı metin arasındaki farkı anlayabilir – bazen.
Microsoft destekli şirket, yeni sınıflandırıcının, kendi ve çok popüler ChatGPT gibi yapay zeka içerik oluşturucularının “çalışırken” kötü amaçlı kullanımıyla mücadele etmek için geliştirildiğini söylüyor. otomatik yanlış bilgilendirme kampanyaları (yeni sekmede açılır)… akademik sahtekârlık ve yapay zeka sohbet robotunu insan olarak konumlandırmak.”
Şimdiye kadar, sınıflandırıcının yapay zeka tarafından üretilen içeriği tanımlamada %26’lık bir başarı oranına sahip olduğunu, onu ‘muhtemel yapay zeka tarafından yazılmış’ olarak doğru bir şekilde etiketlediğini ve insanların çalışmasını yanlış olarak yapay olarak etiketlemede %9’luk bir yanlış pozitif orana sahip olduğunu iddia ediyor. oluşturuldu.
Farkı bulun
OpenAI, sınıflandırıcının metin ne kadar uzunsa daha iyi performans gösterdiğini ve önceki sürümlerle karşılaştırıldığında, daha yeni sürümün daha yeni yapay zeka araçlarından otomatik oluşturulmuş metni algılamada “önemli ölçüde daha güvenilir” olduğunu belirtiyor.
Sınıflandırıcı artık herkese açık ve OpenAI, yararlılığını belirlemek ve gelecekte AI algılama araçlarının daha da geliştirilmesine yardımcı olmak için aldığı geri bildirimleri kullanacak.
OpenAI, sınırlamaları olduğunu ve yapay zekanın tüm alanlarında yer alan çoğu kişi tarafından paylaşılan bir duygu olan “birincil karar alma aracı” olarak güvenilmemesi gerektiğini belirtmek istiyor.
Belirtildiği gibi, sınıflandırıcının başarısı için metnin uzunluğu önemlidir, OpenAI bin karakterden az olan parçalarda “çok güvenilmez” olduğunu belirtir.
Daha uzun metinler bile yanlış bir şekilde tanımlanabilir ve insan tarafından yazılan içerik “yanlış ancak güvenle yapay zeka tarafından yazılmış olarak etiketlenebilir”. Ayrıca, İngilizce dışındaki dillerde yazılan metinlerde ve bilgisayar kodunda daha kötü performans gösterir.
OpenAI örneğini verecek olursak, içeriğin yalnızca gerçekçi bir şekilde tek bir şekilde yazılabileceği öngörülebilir metin, güvenilir bir şekilde etiketlenemez, örneğin ilk bin asal sayının listesi gibi.
Dahası, OpenAI, AI metninin sınıflandırıcıyı kandırmak için düzenlenebileceğine dikkat çekiyor ve sınıflandırıcı güncellenebilse ve bu şekilde kandırılmadan öğrenilebilse de, ilginç bir şekilde şirket, “tespitin uzun vadede bir avantaja sahip olup olmadığı belirsiz” diyor. terim.”
Eğitildiği metinden çok farklı olan metinler de sınıflandırıcı sorunlarına neden olabilir, bununla birlikte “bazen [being] yanlış bir tahminde son derece emin.”
Bu eğitim verilerinde OpenAI, biri yapay zeka tarafından üretilen ve diğerinin bir insan tarafından yazıldığına inanılan aynı konuda yazılı metin çiftleri kullandığını söylüyor – bazıları yapay zeka modeli InstructGPT’yi eğitmek için kullanılan istemlere verilen insan yanıtlarından toplandı. öncelikle araştırmacılar ve geliştiriciler tarafından kullanılan şirketten.
Sınıflandırıcının gelişimi, liseler ve üniversiteler gibi akademik kurumlarda OpenAI’nin kendi ChatGPT’si gibi AI sohbet robotlarının kullanımını çevreleyen çok sayıda endişe ve tartışmanın ortasında geliyor.
Öğrenciler chatbot’u ödevlerini onlar adına yazmak için kullandıklarından, kopya çekme suçlamaları artıyor. Deneme gönderme platformu Turnitin, kendi yapay zeka yazma algılama sistemini bile geliştirdi (yeni sekmede açılır) cevap olarak.
OpenAI bu gerçeği kabul ediyor ve hatta eğitimciler için kendi yönerge seti (yeni sekmede açılır) ChatGPT’nin kullanımlarını ve sınırlamalarını anlamak için. Yeni sınıflandırıcısının yalnızca bu kuruma değil, aynı zamanda “gazeteciler, yanlış/yanlış bilgi araştırmacıları ve diğer gruplara” da fayda sağlamasını umuyor.
Şirket, sınıfta ChatGPT ile ilgili deneyimleri hakkında bilgi almak için eğitimcilerle iletişim kurmak istiyor ve onlar, bu form (yeni sekmede açılır) OpenAI’ye geri bildirim göndermek için.
AI yazma araçları başka yerlerde de heyecan yaratıyor. teknoloji sitesi CNET kısa süre önce makale yazmak için bir AI aracı kullandığı için ateş altında kaldı. (yeni sekmede açılır)bir deneyin parçası olarak, ancak bu makaleleri gerçek insanlar tarafından yazılanlardan ayırt edememekle suçlandı. Bu tür makalelerin ayrıca bazı temel olgusal hatalar içerdiği bulundu.
