ChatGPT’yi geliştiren şirket OpenAI, içerik politikası geliştirme ve içerik denetleme kararları için GPT-4’ü kullandığını söyledi. İçerik moderasyonu, teknoloji ve platformların belirtilen politikalara uygun olarak geliştirilmesinde önemlidir.
OpenAI, GPT-4’ün daha tutarlı etiketleme, politika iyileştirme için daha hızlı geri bildirim döngüsü ve insan moderatörlerin daha az katılımını sağladığını söyledi.
“GPT-4 kullanan bir içerik moderasyon sistemi, politika değişikliklerinde çok daha hızlı yinelemeyle sonuçlanarak döngüyü aylardan saatlere indirir.” ve politika güncellemelerine anında uyum sağlayarak daha tutarlı etiketleme sağlar.”
neden önemli
İçerik moderasyonu, titiz çaba, duyarlılık, derin bir bağlam anlayışı ve yeni kullanım durumlarına hızlı adaptasyon gerektiren sıkıcı bir süreçtir.
Geleneksel olarak, bu görev, süreci doğal olarak yavaşlatan ve zihinsel strese yol açabilen insan moderatörler tarafından yapılır. Bu nedenle, AI modellerinde halatlama, insan incelemecilere kesinlikle biraz soluklanma sağlayacaktır.
Şirket, “Bunun, AI’nın çevrimiçi trafiği platforma özgü politikaya göre yönetmeye yardımcı olabileceği ve çok sayıda insan moderatörün zihinsel yükünü hafifletebileceği dijital platformların geleceği hakkında daha olumlu bir vizyon sunduğuna inanıyoruz” dedi.
“OpenAI API erişimine sahip olan herkes, kendi AI destekli moderasyon sistemlerini oluşturmak için bu yaklaşımı uygulayabilir.”
AI destekli moderatörlerin sınırlamaları
Mevcut AI modelleri hala erken aşamalarında olduğundan, yargıları, eğitim sırasında modele dahil edilmiş olabilecek istenmeyen önyargılara karşı savunmasızdır.
Bu nedenle, sonuçların ve çıktıların insanlar tarafından dikkatle izlenmesi, doğrulanması ve rafine edilmesi gerekli hale gelir. Ayrıca, sürecin bazı bölümlerinde insan katılımı azaltılabilir, ancak karmaşık vakalarda insan müdahalesi olmalıdır.
FacebooktwitterLinkedin
makalenin sonu