Siyasi bakış açısı sorulduğunda, Openai’nin chatgpt nötr olacak şekilde tasarlandığını ve şu ya da bu şekilde eğilmediğini söylüyor. Bir dizi çalışmalar Son yıllarda bu iddiaya meydan okudu, siyasi olarak suçlanan sorular sorulduğunda, chatbot’un sol eğilimli bakış açılarına yanıt verme eğiliminde olduğunu tespit etti.
Bu değişiyor gibi görünüyor Yeni çalışma Openai modellerinin siyasi önyargılarının zamanla siyasi spektrumun sağ ucuna doğru değiştiğini tespit eden bir grup Çinli araştırmacı tarafından Hümaniti ve Sosyal Bilimler İletişimi dergisinde yayınlandı.
Peking Üniversitesi ve Renmin Üniversitesi’nden ekip, ChatGPT’nin farklı sürümlerinin-GPT-3.5 Turbo ve GPT-4 modellerini kullanarak-siyasi pusula testiyle ilgili sorulara cevap verdiğini test etti. Genel olarak, modellerin yanıtları hala spektrumun soluna doğru eğilimlidir. Ancak, her iki modelin her iki modelin daha yeni sürümleri tarafından güçlendirilen chatgpt kullanılırken, araştırmacılar hem ekonomik hem de sosyal konularda “Chatgpt’in zaman içinde ideolojik konumlandırmasında net ve istatistiksel olarak önemli bir sağa kayma” gözlemlediler.
Önyargı kaymasını Openai’ye ve teknoloji endüstrisinin son zamanlarda bağlamak cazip gelse de kucaklamak Başkan Donald Trump’ın çalışma yazarları, ölçtükleri değişikliklerden birkaç teknik faktörün muhtemelen sorumlu olduğunu yazdılar.
Değişme, modellerin daha erken ve sonraki sürümlerini eğitmek için kullanılan verilerdeki farklılıklardan veya Openai’nin siyasi konular için ılımlı filtrelerinde yaptığı ayarlamalardan kaynaklanabilir. Şirket, farklı eğitim çalışmalarında hangi veri kümelerini kullandığı veya filtrelerini nasıl kalibre ettiğine dair belirli ayrıntıları açıklamıyor.
Değişiklik, parametre ağırlıklandırma kombinasyonları ve geliştiricilerin niyet etmediği ve açıklayamadığı kalıplara yol açan geri bildirim döngüleri gibi modellerde “ortaya çıkan davranışların” bir sonucu olabilir.
Ya da, modeller zaman içinde uyum sağladığı ve insanlarla etkileşimlerinden öğrendiği için, ifade ettikleri politik bakış açıları da kullanıcı tabanları tarafından tercih edilenleri yansıtacak şekilde değişiyor olabilir. Araştırmacılar, daha yüksek bir kullanıcı etkileşimi sıklığı olan Openai’nin GPT-3.5 modelinin ürettiği yanıtların, GPT-4 tarafından üretilenlere kıyasla siyasi sağa zaman içinde önemli ölçüde daha fazla değiştiğini buldular.
Araştırmacılar, bulgularının ChatGPT gibi popüler üretken AI araçlarının siyasi önyargıları için yakından izlenmesi gerektiğini ve geliştiricilerin modellerin önyargılarının zaman içinde nasıl değiştiğini anlamaya yardımcı olmak için süreçleri hakkında düzenli denetimler ve şeffaflık raporları uygulamaları gerektiğini gösteriyor.
Çalışma yazarları, “Gözlenen ideolojik değişimler, özellikle algoritmik önyargıların belirli kullanıcı gruplarını orantısız bir şekilde etkileme potansiyeline ilişkin önemli etik kaygıları arttırıyor” dedi. “Bu önyargılar, çarpık bilgi sunumuna, sosyal bölünmeleri daha da kötüleştirmeye veya mevcut inançları güçlendiren yankı odaları oluşturmaya yol açabilir.”
