## Çinli AI Chatbotlarının Kendini Sansürleme Mekanizması
Dijital sansürün etkileri, özellikle Çin’de, giderek daha fazla ilgi çekmektedir. Günümüzde hükümetler, teknolojik gelişmelerle birlikte sansür yöntemlerini de geliştirmekte ve bu durum, yapay zeka chatbotlarının işleyişine doğrudan etki etmektedir. Son günlerde Stanford ve Princeton Üniversitesi’nden araştırmacıların yaptığı yeni bir çalışma, bu konuda önemli bulgular sunuyor.
### Araştırmanın Kapsamı
Araştırmacılar, toplamda 145 politik olarak hassas soruyu dört Çinli büyük dil modeline ve beş Amerikalı modele uygulayarak yanıtlarını karşılaştırdı. Deneyleri 100’den fazla kez tekrarlayarak elde ettikleri sonuçları analiz ettiler. Sonuçlar, birçok kişi için sürpriz niteliği taşımıyor: Çinli modeller, Amerikan modellerine göre çok daha fazla soruyu cevaplamayı reddediyor. Örneğin, DeepSeek modelinin yüzde 36’sı, Baidu’nun Ernie Bot’u ise yüzde 32’si yanıt vermeyi reddetti; oysa OpenAI ve Meta’nın modellerinin reddetme oranı yüzde 3’ün altındaydı.
### Önceki Eğitim ve Sonraki Müdahale
Araştırmanın en çarpıcı bulgularından biri, ön eğitim ve sonrası arasındaki etkileri ayırt etme girişimiydi. Burada sorulan soru şu: Çinli modeller hassas soruları yanıtlama oranlarının düşük olmasında geliştiricilerin müdahalelerinde mi yoksa zaten sansürlü olan Çin internet verilerinden mi etkileniyor? Stanford Üniversitesi’nden siyaset bilimci Jennifer Pan, araştırmanın önemli bir parçasını oluşturuyor. Pan’a göre, “Çin interneti on yıllardır sansürlendiği için birçok veri eksik,” diyor.
### Veri Eğitiminin Rolü
Pan ve meslektaşlarının bulguları, eğitim verisinin, AI modellerinin tepkilerini belirlemede yapılan manuel müdahalelerden daha küçük bir rol oynadığını öne sürüyor. İngilizce yanıtlar verirken bile, bu modeller hala daha fazla sansür gösteriyor. Bu durum, hem eğitim veri setsinin kısıtlılığı hem de geliştiricilerin bilinçli müdahaleleri sayesinde ortaya çıkıyor.
### Sansürün Etkileri ve Kullanıcı Farkındalığı
Günümüzde, kullanıcılar DeepSeek veya Qwen gibi chatbot’lardan Tiananmen Meydanı Katliamı ile ilgili sorular sorduğunda, sansürün hemen ortaya çıktığını görebiliyor. Ancak bu durumun normal kullanıcılar üzerinde nasıl bir etkisi olduğunu ölçmek ve manipülasyonun kaynağını tespit etmek zordur. İşte bu araştırma, Çinli LLM’lerin gözlemlenebilir önyargılarına dair nicel ve tekrarlanabilir kanıtlar sunması açısından önemli bir adım.
### Yalancı Beyin: AI Censorship
AI modellerinin bir diğer zorluğu da “hayali” bilgiler üretebilmeleridir. Bu da, bu modellerin neden doğruları söylemediğini anlamayı güçleştirir. Pan’ın çalışmasında yer alan bir örnek, 2010 Nobel Barış Ödülü sahibi Liu Xiaobo hakkında verilen yanıttır: Bir Çinli model, Liu’yu “nükleer silah teknolojisi ve uluslararası politikaya katkıda bulunan Japon bir bilim insanı” olarak tanımlayarak tamamen yanlış bir bilgi vermiştir. Peki, model neden böyle bir yanıt vermiştir? Kullanıcıları yanlış yönlendirmek mi istemiştir yoksa eğitim verilerinde Liu’ya dair tüm bilgilerin çıkarılması mı söz konusudur?
### Sonuç
Pan, “Censorship ölçüm araçları daha gürültülü hale geldiği için, sansürü tespit etmek daha zorlaşıyor,” diyor. Çalışmalar, sansürün en etkili olduğu zamanın, sinyallerin daha az belirgin hale geldiği dönemler olduğunu gösteriyor. Bu bağlamda, yapay zeka ve dijital sansür arasındaki ilişkiyi anlamak, gelecekte daha da önem kazanacak gibi görünüyor.
Teknoloji
US-1
