Deepseek’in son akıl yürütme odaklı yapay zeka (AI) modeli Deepseek-R1’in çok sayıda soruyu sansürlediği söyleniyor. Bir AI firması büyük dil modeli (LLM) üzerinde testler yaptı ve ülkenin iktidar partisinin politikalarına aykırı olan Çin’e özgü sorgulara cevap vermediğini buldu. AI firması, sentetik bir bilgi istemi veri kümesi oluşturmak için bir kod çalıştırarak, AI modelinin tamamen cevap vermeyi reddettiği ya da genel bir yanıt verdiği 1000’den fazla istem buldu.
Deepseek-R1 sorguları sansürlüyor
Bir Blog yazısıAI Model Test firması PromptFoo, “Bugün, ÇKP tarafından sansürlenmesi muhtemel hassas konuları kapsayan bir istem veri kümesi yayınlıyoruz. Bu konular arasında Tayvan bağımsızlığı, Kültür Devrimi çevresindeki tarihsel anlatılar ve Xi Jinping ile ilgili sorular yer alıyor. ”
Firma, soruları bir programa tohumlayarak ve sentetik veri üretimi yoluyla genişleterek istemlerin veri kümesini oluşturdu. Veri kümesi bir sarılma yüzünde yayınlandı liste Ayrıca Google sayfalarında. Leadfoo, çoğunun Çin çevresinde hassas konular içerdiği 1.360 istem bulabildiğini belirtti.
Göreve göre, bu istemlerin yüzde 85’i reddetme ile sonuçlandı. Bununla birlikte, bunlar akıl yürütme odaklı bir AI modelinden beklenen bir tür reddetme değildi. Tipik olarak, büyük bir dil modeli (LLM) sorguları cevaplamayacak şekilde eğitildiğinde, genellikle isteği yerine getiremeyeceğini cevaplar.
Deepseek-R1’in hızlı reddi
Bununla birlikte, PreptFOO tarafından vurgulandığı gibi, Deepseek-R1 AI modeli, Çin Komünist Partisi’nin (CCP) politikalarına bağlı olarak uzun bir yanıt verdi. Post, bu sorguları cevaplarken aktive edilen bir düşünce zinciri (COT) mekanizması olmadığını kaydetti. Firmanın tam değerlendirmesi bulunabilir Burada. Gadgets 360 personeli bu istemleri Deepseek’te test etti ve benzer retlerle karşılaştı.
Çin tabanlı AI modellerinin katı devlet tabanlı düzenlemelere uyması gerektiği göz önüne alındığında, bu tür sansür şaşırtıcı değildir. Bununla birlikte, geliştiriciler tarafından sansürlenen çok sayıda sorgu ile AI modelinin güvenilirliği inceleme altına alınmaktadır. AI modeli kapsamlı bir şekilde test edilmediğinden, CCP politikalarından etkilenen başka yanıtlar olabilir.
