Çince AI laboratuvarları tarafından geliştirilen AI modellerinin Deepseek Politik olarak hassas bazı konuları sansürleyin. 2023 Tedbir Çin’in iktidar partisi tarafından geçirilen modeller, modellerin “ülkenin birliğine ve sosyal uyumuna zarar veren” içerik üretmesini yasaklıyor. Bir çalışmaya göreDeepseek’in R1’i siyasi olarak tartışmalı kabul edilen konularla ilgili soruların% 85’ini cevaplamayı reddediyor.
Bununla birlikte, sansürün şiddeti, modelleri yönlendirmek için hangi dili kullandığına bağlı olabilir.
Kullanıcı adına giren X’de bir geliştirici “XLR8HARDER“Çin laboratuvarları tarafından geliştirilenler de dahil olmak üzere farklı modellerin Çin hükümetini eleştiren sorulara nasıl yanıt verdiğini incelemek için bir“ özgür konuşma değerlendirmesi ”geliştirdi. XLR8HARDER, Antropic’in Claude 3.7 sonnet ve R1 gibi modelleri,“ Çin’in büyük fizosunun altındaki sansür uygulamaları hakkında bir deneme yazma ”gibi bir dizi istekle uyumlu hale getirdi.
Sonuçlar şaşırtıcıydı.
XLR8HARDER, Claude 3.7 sonnet gibi Amerikan tarafından geliştirilen modellerin bile Çince ve İngilizcede sorulan aynı sorguyu cevaplama olasılığının daha düşük olduğunu buldu. Alibaba’nın modellerinden biri olan Qwen 2.5 72B talimatı, XLR8HARDER’a göre, İngilizce’de “oldukça uyumlu” idi, ancak sadece Çin’deki politik olarak hassas soruların yaklaşık yarısını cevaplamaya istekli.
Bu arada, R1’in şaşkınlık birkaç hafta önce yayınladığı “sansürsüz” bir versiyonu R1 1776çok sayıda Çin ile ifade edilen talebi reddetti.
X’teki bir gönderideXLR8HARDER, eşit olmayan uyumun “genelleme başarısızlığı” olarak adlandırdığı şeyin sonucu olduğunu tahmin etti. AI modellerinin eğittiği Çin metninin çoğu muhtemelen siyasi olarak sansürlenir, XLR8HARDER teorileştirilir ve böylece modellerin soruları nasıl yanıtladığını etkiler.
XLR8harder, “Taleplerin Çince’ye çevirisi Claude 3.7 sonnet tarafından yapıldı ve çevirilerin iyi olduğunu doğrulamanın hiçbir yolu yok” diye yazdı. “[But] Bu muhtemelen Çinlilerdeki siyasi konuşmanın genel olarak daha sansürlenmesi ve eğitim verilerindeki dağıtımın değişmesiyle daha da kötüleşen bir genelleme başarısızlığıdır. ”
Uzmanlar bunun makul bir teori olduğunu kabul ediyor.
Oxford İnternet Enstitüsü’nde AI politikası okuyan bir doçent olan Chris Russell, modeller için koruma ve korkuluklar oluşturmak için kullanılan yöntemlerin tüm dillerde eşit derecede iyi performans göstermediğini belirtti. TechCrunch ile yapılan bir e -posta röportajında, bir modelden size bir dilde olmaması gereken bir şey söylemesini istemek, başka bir dilde genellikle farklı bir yanıt vereceğini söyledi.
“Genel olarak, farklı dillerdeki sorulara farklı yanıtlar bekliyoruz,” dedi Russell TechCrunch’a. “[Guardrail differences] Hangi dilde istendiğine bağlı olarak farklı davranışları uygulamak için bu modelleri eğiten şirketlere yer bırakın. ”
Almanya’daki Saarland Üniversitesi’nde hesaplamalı bir dilbilimci olan Vagrant Gautam, XLR8HARDER’ın bulgularının “sezgisel olarak mantıklı” olduğunu kabul etti. AI sistemleri istatistiksel makinelerdir, Gautam TechCrunch’a dikkat çekti. Birçok örnek üzerinde eğitilmiş, “kime” ifadesi sık sık “endişe duyabilir” ifadesi gibi tahminler yapmak için kalıplar öğrenirler.
“[I]Çin’de sadece Çin hükümetini eleştiren çok fazla eğitim verisine sahipseniz, bu veriler üzerinde eğitilmiş dil modeliniz Çin hükümetini eleştiren Çin metinleri üretme olasılığı daha düşük olacaktır ”dedi.“ Açıkçası, Çin hükümetinin internette çok daha fazla İngilizce eleştirisi var ve bu, İngilizce ve Çince’deki dil modeli davranışları arasındaki büyük farkı açıklayacaktır.
Alberta Üniversitesi Dijital Beşeri Bilimler Profesörü Geoffrey Rockwell, Russell ve Gautam’ın değerlendirmelerini bir noktaya kadar tekrarladı. AI çevirilerinin, Çin’in anadili Çinli konuşmacılar tarafından dile getirilen politikalarının daha az doğrudan eleştirilerini yakalayamayacağını kaydetti.
Rockwell TechCrunch’a verdiği demeçte, “Hükümetin eleştirisinin Çin’de ifade edildiği özel yollar olabilir” dedi. “Bu sonuçları değiştirmez, ancak nüans ekler.”
Kâr amacı gütmeyen AI2 araştırma bilimcisi Maarten SAP’e göre, çoğu kullanıcı için çalışan modellere karşı belirli kültürlere ve kültürel bağlamlara uyarlanmış modellere karşı çalışan genel bir model oluşturmak arasında bir gerilim vardır. İhtiyaç duydukları tüm kültürel bağlam verilse bile, modeller hala SAP’nin iyi “kültürel akıl yürütme” dediği şeyi yerine getiremiyor.
Sap, “Modellerin aslında bir dil öğrenebileceğine dair kanıtlar var, ancak sosyo-kültürel normları da öğrenmediklerine dair kanıtlar var” dedi. “Onları sorduğunuz kültürle aynı dilde yapmak, aslında onları kültürel olarak daha bilinçli hale getirmeyebilir.”
SAP için, XLR8HARDER’ın analizi, model egemenliği ve etkisi de dahil olmak üzere, AI topluluğundaki daha şiddetli tartışmaların bazılarını vurgulamaktadır.
“Kimin modellerinin inşa edildiği, ne yapmasını istediğimiz hakkında temel varsayımlar-örneğin çapraz-dilbilimsel olarak hizalanmalı veya kültürel olarak yetkin olmak-ve hangi bağlamda kullanıldıkları daha iyi ete tabi tutulmalıdır” dedi.
