Çin’in en iyi dijital düzenleyici cesur yeni yönergeler önerdi bu hafta yasaklamak ChatGPT stili devlet gücünü yıktığına inanılan veya ülkenin komünist siyasi sisteminin devrilmesini savunduğuna inanılan içeriği tükürmekten büyük dil modelleri. Gizmodo ile konuşan uzmanlar, yeni yönergelerin, Çinli yetkililerin zorlu çevrimiçi sansür aygıtını gelişmekte olan üretken yapay zeka dünyasına genişletme hevesinin şimdiye kadarki en net işaretlerini gösterdiğini söyledi.. Çin’in Büyük Güvenlik Duvarı şimdi çevreliyor Al.
“Hiçbir yanılsama altında olmamalıyız. Bir insan hakları kuruluşu olan Article 19 için Asya Dijital Program Yöneticisi Michael Caster, Parti, diğer yasa ve yönetmelikler kapsamında haklı göstermeye çalıştığı aynı sansür, gözetim ve bilgi manipülasyonu işlevini yerine getirmek için yeni Üretken Yapay Zeka Yönergelerini kullanacak. çevrimiçi odaklı ifade özgürlüğü, Gizmodo’ya söyledi.
Taslak yönergelerÇin Siber Uzay İdaresi tarafından yayınlanan , yeni üretken AI ürünlerinin hemen ardından geldi. Baidu, Alibabave diğer Çinli teknoloji devleri. İleride Çin’de faaliyet göstermek isteyen yapay zeka geliştiricilerinin, ürünlerini halka açıklanmadan önce bir devlet güvenlik incelemesine tabi tutmaları ve yapay zeka tarafından üretilen tüm içeriğin açıkça etiketlendiğinden emin olmaları gerekecek. Chatbot’lar doğrulamak zorunda kalacak kullanıcıların kimlikleri, ve yapımcıları buna mecbur olacak AI tarafından sunulan içeriğin gerçek olduğundan emin olun—şimdiye kadar Amerikalı meslektaşları için büyük bir sorun—ve kullanıcıların ırkına, etnik kökenine, inancına, ülkesine, bölgesine veya cinsiyetine karşı ayrımcılık yapmaz.
Bu korumaların çoğu görünürken doğrultusunda AI güvenlik uzmanlarından gelen çağrılar diğer ülkelerde, yönergeler, potansiyel olarak yıkıcı siyasi içerik konularında keskin bir şekilde farklılık göstermektedir. Çin bu konuda katı önlemler almak istiyor büyük ölçüde sosyal medyadaki konuşmayı ılımlılaştıran mevcut politikalarıyla uyumludur. İşte Siber Uzay İdaresi’nin önerilen yönergelerinin tercüme edilmiş bir bölümü.
“Üretken yapay zeka tarafından üretilen içerik, sosyalizmin temel değerlerini yansıtmalı ve devlet gücünü yıkma, sosyalist sistemi devirme, ülkeyi bölmeye tahrik, ulusal birliği baltalama, terörizmi, aşırıcılığı teşvik etme ve teşvik etme içermemelidir. etnik nefret ve etnik ayrımcılık, şiddet, müstehcen ve pornografik bilgiler, yanlış bilgiler ve ekonomik ve sosyal düzeni bozabilecek içerikler.”
Caster, Pekin’in üretken AI hakkındaki yeni yönergelerinin, sohbet robotları tarafından çevrilen yabancı makalelere veya internet kullanıcılarının ülkenin sözde Büyük Güvenlik Duvarı içerik filtresini atlatmak için VPN’leri veya diğer araçları nasıl kullanabileceklerine ilişkin önerilere yol açabileceğinden korkuyor. Caster özellikle vurguladı son tutuklama devlet gücünü yıkmaya teşvikten yedi yıl hapis cezasına çarptırılan Ruan Xiaohuan adlı bir blog yazarının. Yazılarından herhangi birini bu yönergeler uyarınca yeniden yayınlayan yapay zeka modelleri misillemeyle karşılaşabilir.
“Bunlar, Çin’de yıkıcı kabul edilen bağımsız bilgi türleri ve bir veri setinin yanlışlıkla kendi bilgisayarından çekilmesi durumunda yeni yönergelerle ters düşecek şeyler. [Xiaohuan’s] üretici içerik sağlamada web sitesi, ”dedi Caster.
İnsan Hakları İzleme Örgütü Kıdemli Çin Araştırmacısı Yaqiu Wang, Gizmodo’ya bu katı kuralları anlattı, yeni olmasına rağmen “tamamen bekleniyordu.” Wang, bu yönergeler olmasa bile, Çinli hükümet yetkililerinin içerik yaydıkları için şirketleri etkili bir şekilde cezalandırabileceğine inandığını söyledi. siyasal sistemi eleştirdiği kabul edilir. Üretken yapay zekadan özellikle bahseden yazılı kurallara sahip olmak yetkililerin kesin tüzüklerden alıntı yapmasını idari olarak kolaylaştırır potansiyel olarak ihlal eden teknoloji firmalarını hedeflerken.
Wang, “Yönergeler olmasa bile aynı şeyi yapabilirler” dedi. “Yönergeler, işaret edebilecekleri kullanışlı bir araçtır.” O Caster’ın değerlendirmesine katıldıÇinli yetkililerin barışçıl ve “tamamen meşru konuşmayı” bastırmak için yeni AI taslak kurallarının metnini kullanmasının mümkün göründüğünü söyledi.
LBaidu gibi büyük teknoloji firmaları, muhtemelen bu kısıtlamalara benzer bir şeyi bilerek modellerini oluşturmuş ve eğitmiştir. geçmek. Öncesi raporlama Wall Street Journal’dan, Çin sohbet robotlarının önceki sürümlerinin, Çin Devlet Başkanı Xi Jinping hakkında kritik sorular sorulduğunda veya Çin siyasetini tartışmak istendiğinde nasıl tıkandığını gösterdi. Bazı hüsrana uğramış kullanıcıların sansürlenen ChatGPT özentilerini “ChatCCP” olarak adlandırdığı bildiriliyor.
“Çin sisteminde çalışıyorsanız, hakkında konuşamayacağın şeyler olduğunu biliyorsun,” dedi Wang. “Yönergeler sadece başka bir uyarıdır.”
Çin’in Siber Uzay İdaresi nedir ve yapay zekadan ne istiyor?
Çin Siber Uzay İdaresi (CAC), 2013 yılında kurulan hızla gelişti son yıllarda ve ülkenin önde gelen internet sansürü ve hızla büyüyen Çinli teknoloji firmaları için düzenleyici kabuslar sunucusu olarak rol aldı. CAC, aniden Çin araç çağırma devini devirmekten sorumluydu. Didi dışarı 2021’deki uygulama mağazalarının sayısı, yayınlanmasından sadece birkaç gün sonra 4,4 milyar dolarlık devasa halka arzve Çin’in iki ürününün yapımında lider bir rol oynadı. en önemli ve şiddetli veri gizliliği yasaları. Caster of Article gibi CAC eleştirmenleri 19, ajansın Başkan Xi Jinping ile yakın bağlar demek en yüksek güç seviyelerinden aktarılan sansür talepleriyle doğrudan ilgilidir.
Caster, CAC’nin terörizmi veya aşırıcılığı teşvik eden içerikler için önerdiği yasakların, soyut olarak takdire şayan olsa da, benzer şekilde siyasi muhalefetleri veya ülkenin Uygur Müslüman azınlığı gibi marjinalize edilmiş grupları bastırmak için silah olarak kullanılabileceği konusunda uyardı. Bu durumda, Çin hükümeti yetkilileri Uygurları aşırılık yanlısı olarak kategorize etti çok sayıda insan hakları grubunun devlet yaptırımlı zulüm olarak tanımladığı eylemleri haklı çıkarmak için. Basitçe kabul eden yapay zeka tarafından oluşturulmuş içerik Uygur Caster, yeni yönergeler uyarınca tarih veya kültürün aşırılığı teşvik ettiğinin görülebileceğini söyledi.
ABD ve Çin sohbet botları alternatif gerçekliklerde var olabilir
Çinli düzenleyiciler, ABD yapımı AI sohbet robotlarına atfedilen potansiyel siyasi müdahale konusundaki endişelerinden çekinmediler. Şubat ayında, Tencent ve Ant Group’un OpenAI’nin ChatGPT’sine erişmeye çalışan kullanıcılara baskı uyguladığı bildirildi. Düzenleyiciler bunun “yanlış bilgi yaymak” için kullanılabileceği konusunda uyardı. ChatGPT Çin’de engellenmiş olsa da, WeChat ve diğer uygulamalardaki kullanıcıların VPN’ler aracılığıyla eriştikten sonra modelle değiş tokuş yaptıkları bildirildi. ChatGPT tarafından sunulan yanıtlardan bazıları, buna göre Guardian, Çinli yetkililer tarafından “ABD hükümetinin siyasi propagandasıyla tutarlı” olarak algılandı.
Pasifik’in diğer tarafında, ABD’li milletvekilleri Çin yapımı AI modelleri hakkında benzer endişeleri dile getiriyorlar. konuşma Axios etkinliği geçen ay, House China seçim komitesi Başkanı Cumhuriyetçi Temsilci Mike Gallagher, Çin yapay zeka modellerini, hükümet yetkililerinin “Orwellci tekno-totaliter bir gözetleme devleti”ni mükemmelleştirmek için kullanabilecekleri silahlar olarak tanımladı. Bu kulağa aptalca gelebilir ve öyle, ancak eski Google CEO’su Eric Schmidt gibi diğer daha saygın Çinli şahinler de aynı şekilde ABD’nin yapması gerekiyor “ne pahasına olursa olsunÇin’e karşı bir AI yarışını kazanmak için ”.
Gallagher, “Yapay zekanın insanın gelişimi ve özgürlüğü için bir araç olarak kullanılmasını sağlamak olduğunu düşünüyorum” dedi.
Baidu ve Alibaba gibi yerel markaların kendi benzer alternatiflerini piyasaya sürmek için yarıştığı sırada, yabancı sohbet botlarına getirilen kısıtlamalar geliyor. Baidu kendi alternatifini gösterdi, Ernie Bot olarak adlandırılan, geçen ay önceden kaydedilmiş bir demo sırasında. OpenAI’nin modelleriyle bazı benzerlikler paylaşıyor, ancak eleştirmenler, Baidu rakibinin temel mantıkla mücadele ediyor gibi göründüğüne dikkat çekiyor. Dahili olarak, Wall Street Journal notlarBaidu, Ernie’nin temel işlevleri yerine getirebilmesini sağlamak için çabalayarak günün her saati çalıştı. Alibaba’nın daha yakın zamanda piyasaya sürdüğü Tongyi Qianwen modeliŞirketin kurumsal müşterilere açtığı, bildirildiğine göre birden çok dilde şiir yazmakta ve temel matematik problemlerini çözmekte başarılı, ancak benzer şekilde temel mantık problemlerinde de mücadele ediyor.
ABD teknoloji firmalarının en azından şimdilik büyük dil modellerinde görünürdeki liderliği, kısmen Çin’deki nispeten katı yapay zeka düzenlemeleri ve Amerikan şirketlerinin yatırım akışı sayesinde. Geçen sene, buna göre Stanford araştırmacıları tarafından yakın zamanda yapılan bir analize göre, ABD şirketleri yapay zeka projelerine Çin’den 3,5 kat daha fazla olan 47,4 milyar dolar yatırım yaptı. Bu rakamlar, ABD firmalarının Çin’deki her şeyin yolunda gittiği, düzenleyici olmayan bir ortam nedeniyle avantajlarını kaybedebileceğini öne süren bazı ABD’li yapay zeka meraklılarının iddialarıyla çelişiyor.
AI Now Enstitüsü İcra Direktörü Amba Kak, Gizmodo’ya “Çin’in yapay zekayı düzenleme konusunda küresel ivmeyle adım adım ilerlediği açık” dedi. “Çin hükümetinin rekabet yaptırımı gibi bu ve diğer düzenleyici hamleleri, Çinli teknoloji şirketlerinin ‘ABD – Çin AI yarışında’ düzenlemesiz bırakıldıkları için avantajlı oldukları iddialarıyla doğrudan çelişiyor.”
“Gevşek bir şekilde desteklenen bu iddialar tehlikeli çünkü ABD’deki Büyük Teknoloji firmalarının düzenlemelerine karşı çıkmak için kullanılıyorlar ve konu gizlilik, rekabet ve tüketicinin korunmasına ilişkin standartlar söz konusu olduğunda dibe doğru bir yarışı teşvik ediyorlar.diye ekledi Kak.