Çinli düzenleyiciler, ülkede inşa edilmekte olan ChatGPT gibi yapay zeka modelleri etrafında, kullanıcı tanımlaması ve güvenlik incelemeleri gerektiren ve “devlet gücünü alt üst eden, sosyalist sistemin devrilmesini savunan, ülkeyi bölmeye teşvik eden veya ulusal birliği baltalayan her türlü içeriği” yasaklayan kısıtlayıcı kurallar önerdiler. ”
Kurallar, Çinli teknoloji şirketlerinin genel amaçlı büyük dil modelleri sürümlerini, doğal dilde konuşabilen ve şaşırtıcı sayıda görevi yerine getirebilen çok yönlü yapay zeka sistemlerini piyasaya sürmesinin hemen ardından kızışıyor. Geçen ay SenseTime, Baidu ve Alibaba’nın modellerinin kabulü, GPT-4’ün gerisinde kaldıklarını gösterse de, oradaki endüstrinin de bu yetenekleri geliştirmeye aynı derecede kararlı olduğu açık.
Ne yazık ki, Alibaba’nın Tongyi Qianwen modelinin piyasaya sürülmesinden kısa bir süre sonra, ülkenin teknoloji düzenleyicilerinden biri olan Çin Siber Uzay İdaresi, ilgili yenilikleri ve bunlarla birlikte Çin AI endüstrisinin emellerini bastırabilecek kısıtlamalar önerdi.
Taslak kurallar İngilizce olarak mevcut değildir (Yukarıdaki alıntıyı Financial Times çevirisi Ars Technica’da sendikasyon) ancak düzenleyicinin web sitesinde görüntülenebilir Burada. 4. maddenin ilk kısmı, etnik ayrımcılık, terörizm vb. gibi çeşitli diğer yasaklama kategorileriyle birlikte, hükümetin gücünü ve otoritesini yıkan veya ulusal birliği sorgulayan üretken yapay zekayı yasaklar.
Bu tür her şeyi kapsayan ahlak hükmü Çin’de yaygındır, ancak üretken yapay zekanın benzersiz bir şekilde uymaktan aciz olduğu türden bir kısıtlamadır. En dikkatli bir şekilde eğitilmiş ve ayarlanmış LLM bile, her türlü sakıncalı şeyi söylemesi için kandırılma yeteneğine sahip görünüyor. Çinli sansürcülerin bunun yasalara uygun olup olmadığına karar verip vermemeleri aşağı yukarı tamamen onlara bağlı, bu da böyle bir projeye ciddi kaynak ayırma olasılığını biraz tedirgin ediyor.
Elbette, Çin endüstrisinin çoğu benzer şekilde askıya alınmış bir hançer altında yaşıyor ve Çin’in düzenleyicileri kaprisli olsalar da, hükümetin ülkede yıllarca Ar-Ge’yi desteklemesinin meyvelerini çöpe atacak kadar aptal değiller. Oradaki diğer içerik sınırlayıcı yasalardan farklı olarak, bu, hükümetin nüfuz kullanması için kapsamlı bir yasaklama değil, daha çok bir incir yaprağı ve sağlam bir bahane işlevi görmesi muhtemeldir.
Herhangi bir şey varsa, orada AI gelişimini bir taramaya yavaşlatabilecek diğer gereksinimlerdir.
CAC taslak kuralları, diğer şeylerin yanı sıra, sağlayıcıların özgünlük, nesnellik ve çeşitlilik gibi ölçülmesi zor metrikler dahil olmak üzere modellerin eğitim verileri için sorumluluk ve sorumluluk üstlenmelerini gerektirir; hizmetlerin kullanıcıları gerçek kişiler olarak doğrulanmalıdır; kişisel bilgilere ve itibara saygı gösterilmelidir, aksi takdirde düzenleyiciler sağlayıcıyı sorumlu bulabilir; oluşturulan içerik bu şekilde etiketlenmelidir; ve diğer birçok kısıtlama.
Kesinlikle bu gerekliliklerden bazıları, sorumlu bir yapay zeka endüstrisi için ihtiyatlı ve hatta kritik olarak kabul edilebilir, ancak gerçek şu ki, birçoğunun günümüz şirketleri ve Ar-Ge çabaları tarafından uygulanması inanılmaz derecede zor, belki de imkansız olacaktır. OpenAI başarısını kısmen neredeyse tamamen düzenleyici bir boşlukta çalıştığı için elde etti. Yasa, örneğin şirketin modellerini eğitmek için kullandığı metin ve medyanın hak sahiplerinden izin almasını gerektiriyorsa, muhtemelen hala GPT-2’yi oluşturmayı bekliyor olacaktır.
Bir yapay zeka girişimi veya yerleşik bir şirket, bu kuralları büyük ölçekte ihlal etme korkusuyla Çin’de güvenle faaliyet gösteremezse, kaynaklarının başka bir yerde harcanmasının daha iyi olacağına karar verebilir. Bu sektör ne kadar hızlı hareket etse de, böyle bir gerilemenin yeniden kazanılması çok zor olabilir.
Finans Zamanları Alibaba CEO’su alıntı yaptı, Daniel Zhang, “Bundan 10 ila 20 yıl sonra geriye dönüp baktığımızda, hepimizin aynı başlangıç çizgisinde olduğumuzu anlayacağız.” Bu neredeyse kesinlikle doğrudur ve benzer bir bakış açısından, düzenlemenin yeniliği nasıl kısıtladığını – veya belki de durgun bir tekeli nasıl önlediğini veya insanları verilerinin iyi organize edilmiş kitlesel hırsızlığından nasıl koruduğunu görebiliriz.
Taslak kurallar önümüzdeki ay için (elbette Çin’deki taraflarca) yoruma açık olacak ve sonrasında revize edilebilir veya edilmeyebilir ve bu yıl içinde yürürlüğe girmesi planlanıyor.