Çin polisi, Çin’in ChatGPT’yi kötüye kullanmaktan ilk kez tutuklandığı bildirilen olayda, bir tren kazasıyla ilgili sahte haberler ürettiği ve “bilgi uydurmak” için yapay zeka teknolojisini kullanarak bunu çevrimiçi olarak yaydığı iddiasıyla bir adamı tutukladı.
Kuzeybatı Gansu eyaletindeki polis Pazar günü yaptığı açıklamada, Hong soyadlı bir şüphelinin “yanlış ve doğru olmayan bilgiler uydurmak için yapay zeka teknolojisini kullanmak” suçundan gözaltına alındığını söyledi.
Hong Kong merkezli South China Morning Post’un Pazartesi günü bildirdiğine göre, vaka ilk olarak bir ilçe polis bürosunun siber bölümünün dikkatini 25 Nisan’da yerel bir tren kazasında dokuz kişinin öldüğünü iddia eden sahte bir haber makalesini fark ettiklerinde çekti. .
Kongtong ilçesindeki siber güvenlik görevlileri, Çinli arama motoru devi Baidu tarafından yürütülen blog tarzı bir platform olan Baijiahao’da aynı anda 20’den fazla hesap tarafından yayınlanan makaleyi buldu.
Yetkililerin dikkatini çekene kadar hikayelerin 15.000’den fazla tıklama aldığı belirtildi.
Gansu kamu güvenliği departmanı, Hong’un normalde en fazla beş yıl hapis cezası gerektiren bir suçlama olan “kavga çıkarmak ve sorun çıkarmak” suçundan şüphelenildiğini söyledi. Ancak Post’un bildirdiğine göre, özellikle ağır kabul edilen durumlarda, suçlular 10 yıl hapis cezasına çarptırılabilir ve ek cezalar verilebilir.
Pekin’in “deepfake” teknolojisinin kullanımını düzenleyen ilk hükümlerinin Ocak ayında resmi olarak yürürlüğe girmesinin ardından, halkın Çinli yetkililer tarafından tutuklandığı konusunda ilk kez bilgilendirildiği belirtildi.
Polis, makalenin kaynağını, Çin’in güneyindeki Guangdong eyaletindeki Shenzhen’de kayıtlı kişisel medya platformlarını işleten, şüpheli Hong’a ait bir şirkete kadar takip ettiklerini söyledi. Yaklaşık 10 gün sonra bir polis ekibi Hong’un evini ve bilgisayarını aradı ve onu gözaltına aldı.
Açıklamada, Hong’un edindiği birden fazla hesapta yayınlamak için Baijiahao’nun çoğaltma kontrolü işlevini atladığını itiraf ettiği belirtildi. Aynı sahte hikayenin farklı versiyonlarını hızlı bir şekilde üretmek için geçmiş yıllarda Çin’de trend olan sosyal hikayelerin unsurlarını ChatGPT’ye girdi ve bunları Baijiahao hesaplarına yüklediği söylendi.
ChatGPT, Çinli IP adresleri tarafından doğrudan kullanılamasa da Çinli kullanıcılar, güvenilir bir VPN bağlantılarına sahiplerse hizmetine yine de erişebilirler.
Çinli BT kuruluşları, Microsoft ve Google’ın yeniliklerini duyurmasının ardından kendi ChatGPT sürümlerini deniyorlardı.
Çin, iktidardaki Çin Komünist Partisi’ne (ÇKP) karşı kritik içerik bulunmadığından emin olmak için 592 milyondan fazla kullanıcısı olan Sina Weibo başta olmak üzere sosyal medyasını güvenlik duvarları aracılığıyla yakından izliyor.
Çin’in en büyük internet düzenleyicisi, derin sentez teknolojisinin kontrolsüz gelişimi ve kullanımının, çevrimiçi dolandırıcılık veya iftira gibi suç faaliyetlerinde kullanılmasına yol açabileceği konusundaki endişelerini uzun süredir dile getiriyor.
ChatGPT son aylarda viral hale geldiğinden, Çin’in kolluk kuvvetleri teknoloji hakkında defalarca şüphelerini ve hatta uyarılarını dile getirdiler.
Çin güvenlik aygıtı tarafından chatbot hakkında yapılan ilk yorumlardan birinde, Pekin polisi Şubat ayında halkı ChatGPT tarafından üretilen “söylentilere” karşı dikkatli olmaları konusunda özellikle uyardı.