Kuzey Çin’de bir adamı sözde bir arkadaşına para transfer etmeye ikna etmek için gelişmiş “deepfake” teknolojisini kullanan bir dolandırıcılık, yapay zeka (AI) tekniklerinin mali suçlara yardımcı olma potansiyeli konusunda endişelere yol açtı.
Çin, esas olarak ses ve yüz verilerinin manipülasyonunu içeren yapay zeka kaynaklı dolandırıcılıktaki artışın ortasında bu tür teknoloji ve uygulamaların incelemesini sıkılaştırdı ve kurbanları yasal olarak korumak için Ocak ayında yeni kurallar benimsedi.
İç Moğolistan bölgesindeki Baotou şehrinde polis, failin bir görüntülü arama sırasında kurbanın bir arkadaşını taklit etmek için yapay zeka destekli yüz değiştirme teknolojisini kullandığını ve 4.3 milyon CNY (622.000 $, kabaca Rs) aldığını söyledi. 5,15,52,000).
Polis Cumartesi günü yaptığı açıklamada, arkadaşının bir ihale sürecinde depozito yatırması gerektiği inancıyla parayı transfer ettiğini söyledi.
Polis, çalınan fonların çoğunu geri aldıklarını ve geri kalanının izini sürmek için çalıştıklarını söyleyerek, adamın dolandırıldığını ancak arkadaşının durumla ilgili bilgisizliğini ifade etmesinden sonra anladı.
Dava, mikroblog sitesi Weibo’da çevrimiçi gizlilik ve güvenliğe yönelik tehdit hakkında tartışmayı başlattı ve “#AI dolandırıcılığı ülke çapında patlıyor” hashtag’i Pazartesi günü 120 milyondan fazla görüntülendi.
Bir kullanıcı, “Bu, fotoğrafların, seslerin ve videoların hepsinin dolandırıcılar tarafından kullanılabileceğini gösteriyor” diye yazdı. “Bilgi güvenliği kuralları bu kişilerin tekniklerine ayak uydurabilir mi?”
© Thomson Reuters 2023