AB polis gücü Europol Pazartesi günü yapay zeka destekli sohbet robotunun olası kötüye kullanımı konusunda uyardı ChatGPT içinde e-dolandırıcılık girişimler, dezenformasyon ve siber suçlar, yasal sorunlardan etik sorunlara uzanan endişeler korosuna katkıda bulunuyor.
Geçen yıl piyasaya sürüldüğünden beri, Microsoft destekli OpenAIChatGPT’nin ChatGPT’si bir teknoloji çılgınlığı başlatarak rakipleri benzer ürünleri piyasaya sürmeye ve şirketleri uygulamalarına ve ürünlerine onu veya benzer teknolojileri entegre etmeye sevk etti.
“LLM’lerin yetenekleri olarak (büyük dil modelleri) ChatGPT gibi aktif olarak geliştirilmektedir, bu türlerin potansiyel istismarı AI sistemleri Europol, chatbot ile başlayan ilk teknoloji raporunu sunarken, “suçlular tarafından kötü bir görünüm sağlıyor” dedi.
ChatGPT’nin zararlı kullanımını üç suç alanında belirledi.
Europol, “ChatGPT’nin son derece gerçekçi metinler oluşturma yeteneği, onu kimlik avı amaçları için yararlı bir araç haline getiriyor” dedi.
AB uygulama dairesi, belirli bireylerin veya grupların konuşma tarzını taklit etmek için dil kalıplarını yeniden üretme yeteneğiyle, chatbot’un suçlular tarafından kurbanları hedef almak için kullanılabileceğini söyledi.
ChatGPT’nin gerçek sesli metinleri hız ve ölçekte yayma yeteneğinin, aynı zamanda onu propaganda ve dezenformasyon için ideal bir araç haline getirdiğini söyledi.
“Kullanıcıların nispeten az çabayla belirli bir anlatıyı yansıtan mesajlar oluşturmasına ve yaymasına olanak tanıyor.”
Europol, çok az teknik bilgiye sahip suçluların kötü amaçlı kod üretmek için ChatGPT’ye başvurabileceğini söyledi.
FacebooktwitterLinkedin