AB polis otoritesi Europol, popüler sohbet robotu ChatGPT’yi risk senaryoları açısından inceledi ve şimdi potansiyel kötüye kullanım konusunda uyarıda bulunuyor.
Europol’ün kendi İnovasyon Laboratuvarı, bir dizi çalıştayda ChatGPT için bir ilk tehdit analizi oluşturdu ve şimdi bulgularını yayınladı. Çeşitli tehlikeler tanımlanmıştır.
Europol, ChatGPT’yi araştırıyor
Bir rapor, kötü niyetli aktörlerin yapay zekayı (AI) cezai amaçlarla kullanabileceği birden çok kullanım durumunu tanımlar. Europol özellikle “Büyük Dil Modeli” (LLM) GPT’ye dayanan ChatGPT ile ilgilendi. OpenAI tarafından geliştirilen GPT, doğal dili anlamak ve oluşturmak için milyarlarca veri noktasında eğitilir. ChatGPT, yanlış veya eksik olsalar bile hemen hemen tüm sorulara tutarlı ve nesnel yanıtlar sağlamakla kalmaz. Doğru bilgi istemiyle, sohbet robotu birçok yaygın programlama dili için kod bile yazabilir.
OpenAI, suçluların bu yetenekleri kötüye kullanmasını önlemek için güvenlik önlemlerini sürekli olarak geliştiriyor. Ancak, yine de ChatGPT’nin sonuç üretmesine izin vermenin yeni yollarını her zaman bulurlar. Europol şöyle diyor: “ChatGPT gibi LLM’lerin (Büyük Dil Modelleri) yetenekleri aktif olarak geliştirilirken, bu tür yapay zeka sistemlerinin suçlular tarafından potansiyel olarak istismar edilmesi iç karartıcı bir görünüm sunuyor.”
ChatGPT nasıl bir tehlike oluşturur?
ChatGPT’nin analizinde Europol uzmanları, yapay zekanın kötüye kullanılma potansiyelinin özellikle endişe verici olduğu üç alan belirledi: dolandırıcılık, dezenformasyon ve siber suç.
- Sahtekar: Kimlik avı dolandırıcılığı, ChatGPT kullanılarak daha da kötüleştirilebilecek yaygın bir sorundur. İstisnalar olsa da, sahte e-postalar ve web siteleriyle yapılan kimlik avı girişimlerinin çoğu, özellikle dil tutarsızlıkları nedeniyle genellikle hızlı bir şekilde tespit edilebilir. Ancak Europol’ün analizine göre ChatGPT, şirketler gibi grupların dilini taklit edebilir ve böylece sahte içeriğin daha da özgün görünmesini sağlayabilir.
- dezenformasyon: Dezenformasyon, propaganda ve yalan haber demektir. Özgün görünen metinlerin ve konuşmaların hızla üretilmesi, dezenformasyonun geniş ölçekte yayılmasını daha da kolaylaştırıyor.
- siber Suç: Europol’ün analizinde, siber suç, açıkça, kötü amaçlarla oluşturulmuş kod içeren klasik bilgisayar korsanı saldırılarını ifade eder. Buna göre ChatGPT, önceden bilgisi olmayan suçlular için bile saldırılara temel teşkil edebilecek basit kodlar yazabilir. Ayrıntılı raporda Europol, aktörlerin ChatGPT’nin güvenlik önlemlerini nasıl atlatabileceğini de açıklıyor. AI, birisinin ondan kötü amaçlı kod yazmasını istediğini anlayabilir, ancak yalnızca bu tutarlı bir komutsa. Komut bireysel adımlara bölünürse, güvenlik önlemleri atlanabilir.
Rapor ayrıca ChatGPT’nin cezai amaçlarla kötüye kullanılabileceği başka bir yolu da ele alıyor. Bilgiyi daha erişilebilir hale getirmek, “terörizmin finansmanı ve isimsiz dosya paylaşımı gibi terörist faaliyetleri basitleştirebilir.”