Siber güvenlik şirketi Check Point’e göre, çok çeşitli kötü niyetli aktörler, OpenAI şirketi tarafından başlatılan sohbete dayalı yapay zeka programı ChatGPT’yi sinsice kullanmaya çalışıyor.
Check Point’in BT güvenlik yöneticilerinden biri olan Pete Nicoletti, New York’taki bir şirket etkinliğinde gazetecilerden oluşan küçük bir toplantıda, “Rus bilgisayar korsanlarının ChatGPT çevresinde konulan bölgesel kısıtlamaları aşmaya çalıştığını görüyoruz” dedi.
Bu korkunç. Son derece gerçekçi e-posta kimlik avı şablonlarının oluşturulmasını otomatikleştirmek ve potansiyel olarak API’sini geri gönderilen herhangi bir e-postayı yanıtlamak için kullanmak? Ve bunun “bir okul sunumu için” olduğuna ikna etmek için gereken her şey?! #ChatGPT #Siber Güvenlik @elonmusk @sama pic.twitter.com/2fa6Sz3in3
—Charles (@harclesah) 10 Şubat 2023
Rusya’dan gelen talepler engellendi
Check Point yetkilisi, ChatGPT Uygulama Programlama Arayüzü erişim kısıtlamalarını ifade eder. İkincisi, Rusya’dan gelen istekleri engellemelidir.
Ancak ona göre, kullanım kısıtlamalarını aşmaya yönelik bu girişimler, diğerleri arasında yalnızca bir örnektir. “ChatGPT iyi oyuncular ve kötü oyuncular tarafından kullanılacak” diye özetledi.
Örneğin, Reddit forumunda şunu fark etti: sömürü teşebbüsü “Şimdi her şeyi yap” anlamına gelen DAN adı altında ortaya çıktı. Bu, ChatGPT’yi manipüle etmek için sohbet istemini kullanmayı içerir, böylece tasarımcıları tarafından konulan güvenlik önlemlerinden kaçan, ancak nefret söylemi gibi belirli metinleri üretmesini engellemeyi amaçlayan metinler üretir.
Kimlik avı için toplu hedefleme
Pete Nicoletti’ye göre ChatGPT, sonunda kötü niyetli bilgisayar korsanlarının gelişmiş kimlik avı saldırıları geliştirmelerine izin vermelidir.
“Aşırı derecede hedef alınacaklar, çünkü saldırganlar bu tür bir saldırıyı her kurban için uygun hale getirebilecekler,” diye tahminde bulunuyor ve bunun bir tür toplu hedeflemeye izin vermesi gerektiğine inanıyor.
Şirket, kötü niyetli bilgisayar korsanlarının konuşmalı yapay zeka programıyla ilk girişimlerini bir ay önce bildirmişti. Bu nedenle, bir forumda, bir bilgisayar korsanı Aralık sonunda ChatGPT’yi bilgi hırsızları veya şifreleyiciler gibi kötü amaçlı program türlerini yeniden oluşturmak için nasıl kullandığını açıklamıştı.
