OpenAI’nın ChatGPT Kullanımında Yasadışı Faaliyetler
OpenAI, ChatGPT yapay zeka aracının kötüye kullanılması dolayısıyla üç ayrı aktivite grubunu durdurduğunu açıkladı. Bu gruplar arasında, uzaktan erişim trojanı (RAT) geliştirmek için ChatGPT’yi kullanan bir Rusça konuşan tehdit aktörü bulunmaktadır. Bu aktör, kötü niyetli içerik üretimi için ChatGPT hesapları açtı ve bu hesaplar aracılığıyla bir dizi teknik bileşeni prototip hale getirme ve sorun gidermeye çalıştı.
OpenAI konu hakkında, “Bu hesaplar, suç unsurları içeren etkinlik kanıtlarını belirli bir Telegram kanalında paylaşan Rusça konuşan suç gruplarıyla bağlantılı gibi görünüyor.” açıklamasını yaptı.
Kötü Amaçlı Yazılım Geliştirme
OpenAI, büyük dil modellerinin (LLM’ler) direkt olarak tehdit aktörlerinin kötü niyetli içerik taleplerini reddettiğini, ancak bu aktörlerin sınırlamaları aşmak için blok kodu oluşturarak akışları oluşturmayı başardıklarını belirtti. Üretilen içerikler arasında kodu gizleme, clipbord izleme ve veri sızdırma gibi temel hizmetler bulunmaktadır. Ancak, bu çıktılar tek başına zararlı olarak değerlendirilemez.
Tehdit aktörünün, yüksek ve düşük seviyede sofistike istekler içeren taleplerde bulunduğu gözlemlenmiştir. Birçok isteğin, derin Windows platform bilgisine ve sürekli hata ayıklama gerektirdiği belirtilmiştir. Ayrıca, bazı isteklerin, toplu şifre üretimi gibi basit otomasyon görevlerini içerdiği aktarıldı.
Kuzey Kore’nin Faaliyetleri
İkinci aktivite grubu, Kuzey Kore kaynaklı olup, Temmuz 2025’te Trellix tarafından detaylandırılan bir kampanya ile örtüşmektedir. Bu kampanyada, Güney Kore’deki diplomatik misyonları hedef alan olta e-postalar aracılığıyla Xeno RAT yayılmıştır. OpenAI, bu grubun ChatGPT’yi kötü amaçlı yazılım ve komut kontrol (C2) geliştirmek amacıyla kullandığını açıklamıştır.
Bu grup, macOS Finder uzantıları geliştirmek, Windows Server VPN’lerini yapılandırmak gibi spesifik çalışmalar yürütmüştür. Ayrıca, tehdit aktörleri, phishing e-postalarını tasarlamak, bulut hizmetleri ve GitHub işlevleri üzerine deney yapmak gibi aktivitelerde de bulunmuşlardır.
Çin’in Hacking Grupları
Üçüncü gruptaki yasaklı hesaplar, Proofpoint tarafından “UNK_DropPitch” (veya UTA0388) adıyla takip edilen bir Çin hacking grubuna aittir. Bu grup, Tayvan’daki yarı iletken endüstrisini hedef alan phishing kampanyaları ile ilişkilendirilmiştir. Hesaplar, phishing kampanyaları içeriklerini oluşturmak için araçlar kullanmış, uzak yürütme ve trafik koruma gibi konulara odaklanmıştır.
Bu grup, phishing içeriklerini İngilizce, Çince ve Japonca dillerinde oluşturmuş ve açık kaynak araçları ile ilgili bilgi araştırmaları yapmıştır. OpenAI, bu tehdit aktörünü “teknik olarak yetkin ancak basit” olarak tanımlamıştır.
Dolandırıcılık ve Etki Operasyonları
OpenAI, yasadışı üçüncü aktiviteler arasında dolandırıcılık ve etki operasyonları için kullanılan hesapları da blokladığını bildirmiştir. Bu yapılanmaların, Kamboçya, Myanmar ve Nijerya kökenli olduğu düşünülmektedir. Bu gruplar, online insanları dolandırmak amacıyla ChatGPT’yi dil çevirisi ve içerik üretimi gibi işlevlerde kullanmıştır. Ayrıca, bazı kullanıcıların, Uygur etnik gruplarını izlemek için ChatGPT’yi kullandıkları tespit edilmiştir.
Bununla birlikte, Rus kökenli bir tehdit aktörü, sosyal medya sitelerinde Fransa ve ABD‘nin Afrika’daki rolünü eleştiren içerikler üreterek manipülatif içerikler oluşturmuştur. Bu içerikler ayrıca Ukrayna karşıtı anlatıları desteklemek amacıyla da geliştirilmiştir.
Strateji Geliştirme ve Taktik Uyarlamaları
Üzerinde durulması gereken başka bir nokta, tehdit aktörlerinin, içeriklerinin AI aracı tarafından üretildiğini belirtecek olası izleri ortadan kaldırmaya çalıştıklarıdır. Örneğin, Kamboçya kökenli dolandırıcılık ağları, çıktılarındaki em-dash (uzun tire, –) işaretlerini kaldırmak için araca başvurmuş, ya da bunu yayına almadan önce manuel olarak çıkardıkları gözlemlenmiştir. Bu durum, tehdit aktörlerinin çevrimiçi tartışmaların farkında olduğunu göstermektedir.
OpenAI’nin bulguları, rakibi Anthropic‘in, AI güvenlik araştırmalarını hızlandırmak ve modellerin davranışını daha iyi anlamak amacıyla sunduğu açık kaynak denetim aracı Petri ile eşzamanlı olarak gelmektedir. Petri, hedef AI sistemini test edecek otomatik bir ajan kullanarak, araştırmacılara çeşitli senaryolarla ilgili veri sağlamaktadır.
Söz konusu durumlar, AI teknolojilerinin ne denli etkili bir şekilde kötüye kullanılabileceğini ortaya koymaktadır. Öngörülemeyen sonuçlar doğurabilecek bu durumların çözüm lenmesine yönelik adımlar atılması büyük bir önem arz etmektedir.
