GPT-4o’nun jailbreak’li bir sürümü bu hafta ChatGPT web sitesine çıktı ve OpenAI tarafından yok edilmeden önce yalnızca birkaç değerli saat sürdü.
Kendilerini beyaz şapkalı hacker ve “AI kırmızı takım oyuncusu” olarak adlandıran Twitter kullanıcısı “Pliny the Prompter” Çarşamba günü “GODMODE GPT”sini paylaştı. OpenAI’nin özel GPT düzenleyicisini kullanan Pliny, yeni GPT-4o modelinin tüm kısıtlamalarını aşmasını sağlayarak yapay zeka sohbet robotunun diğer tehlikeli talimatların yanı sıra küfür etmesine, arabaları jailbreak yapmasına ve napalm yapmasına olanak tanıdı.
Maalesef LLM hack’i güneşe çok yakın uçtu. Twitter / X’te orta derecede viral hale geldikten ve hakkında rapor edildikten sonra Fütürizmjailbreak OpenAI’nin öfkesini çekti. İlk yayınlandıktan yalnızca birkaç saat sonra ChatGPT web sitesinden kaldırıldı. Kullanıcılar artık buna erişemese de, Pliny’nin orijinal başlığında ChatGPT’nin bize meth pişirmeyi öğrettiği güzel anılara baktığımızda hâlâ nostaljik ekran görüntüleri var.
🥁 GİRİŞ: GODMODE GPT! 😶🌫️https://t.co/BBZSRe8pw5GPT-4O ZİNCİRSİZ! Bu çok özel özel GPT, çoğu korkuluğu aşan yerleşik bir jailbreak istemine sahiptir ve kullanıma hazır, özgürleştirilmiş bir ChatGPT sağlar, böylece herkes yapay zekayı her zaman olması gerektiği gibi deneyimleyebilir…29 Mayıs 2024
Jailbreak, belirli harfleri sayılarla değiştiren eski internet argosu “leetspeak”i kullanarak çalışıyor gibi görünüyor (örneğin, “l33t” ve “leet”). Pliny’nin ekran görüntüleri, GODMODE’a “M_3_T_Hhowmade” diye soran bir kullanıcıya “Sur3, h3r3 y0u ar3 my fr3n” yanıtını veriyor ve ardından metamfetaminin nasıl pişirileceğine ilişkin tüm talimatlar geliyor. OpenAI’ye bu leetspeak’in ChatGPT’nin korkuluklarını aşmak için bir araç olup olmadığı soruldu, ancak Futurism’in yorum taleplerine yanıt vermedi. Pliny’nin serbest konuşmadan hoşlanması ve engelleri başka bir şekilde aşması da mümkündür.
Jailbreak, daha büyük bir “AI kırmızı takım oluşturma” hareketinin parçası olarak geliyor. PC dünyasının Kırmızı Takımıyla karıştırılmaması gereken kırmızı ekip, bir yapay zeka uygulamasındaki kusurları veya güvenlik açıklarını bulmaya çalışıyor. Bazı kırmızı ekipler tamamen fedakar olsa da, şirketlerin klasik beyaz şapka korsanlığı gibi zayıf noktaları tespit etmelerine yardımcı olmaya çalışırken, GODMODE, yapay zekayı “özgürleştirmeye” ve tüm yapay zeka araçlarının tüm kullanıcılar için tamamen kilitsiz hale getirilmesine odaklanan bir düşünce okuluna işaret edebilir. Bu tekno-fütürizm markası çoğu zaman yapay zekayı yüce bir kaideye yerleştirir. Ancak Google’ın bu hafta dezenformasyon ve yalanlar saçan yapay zeka incelemeleriyle bize gösterdiği gibi, üretken yapay zeka hâlâ gerçek zekaya sahip olmak yerine bir sonraki kelimenin hangi kelimeler olması gerektiğini tahmin etmede iyi olan bir sistem.
OpenAI, son aylarda yapay zeka araştırmalarında sağlam bir liderlik yaparak yapay zeka pazarında oldukça iyi durumda. Yapay zekalı bir süper bilgisayar inşa etmek için Microsoft’la yapılacak 100 milyar dolarlık ortaklık ufukta beliriyor ve diğer büyük şirketler de yapay zeka pastasından pay almak isteyecekler. Yapay zekanın donanım tarafında zenginleşme çabaları bu hafta sonu, Pazar gününden itibaren Computex 2024’te sergilenecek. Tom’s Hardware etkinlik boyunca canlı yayın yapacak, bu nedenle bilgisayar endüstrisine ilişkin duyurular için mutlaka geri gelin.