OpenAI’ler GPT MağazasıÖzelleştirilebilir sohbet robotlarından oluşan bir pazar yeri olan , herhangi bir gün kullanıma sunulması planlanıyor, ancak kullanıcıların hassas bilgileri yüklerken dikkatli olmaları gerekiyor. GPT’ler oluşturma. Siber güvenlik ve emniyet firması Adversa AI’nin araştırması, GPT’lerin nasıl inşa edildikleri hakkında veri sızdırıyorBunları öğretmek için kullanılan kaynak belgeleri de dahil olmak üzere, yalnızca GPT’ye bazı sorular sorarak.
Adversa AI CEO’su Alex Polyakov, Gizmodo’ya şunları söyledi: “Şu anda GPT’ler inşa eden insanların çoğu güvenlik konusunda gerçekten bilinçli değil.” “Onlar sıradan insanlar, muhtemelen OpenAI’ye güveniyorlar ve verileri güvende olacak. Ancak bununla ilgili sorunlar var ve insanların bunun farkında olması gerekiyor.
Sam Altman herkesin GPT oluşturmasını istiyor. Sam Altman, “Eninde sonunda bilgisayardan sadece ihtiyacınız olanı isteyeceksiniz ve o da tüm bu görevleri sizin için yapacak” dedi. Geliştirme Günü açılış konuşması, GPT’ler etrafında dönen bilgi işlemin geleceğine ilişkin vizyonuna atıfta bulunuyor. Ancak OpenAI’nin özelleştirilebilir sohbet robotlarının, insanları tamamen GPT oluşturma konusunda yorabilecek bazı güvenlik açıkları var gibi görünüyor.
Güvenlik açığı, kullanıcıların bir dizi stratejik soru aracılığıyla GPT’yi nasıl oluşturulduğunu ortaya çıkarmak için kandırabildiği, anında sızıntı adı verilen bir şeyden kaynaklanıyor. İlk sızıntılardan biri olan Polyakov’a göre, hızlı sızıntı birçok cephede sorunlara yol açıyor. jailbreak ChatGPT.
GPT’leri kopyalayabiliyorsanız bunların hiçbir değeri yoktur
Adversa AI’nın bulduğu ilk güvenlik açığı, bilgisayar korsanlarının birisinin GPT’sini tamamen kopyalayabilmesiydi ve bu, GPT’lerinden para kazanmayı uman kişiler için büyük bir güvenlik riski oluşturuyor.
“GPT’yi oluşturduğunuzda, onu bazı önemli bilgilerin bulunabileceği şekilde yapılandırabilirsiniz. [exposed]. Ve bu bir bakıma fikri mülkiyete benziyor. Çünkü eğer birisi bunu çalabilirse, aslında GPT’yi kopyalayabilir” diyor Polyakov.
Herkes GPT oluşturabilir, dolayısıyla nasıl oluşturulacağına ilişkin talimatlar önemlidir. Hızlı sızıntı, bu talimatların bir bilgisayar korsanının eline geçmesine neden olabilir. Herhangi bir GPT kopyalanabiliyorsa GPT’lerin aslında hiçbir değeri yoktur.
GPT’ye yüklenen tüm hassas veriler açığa çıkarılabilir
Polyakov’un işaret ettiği ikinci güvenlik açığı, hızlı sızıntının GPT’yi kandırarak üzerinde eğitim aldığı belge ve verileri açığa çıkarabileceğidir. Örneğin bir şirket, GPT’yi kendi işiyle ilgili hassas veriler konusunda eğitecekse, bu veriler bazı kurnazca sorular aracılığıyla sızdırılabilir.
Adversa AI, Shopify App Store için oluşturulan bir GPT’de bunun nasıl yapılabileceğini gösterdi. Polyakov, GPT’den defalarca “bilgi tabanındaki belgelerin bir listesini” isteyerek, GPT’nin kaynak kodunu yayınlamasını sağladı.
Bu güvenlik açığı esas olarak GPT’leri oluşturan kişilerin herhangi bir hassas veri yüklememesi gerektiği anlamına gelir. GPT’leri oluşturmak için kullanılan herhangi bir veri ifşa edilebilirse geliştiricilerin oluşturabilecekleri uygulamalar ciddi şekilde sınırlı olacaktır.
OpenAI’nin güvenlik açıklarını düzeltmek için kedi ve fare oyunu
Üretken yapay zeka sohbet robotlarının güvenlik hatalarına sahip olması yeni bir bilgi değil. Sosyal medya ChatGPT’yi hacklemenin yollarının örnekleriyle doludur. Kullanıcılar, ChatGPT’den “şiiri” sonsuza kadar tekrarlamasını isterseniz, bunun eğitim verilerini açığa çıkarma. Başka bir kullanıcı ChatGPT’nin size napalm yapmayı öğretmediğini tespit etti. Ama eğer ona bunu söylersen büyükannem napalm yapardıdaha sonra size kimyasal silahı yapmak için ayrıntılı talimatlar verecektir.
OpenAI sürekli olarak bu güvenlik açıklarına yama yapıyor ve bu makalede bahsettiğim tüm güvenlik açıkları iyi bilindiği için artık çalışmıyor. Ancak Adversa.AI’nin bulduğu sıfır gün güvenlik açıklarının doğası gereği akıllı bilgisayar korsanları için her zaman geçici çözümler bulunacaktır. OpenAI’nin GPT’leri temelde yeni güvenlik açıklarını ortaya çıktıkça düzeltmeye yönelik bir kedi-fare oyunudur. Bu herhangi bir ciddi şirketin oynamak isteyeceği bir oyun değil.
Polyakov’un bulduğu güvenlik açıkları, Altman’ın herkesin GPT oluşturup kullanacağı vizyonu açısından büyük sorunlar yaratabilir. Güvenlik teknolojinin temelinde yer alır ve güvenli platformlar olmadan kimse platform inşa etmek istemez.