ChatGPT Plus’a abone olmanın faydalarından biri, bugün ChatGPT botlarının 3 milyonun üzerinde özel sürümünün bulunduğu GPT mağazasına erişebilme yeteneğidir. Ancak birkaç kullanışlı, kurallara uyan GPT’ye karşılık çok sayıda spam botu vardır.
Onun temelinde mağazada kendi anketiTechCrunch, telif hakkı kurallarını ihlal eden, AI içerik algılayıcılarını atlatmaya çalışan, tanınmış kişilerin kimliğine bürünen ve OpenAI’nin GPT politikasını atlatmak için jailbreak kullanan çok sayıda GPT buldu.
Bu GPT’lerin çoğu, görünüşe göre izinsiz olarak popüler filmlerden, TV şovlarından ve video oyunlarından karakterleri ve içerikleri kullanıyor. Bunlardan biri Pixar filmi “Monsters, Inc.” tarzında canavarlar yaratıyor. Bir diğeri sizi “Yıldız Savaşları” evreninde bir metin macerasına götürüyor. Diğerleri ise farklı serilerin ticari marka karakterleriyle sohbet etmenize olanak tanır.
Yapay zeka içerik algılayıcılarını zekasıyla alt edebilen GPT’lerle dolu
Ancak özel GPT’lere ilişkin kurallardan biri, OpenAI kullanım politikaları “üçüncü şahıslara ait içeriğin gerekli izinler olmadan kullanılmasını” özellikle yasaklar. Ve altında Dijital Binyıl Telif Hakkı YasasıOpenAI kesinlikle telif hakkı ihlalinden sorumlu değildir ancak talep üzerine ihlalde bulunan içeriği kaldırmalıdır.
TechCrunch’a göre GPT Mağazası aynı zamanda AI içerik algılayıcılarını engelleyebilen GPT’lerle de dolu. Bu başarı, intihal karşıtı ürün geliştiricileri tarafından eğitim dünyasındaki oyunculara satılan dedektörleri de ilgilendiriyor. Bir GPT’nin aşağıdaki gibi tespit araçları tarafından tespit edilemediği iddia edilir: Özgünlük.ai Ve Kopya sızıntıları. Bir diğeri, yapay zeka tabanlı tespit sistemlerini atlatmak için içeriğini insanileştirmeyi vaat ediyor.
Hatta bazıları, kullanıcıları, ayda 10.000 kelime için ayda 12 ABD doları ücret almaya çalışan premium hizmetlere bile yönlendiriyor.
Kimlik hırsızlığı mı yoksa basit bir hiciv mi?
Ancak OpenAI’nin kullanım kuralları “akademik sahtekarlığa girişmeyi veya bunu teşvik etmeyi” yasaklıyor. TechCrunch’a gönderilen bir açıklamada OpenAI, akademik sahtekarlığın, intihal dedektörleri gibi akademik dürüstlük araçlarını atlatmaya çalışan GPT’leri de içerdiğini söyledi.
Taklit, pohpohlamanın en samimi biçimi olabilir ancak bu, GPT yaratıcılarının özgürce ve açıkça istedikleri kişinin kimliğine bürünebilecekleri anlamına gelmez. Ancak TechCrunch, tanınmış kişileri taklit eden birkaç GPT buldu. GPT Mağazasında “Elon Musk”, “Donald Trump”, “Leonardo DiCaprio” ve “Barack Obama” gibi isimler için yapılan basit bir arama, bu kişilermiş gibi davranan veya onların konuşma tarzlarını simüle eden sohbet robotlarını ortaya çıkaracaktır.
Burada ortaya çıkan soru, bu kimlik hırsızlığı GPT’lerinin amacıdır. Hiciv ve parodi alanına mı giriyorlar, yoksa bu ünlü insanları taklit etmeye yönelik açık bir girişim mi? OpenAI, kullanım kurallarında “başka bir kişinin veya kuruluşun kimliğinin rızası veya yasal hakkı olmadan taklit edilmesinin” kurallara aykırı olduğunu belirtiyor.
Öğrenmede ılımlılık
Son olarak, bazı GPT’ler bir tür “jailbreak” kullanarak OpenAI kurallarını aşmaya çalışıyor. Bunlardan biri, Jailbroken DAN (Şimdi Her Şeyi Yap) olarak adlandırılan, olağan yönergelerle sınırlı olmaksızın mesajlara yanıt vermek için bir yöntem kullanıyor. OpenAI, koruma önlemlerini atlatmak veya kurallarını ihlal etmek için tasarlanan GPT’lerin politikasına aykırı olduğunu belirtti. Öte yandan davranışı başka bir şekilde yönlendirmeye çalışanlara da izin veriliyor.
GPT Mağazası hala yepyeni ve geçen Ocak ayında resmi olarak kapılarını açtı. Ve bu platforma bu kadar kısa sürede 3 milyondan fazla özel GPT’nin ani akışı şüphesiz etkileyici bir olasılık. Bunun gibi herhangi bir mağazanın, özellikle içerik denetimi söz konusu olduğunda, bazı büyüme sorunları olacaktır.
İçinde geçen Kasım ayına ait blog yazısı Özel GPT’leri duyuran OpenAI, GPT’leri incelemek için yeni sistemler uyguladığını söyledi. Amaç, hileli faaliyetlerde bulunanlar, nefret dolu içerik yazanlar veya yetişkinlere yönelik temalar içerenler de dahil olmak üzere insanların zararlı GPT’leri paylaşmalarını önlemektir. Ancak şirket bunun zaman alacağını kabul etti.
OpenAI için kötü bir imaj
OpenAI, “İnsanların GPT’leri nasıl kullandığını izlemeye ve öğrenmeye devam edeceğiz ve güvenlik önlemlerimizi güncelleyip güçlendireceğiz” dedi ve insanların belirli kuralları ihlal eden belirli bir GPT’yi bildirebileceğini ekledi. Bunu yapmak için, GPT sohbet penceresinde üstteki GPT adını tıklayın, Rapor’u seçin ve ardından raporlama nedenini seçin.
Yine de kuralları çiğneyen bu kadar çok GPT’ye ev sahipliği yapmak OpenAI için kötü bir imaj. Bu sorun TechCrunch makalesinde önerilen büyüklükteyse OpenAI’nin bunu çözmenin bir yolunu bulmasının zamanı gelmiştir.
Kaynak : “ZDNet.com”