Geçtiğimiz Kasım ayında OpenAI duyuruldu Herkesin ChatGPT teknolojisinin özel versiyonlarını yapıp bulabileceği bir pazar yeri için planlarını açıklayan şirket, “En iyi GPT’ler topluluk tarafından icat edilecek.” dedi. Mağazanın resmi olarak açılmasından dokuz ay sonra başlatıldıGizmodo’nun serbest pazaryeriyle ilgili analizi, birçok geliştiricinin platformu, OpenAI’nin kurallarını ihlal ediyor gibi görünen GPT’ler (veya üretken önceden eğitilmiş dönüştürücü modeller) sağlamak için kullandığını gösteriyor. politikalarBunlar arasında, yapay zeka tarafından üretilen pornoyu açıkça oluşturan, öğrencilerin tespit edilmeden kopya çekmesine yardımcı olan ve yetkili tıbbi ve hukuki tavsiyeler sunan chatbot tarzı araçlar da yer alıyor.
Suçlu GPT’leri bulmak kolaydır. 2 Eylül’de, OpenAI’nin pazaryerinin ana sayfası, mağazanın politikalarını ihlal ediyor gibi görünen en az üç özel GPT’yi tanıttı: “Terapist – Psikolog” sohbet robotu, “fitness, egzersiz ve diyet doktora koçu” ve öğrencilerin AI yazı tespit sistemlerinden kaçmasına yardımcı olmak için tasarlanmış bir araç olan ve 50.000’den fazla kez kullanılan BypassGPT.
Mağazada “NSFW” araması, mağaza verilerine göre 10.000’den fazla kez kullanılan Offrobe AI tarafından özelleştirilmiş bir GPT olan NSFW AI Art Generator gibi sonuçlar döndürdü. GPT’nin sohbet arayüzü, amacını belirgin bir şekilde belirten Offrobe AI’nın web sitesine bağlanır: “Karanlık isteklerinizi tatmin etmek için AI pornosu üretin.”
Georgia Teknoloji Enstitüsü’ndeki İnternet Yönetim Projesi direktörü Milton Mueller, “OpenAI ile ilgili ilginç olan şey, yapay zekaya dair kıyametvari bir vizyona sahip olmaları ve hepimizi bundan nasıl kurtardıkları,” dedi. “Ancak, politikalarının dünyayı kurtaracağını söylerken aynı zamanda yapay zeka pornosu yok gibi basit bir şeyi bile uygulayamamaları bence özellikle eğlenceli.”
Gizmodo’nun OpenAI ile şirketin politikalarını ihlal ettiği görülen 100’den fazla GPT’nin listesini paylaşmasının ardından, spor bahisleri önerileri sağlayan AI porno jeneratörleri, deepfake yaratıcıları ve sohbet robotları mağazadan kaldırıldı. Ancak yayın tarihi itibarıyla, popüler hile araçları ve tıbbi tavsiye sunan sohbet robotları da dahil olmak üzere bulduğumuz GPTS’lerin çoğu kullanılabilir durumdaydı ve mağazanın ana sayfasında tanıtılıyordu.
Birçok durumda botlar on binlerce kez kullanıldı. Öğrencilerin intihal karşıtı yazılım Turnitin’den kaçınmalarına yardımcı olmayı vaat eden Bypass Turnitin Detection adlı bir başka hileli GPT, mağaza verilerine göre 25.000’den fazla kez kullanıldı. Aynı şekilde “kanıta dayalı tıbbi bilgi ve tavsiyeler sağlayan” bir bot olan DoctorGPT de kullanıldı.
Şirket, kullanıcıların özel GPT’ler oluşturmasına izin verdiğini duyurduğunda, araçların politikalarını ihlal edip etmediğini izlemek için sistemlerin yerinde olduğunu söyledi. Bu politikalar, teknolojisinin cinsel içerikli veya imalı içerik oluşturmak, kişiye özel tıbbi ve hukuki tavsiye sağlamak, hileyi teşvik etmek, kumar oynamayı kolaylaştırmak, başkalarını taklit etmek, oylamaya müdahale etmek ve çeşitli diğer kullanımlar için kullanılmasına ilişkin yasakları içerir.
Gizmodo’nun mağazasında bulunan GPT’ler hakkındaki sorularına yanıt olarak, OpenAI sözcüsü Taya Christianson şunları söyledi: “Politikalarımızı ihlal edenlere karşı harekete geçtik. Politikalarımızı potansiyel olarak ihlal eden GPT’leri bulmak ve değerlendirmek için otomatik sistemler, insan incelemesi ve kullanıcı raporlarının bir kombinasyonunu kullanıyoruz. Ayrıca, insanların kurallarımızı ihlal eden GPT’leri bildirmeleri için ürün içi raporlama araçları da sunuyoruz.”
Diğer satış noktaları daha önce uyarılmış OpenAI, mağazasındaki içerik denetimi sorunlarına. Ve teklif edilen bazı GPT’lerin başlıkları, geliştiricilerin de yaratımlarının OpenAI’nin kurallarına aykırı olduğunu bildiklerini gösteriyor. Gizmodo’nun bulduğu araçlardan birkaçı, feragatnameler içeriyordu ancak daha sonra açıkça “uzman” tavsiyesi sağlama yeteneklerini ilan ettiler, örneğin Texas Medical Insurance Claims (yasal tavsiye değil) başlıklı bir GPT, “Teksas tıbbi sigortasının karmaşıklıklarında gezinmek için başvuracağınız uzman, kişisel bir dokunuşla net, pratik tavsiyeler sunuyor.” diyor.
Ancak bulduğumuz yasal ve tıbbi GPT’lerin çoğu bu tür feragatnameleri içermiyor ve birçoğu kendilerini yanıltıcı bir şekilde avukat veya doktor olarak tanıtıyor. Örneğin, AI Immigration Lawyer adlı bir GPT kendini “güncel yasal içgörülere sahip, son derece bilgili bir AI göçmenlik avukatı” olarak tanımlıyor.
Araştırma Stanford Üniversitesi RegLab ve İnsan Merkezli Yapay Zeka Enstitüsü’nden alınan bir araştırma, OpenAI’nin GPT-4 ve GPT-3.5 modellerinin kendilerine sorulan hukuki soruların yarısından fazlasında halüsinasyon gördüğünü, yani yanlış bilgi uydurduğunu gösteriyor.
Özelleştirilmiş GPT geliştiricileri şu anda pazaryerinden doğrudan kar elde etmiyor, ancak OpenAI söz konusu Geliştiricilere GPT’lerinin ne sıklıkla kullanıldığına göre tazminat ödeyecek bir gelir paylaşım modeli getirmeyi planlıyor.
Mueller’e göre OpenAI, geliştiricilerin kendi teknolojisini kullanıp kendi yaratımlarını kendi platformunda pazarlayabilecekleri bir ekosistem sağlamaya devam ederse, belirli anahtar kelimeleri engellemek için birkaç satır kod yazarak çözülemeyecek zorlu içerik denetleme kararları vermek zorunda kalacak.
“Bana istediğiniz herhangi bir teknolojiyi verin, yapmamı istemediğiniz şeyleri yapmanın yollarını bulabilirim,” dedi. “Bu çok zor bir sorun ve internetin ölçeğiyle başa çıkmak için otomatik araçlarla yapılması gerekiyor ancak her zaman devam eden bir çalışma olacak ve insan tarafından yönetilen itiraz süreçlerine sahip olması gerekecek.”