OpenAI’nin GPT Mağazasında büyük bir spam ve politika ihlali sorunu var. Yapay zeka firması, Ocak 2024’te kullanıcıların ilgi çekici ve faydalı GPT’ler (aslında belirli bir görev için programlanmış mini sohbet robotları) bulabilecekleri bir yer olarak GPT Mağazasını tanıttı. Geliştiriciler GPT’lerini oluşturup platforma gönderebilir ve OpenAI tarafından verilen politika ve yönergelerden herhangi birini ihlal etmedikleri sürece mağazaya eklenirler. Ancak, politikaların sıkı bir şekilde takip edilmediği ve düzenlemeleri ihlal eden birçok GPT’nin platforma akın ettiği ortaya çıktı.
Gadgets 360 olarak GPT Mağazasında hızlı bir arama yaptık platformu ve chatbot pazarının spam içerikli veya AI firmasının politikalarını başka şekilde ihlal eden botlarla dolu olduğunu tespit etti. Örneğin OpenAI’nin kullanım politikası 2. maddede ‘ChatGPT ile Oluşturma’ bölümü altında “Başkalarının güvenliğini, refahını veya haklarını önemli ölçüde etkileyebilecek aşağıdaki faaliyetleri gerçekleştirmeyin veya kolaylaştırmayın” ifadesi yer alır ve ardından (b) alt bölümüne ekler , “Özelleştirilmiş hukuki, tıbbi/sağlık veya mali tavsiye sağlamak.” Ancak, sadece “avukat” kelimesini arattığınızda karşınıza bir sohbet robotu Açıklamasında “Kişisel AI avukatınız” yazan Legal+ olarak adlandırıldı. Bunların hepsi günlük sorunlar için gerçek zamanlı hukuki tavsiye sağlamaktan, yasal sözleşme şablonları üretmekten ve çok daha fazlasından oluşuyor!
Örnek, platformda meydana gelen bu tür birçok politika ihlalinden yalnızca birini gösteriyor. Kullanım politikası aynı zamanda 3 (b) maddesinde “Rıza veya yasal hak olmadan başka bir kişinin veya kuruluşun kimliğine bürünmeyi” yasaklamaktadır, ancak tespitten kaçma olasılığı yüksek olan “Elon Muusk” u fazladan bir u eklenmiş olarak kolayca bulabilirsiniz. Onun Tanım sadece “Elon Musk ile konuşun” diyor. Bunun dışında gri alanda dolaşan diğer sohbet robotları arasında GPT’ler de yer alıyor. kaldırmak Metni daha insani ve Disney veya Pixar’da içerik oluşturan sohbet robotları gibi göstererek yapay zeka tabanlı intihal stil.
GPT Mağazasıyla ilgili bu sorunlar ilk olarak benekli TechCrunch tarafından yapılan araştırmada, kullanıcıların popüler video oyunu karakteri Wario ve “Avatar: Son Hava Bükücü’den Aang” gibi ticari markalı karakterlerle konuşmasına olanak tanıyan sohbet robotları da dahil olmak üzere başka kimliğe bürünme örnekleri de tespit edildi. Bir avukatla konuşan raporda, Dijital Binyıl Telif Hakkı Yasası nedeniyle ABD’de bu sohbet robotlarını ekleyen geliştiricilerin telif hakkı ihlallerinden OpenAI’nin sorumlu tutulamayacağı ancak yaratıcıların davalarla karşılaşabileceği vurgulandı.
OpenAI, kullanım politikasında şöyle dedi: “Potansiyel olarak politikalarımızı ihlal eden GPT’leri bulmak ve değerlendirmek için otomatik sistemler, insan incelemesi ve kullanıcı raporlarının bir kombinasyonunu kullanıyoruz. İhlaller, içeriğe veya hesabınıza yönelik uyarılar, paylaşım kısıtlamaları veya GPT Mağazasına dahil edilme veya para kazanmaya uygun olmama gibi işlemlere yol açabilir.” Ancak bulgularımıza ve TechCrunch’ın raporuna dayanarak sistemlerin amaçlandığı gibi çalışmadığı görülüyor.