Openai, amiral gemisi AI hizmetinin, chatgpt’in kötü niyetli kullanım için tasarlanmadığını açıkça belirtti.
Şirket, daha popüler hale geldikçe platformunu kullanan kötü aktörlerin eğilimlerini gözlemlediğini detaylandıran bir rapor yayınladı. Openai, ChatGPT’yi kullanma şüphesiyle ilgili hesap kutularını, “Varous Dağıtım Platformlarında yayınlanmak üzere” içerik oluşturmak için hata ayıklama “gibi yetkisiz yollarla kaldırdığını belirtti.
Şirket ayrıca haftalık 400 milyon aktif kullanıcı kilometre taşına ulaştığını duyurdu. Şirket, daha fazla işletme ve geliştirici araçlarını kullandıkça, kullanıcının üç aydan daha kısa bir sürede 100 milyondan fazla bir orandan çıkarıldığını detaylandırdı. Bununla birlikte, ChatGPT ayrıca küresel olarak erişilebilen ücretsiz bir hizmettir. İşlevlerinin ahlaki ve etik yönlerinin söz konusu uzun bacağı olduğundan, Openai, platform için ön güdülere sahip olan varlıklarla anlaşmak zorundadır.
“Openai’nin politikaları, sahtekarlık veya dolandırıcılık için araçlarımızın kullanımını veya çıktısını kesinlikle yasaklıyor. Aldatıcı istihdam planlarıyla ilgili soruşturmamız sayesinde hesap kutularını belirledik ve yasakladık. “Dedi.
Openai, raporunda Chatgpt’te gerçekleşen hain eylemlere meydan okumak zorunda kaldı. Şirket, aracı kötü niyetli niyet için kullandığı tespit edilen hesapları yasaklayarak ortaya çıkarılan ve görevlerin eylemi olan çeşitli vaka çalışmalarını vurguladı.
Bir örnekte Openi, ABD hakkında kötü bir dağıtım haber makalesi yazan bir hesabı detaylandırdı ve haber kaynağı Latin Amerika’da bir Çin yayınının kisvesi altında yayınlandı.
Kuzey Kore’de lokalize olan bir başka davanın, Make-Bellieve iş başvuru sahipleri için özgeçmiş ve iş profilleri ürettiği bulunmuştur. Openai’ye uygun olarak, hesap Batı şirketlerinde işlere başvurmak için kullanılmış olabilir.
Yine başka bir çalışma, CHATGPT’yi çeviri için kullanan ve X, Facebook ve Instagram da dahil olmak üzere çeşitli sosyal medya platformlarına sızan ağlarda veya “romantizm dolandırıcılarında” yorumlar oluşturmak için CHATGPT’yi kullanan hesapları ortaya çıkardı.
Openai, bulgularını Meta gibi endüstri çağdaşlarıyla paylaştığını doğruladı, bu da ChatGPT’de gerçekleşen eylemlerden yanlışlıkla etkilenebilir.
