OpenAI, teknoloji ve medyanın çocuklara, gençlere ve gençlere yönelik zararlarını en aza indirmek için çalışan kuruluşlarla ortaklık kurarak ebeveynlerin ve politika yapıcıların güvenini kazanmayı umuyor.
Bunun bir örneği olarak OpenAI bugün, ebeveynler, eğitimciler ve genç yetişkinler için AI yönergeleri ve eğitim materyalleri üzerinde işbirliği yapmak üzere çeşitli medya ve teknolojilerin çocuklar için uygunluğunu inceleyen ve derecelendiren kar amacı gütmeyen kuruluş Common Sense Media ile bir ortaklık yaptığını duyurdu.
Ortaklığın bir parçası olarak OpenAI, OpenAI’nin GPT pazarı olan GPT Store’da Common Sense’in derecelendirme ve değerlendirme standartları OpenAI’ye dayalı olarak “aile dostu” GPT’ler (OpenAI’nin GenAI modelleri tarafından desteklenen sohbet robotu uygulamaları) oluşturmak için Common Sense Media ile birlikte çalışacak. CEO Sam Altman şöyle diyor:
Altman, hazır bir açıklamada şunları ekledi: “Yapay zeka, aileler ve gençler için inanılmaz faydalar sunuyor ve Common Sense ile olan ortaklığımız, güvenlik çalışmalarımızı daha da güçlendirerek ailelerin ve gençlerin araçlarımızı güvenle kullanabilmelerini sağlayacak.”
Ortaklığın lansmanı, OpenAI’nin, AI ürünlerinin güvenliğini, şeffaflığını, etik kullanımını ve etkisini değerlendirmek üzere tasarlanan derecelendirmeler ve incelemeler için Common Sense’in Eylül ayında başlatılan yeni çerçevesine katılacağını açıklamasının ardından geldi. Common Sense’in kurucu ortağı ve CEO’su James Steyer’e göre Common Sense’in çerçevesi, uygulamaların kullanıldığı bağlamlara ışık tutmak ve potansiyel fırsat ve zarar alanlarını vurgulamak amacıyla yapay zeka destekli uygulamalar için bir “beslenme etiketi” oluşturmayı amaçlıyor. bir dizi “sağduyu” ilkesi.
ChatGPT logosuyla birlikte bilgisayar ekranının önünde bir akıllı telefon ekranında görüntülenen OpenAI logosu.
Bir basın açıklamasında Steyer, günümüzün ebeveynlerinin GenAI araçları (örneğin OpenAI’nin viral yapay zeka destekli sohbet robotu ChatGPT) hakkında genç nesillere kıyasla genel olarak daha az bilgi sahibi olduklarına değindi. Geçen yılın sonlarında Common Sense Media tarafından yaptırılan bir Etki Araştırması anketi, okul çağındaki çocukları olan ebeveynlerin %30’una kıyasla 12 ila 18 yaşlarındaki öğrencilerin %58’inin ChatGPT kullandığını ortaya çıkardı.
Steyer e-postayla yaptığı açıklamada, “Common Sense ve OpenAI birlikte, yapay zekanın tüm gençler ve aileler üzerinde olumlu bir etkiye sahip olmasını sağlamak için çalışacak” dedi. “Rehberlerimiz ve küratörümüz, aileleri ve eğitimcileri bilgisayarların güvenli ve sorumlu kullanımı konusunda eğitmek için tasarlanacaktır. [OpenAI tools like] ChatGPT, böylece bu gelişen teknolojinin istenmeyen sonuçlarından toplu olarak kaçınabiliriz.”
OpenAI, ChatGPT de dahil olmak üzere GenAI destekli uygulamalarının toplum için bir zarar değil, genel bir nimet olduğunu göstermesi yönünde düzenleyicilerin baskısı altında. Daha geçen yaz ABD Federal Ticaret Komisyonu, ChatGPT’nin veri toplama ve bireyler hakkında yanlış beyanlar yayınlama yoluyla tüketicilere zarar verip vermediği konusunda OpenAI hakkında bir soruşturma başlattı. Avrupalı veri yetkilileri ayrıca OpenAI’nin özel bilgilerin işlenmesiyle ilgili endişelerini de dile getirdi.
OpenAI’nin araçları, tüm GenAI araçları gibi, kendinden emin bir şekilde bir şeyler uydurma ve temel gerçekleri yanlış anlama eğilimindedir. Ve önyargılılar; onları eğitmek için kullanılan verilerin bir yansıması.
Araçların sınırlı olup olmadığının farkında olan çocuklar ve gençler, yalnızca okul ödevlerinde değil kişisel konularda da yardım almak için giderek daha fazla bu araçlara yöneliyor. Bir göre anket Demokrasi ve Teknoloji Merkezi’nden yapılan araştırmaya göre çocukların %29’u kaygı veya zihinsel sağlık sorunlarıyla başa çıkmak için ChatGPT’yi kullandığını, %22’si arkadaşlarıyla ilgili sorunlar için ve %16’sı aile çatışmaları için kullandığını bildiriyor.