” Güvenli bir AI ekosistemi oluşturmak için paydaşlar arasında işbirliğini ve açık diyaloğu teşvik etmeye devam edeceğiz. bir basın açıklamasında OpenAI diyor. Şirket ChatGPT’nin arkasındaki kişi, son haftalarda çeşitli konularda düzenleyiciler tarafından dile getirilen endişelere dolaylı olarak yanıt verdi.
Çocukları korumak için kullanıcıların yaşını doğrulayın
2022’nin sonunda herkese açık olarak kullanıma sunulan ChatGPT, hızla popüler oldu. Bu başarının bir bedeli var: çeşitli ülkelerin düzenleyici otoriteleri tarafından incelenmek. 31 Mart’ta İtalya, Kaliforniya şirketini suçlayan ilk Avrupa ülkesi oldu. Genel Veri Koruma Yönetmeliğine (GDPR) uygunsuzluk. Cevap verme zamanı, İtalyan düzenleyiciler yapay zekaya (AI) erişimi engelledi. Fransa, Almanya ve İrlanda aynı düzenlemelere tabi olduğundan, ilgili düzenleyici makamları Roma ile değiş tokuş yapmıştır.
Atlantik’in ötesinde, Kanadalı yetkililer benzer gerçeklerle ilgili bir soruşturma başlattı. Amerika Birleşik Devletleri’nde, Amerikan rekabet otoritesi olan Federal Ticaret Komisyonu (FTC), kendi adına, OpenAI’nin yapay zekasının güvenliği, özellikle de genç kullanıcıların güvenliği hakkında bir şikayet aldığını açıkladı.
İtalyan otoritesinin suçlamalarında yer alan bir endişe olan OpenAI, buna yanıt vermeye karar verdi. İçinde iletilenşirket, kullanıcılarının yaşını doğrulamak için bir çözüm üzerinde çalıştığını iddia ediyor. AI ile sohbet etmek için artık 18 yaşında veya daha büyük olmanın gerekli olacağını belirtiyor. 13 yaşında veya daha büyük olan çocuklar, ChatGPT’yi ebeveynlerinin izniyle kullanabilir.
Bu değişikliğin ötesinde, OpenAI kullanıcılarının genç ve yaşlılar için uygunsuz değiş tokuşlara maruz kalmasını sınırlamak için çaba sarf ettiğini beyan eder. Bu, büyük başarılı dil modelinin yeni versiyonu olan GPT-4’ün argümanlarından biridir: Yasak içerik (şok edici, taciz edici, pornografik vb.) taleplerine yanıt verme olasılığı %82 daha az olacaktır. Şirket, yapay zekasının örneğin bir bomba yapma planları sağlamayı kabul etmesini engellemek için çok çalışmakta ısrar ediyor. İfadesinde, çocuk pornografisi vakasını ele alarak yasa dışı taleplerin yetkililere bildirilmesinin muhtemel olduğu konusunda ısrar ediyor, “ İnsanlar görüntüleme araçlarımıza çocuk pornografisi yüklemeye çalıştıklarında bunu engelliyor ve Ulusal Kayıp ve İstismara Uğrayan Çocuklar Merkezi’ne bildiriyoruz. (Ulusal Kayıp ve İstismara Uğrayan Çocuklar Merkezi)”.
kullanıcı onayı
Avrupa’da OpenAI’nin, kullanıcı verilerini özellikle eğitimi için onların bilgisi dışında kullandığından şüpheleniliyor. Bir basın bülteninde yayınlanan 5 Nisan, AI: GDPR’ye nasıl uyulur?, Ulusal Bilgi İşlem ve Özgürlükler Komisyonu (CNIL), bir Avrupa vatandaşının verilerinin bir yapay zekayı eğitmek için kullanılması için açık onay vermesi gerektiğini hatırlatır. Sorun, Kaliforniyalı şirketin basın açıklamasında bu yükümlülüğü göz ardı ettiği görülüyor. Yalnızca ” için kullanıcı verilerini kullanmadığını hatırlar. hizmetlerini satmak, reklam vermek veya profil oluşturmak “.
OpenAI, ” mümkün olduğunda tüm eğitim verilerinden kişisel bilgiler “. Kamuya açık olmayan kişilerle ilgili sorular reddedilecektir. Kişisel bilgilerini sistemden silmek isteyen kişilerin de bunu yapabileceğine dikkat çekiliyor. Bu son noktada, Janus International derneğinin başkanı ve avukatı Zoé Villain, OpenAI kendi verilerine erişimini reddettiğinde CNIL’e şikayette bulundu.
GPT-4’ün olası kaymaları?
Sam Amca’nın ülkesinde, yapay zeka etiği konusunda uzmanlaşmış bir grup, Yapay Zeka ve Dijital Politika Merkezi (CAIDP), eskisinden daha güçlü olan OpenAI’nin GPT-4’ünü mahremiyet ve kamu güvenliği için bir risk olmakla suçluyor. Uzmanlar mektuplarında, modelin yanıtlarında bir düzine tehlikeden bahsediyor: kötü amaçlı kod yazmak, son derece kişiselleştirilmiş propaganda, haksız ırk ve işe alım gibi alanlarda cinsiyet tercihleri.
OpenIA, GPT-4’ü dağıtmadan önce 6 aydan fazla beklediğini iddia ediyor. Yine de, muhatap temsilcisinin tüm cevaplarını tahmin edemediğini kabul ediyor.“ Bu 6 aya rağmen, yapay zeka sistemlerinin güvenliğini artırmak için bazen daha fazla zaman ayırmak gerekebilir. “.
Onun hatırlanması Yapay Zeka Güvenliğine Yaklaşım », OpenAI herkesin endişelerini gidermeye çalışıyor. Şirket, iyi niyetini göstermek için AI düzenlemesine verdiği desteği yineledi. ” Politika yapıcıların ve yapay zeka sağlayıcılarının, yapay zekanın geliştirilmesi ve konuşlandırılmasının küresel olarak etkin bir şekilde yönetilmesini sağlaması gerekecek, böylece kimse ilerlemeyi gözden kaçırmaz temin ediyor. OpenAI’nin IA Yasası adı verilen bir sonraki Avrupa yasasına nasıl tepki vereceği henüz belli değil.
