OpenAI’nin ChatGPT’si dünya çapında 100 milyonun üzerinde kullanıcıya ulaşarak hem yapay zekanın olumlu kullanım durumlarını hem de daha fazla düzenleme ihtiyacını vurguladı. OpenAI bu nedenle daha güvenli ve daha sağlam modeller oluşturmak için bir ekip oluşturuyor.
Salı, OpenAI duyuruldu Daha güvenli modeller uygulamak için risk değerlendirmesi ve azaltma stratejileri konusunda bilgi sağlamaya yardımcı olabilecek uzmanlardan oluşan OpenAI Kırmızı Takım Ağı’nı başlatın.
Bu ağ, OpenAI’nin risk değerlendirmelerini yürütme biçimini, model ve ürün geliştirme döngüsünün farklı aşamalarını içeren daha resmi bir sürece dönüştürecek. OpenAI’ye göre “büyük model dağıtımlarından önceki tek seferlik taahhütler ve seçim süreçlerine” zıt bir mantık.
Yapay zeka sistemleriyle ilgili önceden deneyime sahip olmanıza gerek yok
OpenAI, ekibi oluşturmak için eğitim, ekonomi, hukuk, diller, siyaset bilimi ve psikoloji alanları da dahil olmak üzere tüm alanlardan uzmanlar arıyor.
Ancak OpenAI, yapay zeka sistemleri veya dil modelleriyle ilgili önceden deneyime sahip olmanın gerekli olmadığını açıklıyor.
Üyelere harcadıkları zaman karşılığında ödeme yapılacak ve gizlilik anlaşmalarına (NDA) tabi olacaklardır. Her yeni model veya projede yer almayacakları için, Kırmızı Takım’ın (editörün notu: siber güvenlik dünyasının savunucularından oluşan takım olan Mavi Takım’ın aksine, güvenlik açıklarını test eden bir takım) bir parçası olmak yalnızca temsil edebilirdi. yılda beş saat taahhüt. Ağın bir parçası olmak için başvurabilirsiniz OpenAI web sitesinde.
“Yapay zeka teknolojilerinin ve politikalarının gelişimini şekillendirmek için eşsiz bir fırsat”
Blog gönderisine göre, OpenAI’nin kırmızı takım kampanyalarına ek olarak uzmanlar “kırmızı takım uygulamaları ve sonuçları” konusunda birbirleriyle iletişim kurabilecekler. OpenAI, “Bu ağ, daha güvenli yapay zeka teknolojileri ve politikalarının geliştirilmesinin yanı sıra yapay zekanın yaşama, çalışma ve etkileşim şeklimiz üzerindeki etkisini şekillendirmek için eşsiz bir fırsat sunuyor” diyor.
Kırmızı ekip oluşturma, yeni teknolojilerin etkinliğini test etmek ve güvenliğini sağlamak için önemli bir süreçtir. Diğer teknoloji devleri de Google ve Microsoft, kendi yapay zeka modellerine adanmış benzer süreçlere sahiptir.
Kaynak : “ZDNet.com”
