Güvenlik, yapay zekaya girişen her şirket için hayati önem taşır ve özellikle de oyundaki en iyi oyunculardan biri olan ChatGPT’nin arkasındaki ekip olan OpenAI için önemlidir. Şimdi, güvenlik ve emniyet uygulamalarının ayrıntılı bir incelemesinin ardından şirket, her şeyin yolunda kalmasını sağlamak için bağımsız bir güvenlik kurulu oluşturdu.
Peki gerçekten ne kadar bağımsız?
OpenAI, Güvenlik ve Emniyet Komitesini, güvenlik sorunları olması durumunda model lansmanlarını erteleyebilecek bağımsız bir “Yönetim Kurulu denetim komitesine” dönüştürüyor, bu da aşağıda belirtildiği gibi şirketten bir blog yazısıBu değişim, komitenin bağımsız bir kurul kurulmasını önerdiği, şirketin güvenlik ve emniyet uygulamalarına ilişkin 90 günlük yakın tarihli bir incelemenin ardından geldi. Zico Kolter liderliğindeki ve Adam D’Angelo, Paul Nakasone ve Nicole Seligman gibi üyelerin yer aldığı komite, şirket liderlerinden büyük model lansmanları için güvenlik değerlendirmeleri konusunda güncellemeler alacak.
Öte yandan OpenAI, ABD’deki en iyi ulusal laboratuvarlardan biri olan Los Alamos Ulusal Laboratuvarları gibi dış kuruluşlarla birlikte çalışarak, yapay zekanın biyobilimsel araştırmaları ilerletmek için laboratuvar ortamlarında güvenli bir şekilde nasıl kullanılabileceğini araştırdığını söylüyor.
Ayrıca yakın zamanda ABD ve İngiltere’deki Yapay Zeka Güvenlik Enstitüleri ile yeni yapay zeka güvenlik risklerini araştırmak ve güvenilir yapay zeka için standartlar oluşturmak üzere birlikte çalışmak üzere anlaşmalar imzaladı.
Sistemlerimizin bağımsız test edilmesi için daha fazla fırsat keşfedeceğiz ve sektör genelinde güvenlik standartları için çabalara öncülük edeceğiz. Örneğin, bağımsız model güvenlik değerlendirmeleri için üçüncü taraf güvenlik kuruluşları ve hükümet dışı laboratuvarlarla yeni iş birlikleri geliştiriyoruz. Ayrıca, yapay zeka güvenliği bilimini ilerletmek için hükümet kuruluşlarıyla da çalışıyoruz.
– OpenAI, Eylül 2024
Yapay zeka için katı düzenlemelerin, özellikle şirketlerin modellerini nasıl eğittikleri konusunda elzem olduğuna inanıyorum, bu nedenle güvenlik kurullarının daha yaygın hale geldiğini görmek cesaret verici. Örneğin, Meta’nın ayrıca içerik politikası kararlarını inceleyen ve Meta’nın uyması gereken kararlar veren bir Denetim Kurulu da var. Ancak, güvenlik kurullarının denetledikleri şirketlerle hiçbir bağı olmayan kişilerden oluşmasının daha iyi olacağını düşünüyorum. Siz bu konuda ne düşünüyorsunuz?
