Birleşik Krallık’ın yapay zeka güvenliği birimi, San Francisco’da yaz aylarında açılacak bir ofisle yurtdışına doğru genişliyor.
Pazartesi günü duyurulan, Teknoloji Bakanı Michelle Donelan ve Başbakan Rishi Sunak tarafından geçen yıl kurulan Yapay Zeka Güvenlik Enstitüsü’nün genişletilmesi, İngiliz kuruluşunu OpenAI, Microsoft AI ve Anthropic gibi ABD yapay zeka devlerine yakın konumlandıracak.
Donelan, yeni ofisi, Birleşik Krallık’ın ABD ile ortaklığını güçlendirecek ve “diğer ülkelerin uzmanlığımızdan faydalanmasının önünü açacak olan Birleşik Krallık’ın yapay zekanın risklerini ve potansiyelini küresel bir mercekten inceleme yeteneği açısından çok önemli bir an” olarak tanımladı. Yapay zeka güvenliği konusunda dünyaya liderlik etmeye devam ederken”.
Donelan, San Francisco genişlemesinin “yapay zeka güvenliği konusunda yeni, uluslararası standartlar belirleme” planının “merkezi” olduğunu ekledi.
Duyuru, Birleşik Krallık ve ABD hükümetleri arasında yapay zeka güvenlik testleri konusunda işbirliği yapılmasına yönelik ortak bir anlaşmanın imzalanmasının ardından geldi.
Enstitü, gelişmiş yapay zeka teknolojisinin korumayla birlikte geliştirilmesini sağlamak amacıyla geçen Kasım ayında Yapay Zeka Güvenlik Zirvesi’nden sonra kuruldu.
Google DeepMind gibi yapay zeka araştırmacılarından oluşan grup, çeşitli yapay zeka modellerinin güvenliğini test ediyor.
Yapay Zeka Güvenliği Enstitüsü duyurunun yanı sıra, halka açık beş gelişmiş yapay zeka modelinin testlerinin sonuçlarını yayınladı.
Sonuçlar, test edilen tüm modellerin “temel jailbreak’lere karşı oldukça savunmasız” olduğunu ve bazılarının “güvenlik önlemlerini aşmaya yönelik özel girişimler” olmaksızın “zararlı çıktılar” ürettiğini gösterdi.
Yapay Zeka Güvenlik Enstitüsü başkanı Ian Hogarth, “Değerlendirmelerimiz, model yeteneklerinin ve mevcut güvenlik önlemleri söz konusu olduğunda sağlamlık eksikliğinin ampirik bir değerlendirmesine katkıda bulunmaya yardımcı olacaktır” dedi.
“Yapay zeka güvenliği hâlâ çok genç ve gelişmekte olan bir alan. Bu sonuçlar AISI’nin geliştirmekte olduğu değerlendirme yaklaşımının yalnızca küçük bir kısmını temsil ediyor.”
Yapay Zeka Güvenlik Zirvesi’nin devamı bu hafta Güney Kore’nin Seul kentinde gerçekleşecek.
Devamını oku: Seul zirvesi yapay zeka kapsayıcılığı krizine dikkat çekmeli
