Aralarında OpenAI, Amazon, Microsoft ve Google DeepMind’ın da bulunduğu bir düzineden fazla küresel teknoloji şirketi, teknolojinin vereceği zararı hafifletmek veya önlemek için yapay zeka güvenlik çerçeveleri oluşturmayı taahhüt etti.
Şirketler, bu risklerin yeterince azaltılamadığı aşırı koşullar altında “hiçbir model veya sistem geliştirmeyecekleri veya uygulamaya koymayacakları” konusunda anlaştılar.
Çinli Zhipu.ai firmasını ve BAE’nin Teknoloji İnovasyon Enstitüsünü de içeren gönüllü taahhüt, Birleşik Krallık ve Birleşik Krallık Cumhuriyeti’nin ortak ev sahipliği yaptığı Bletchley Yapay Zeka Güvenlik Zirvesi’nin devamı olan Yapay Zeka Seul Zirvesi’nin açılış gününde yapıldı. Kore.
Katılımcı firmalar, yapay zeka modellerinin risklerini nasıl ölçeceklerini açıklayan güvenlik çerçeveleri yayınlamayı kabul etti. Çerçeveler, “katlanılamaz” sayılabilecek ciddi riskleri ve bunların o aşamaya gelmesinin nasıl önlenebileceğini içerecek.
Başbakan Rishi Sunak, “Bu taahhütler, dünyanın önde gelen yapay zeka şirketlerinin güvenli yapay zeka geliştirme planlarında şeffaflık ve hesap verebilirlik sağlamasını sağlıyor” dedi.
“Bu, dönüştürücü teknolojinin faydalarını ortaya çıkaracak olan yapay zeka güvenliğine ilişkin küresel standartlar için bir emsal teşkil ediyor.”
Anlaşma, ilk Yapay Zeka Güvenlik Zirvesi’ne katılan 27 ülke arasında yapay zeka zararlarına karşı koruma sağlanması konusunda işbirliği yapmak üzere yapılan bir anlaşma olan Bletchley Deklarasyonu’nun ardından geliyor.
“Yapay zekanın gerçek potansiyeli ancak risklerin üstesinden gelebilirsek ortaya çıkacak. Yapay zekanın güvenli bir şekilde geliştirilmesini sağlamak hepimizin sorumluluğundadır ve bugünkü anlaşma, artık yapay zeka şirketlerinin taahhütlerini güçlendirdiğimiz ve dünya çapında daha iyi temsil ettiğimiz anlamına geliyor” dedi Teknoloji Bakanı Michelle Donelan.
“Daha güçlü yapay zeka modellerinin çevrimiçi hale gelmesi ve dünya çapında daha fazla güvenlik testinin yapılmasıyla birlikte, yapay zekanın ekonomik büyüme için dönüştürücü potansiyelini yakalayabilmemiz için riskleri yönetme sorumluluğunu üstleniyoruz.”
16 firmanın tam listesi şunları içeriyor:
- Amazon
- Antropik
- tutarlı
- Google / Google DeepMind
- G42
- IBM’in
- Çekim AI
- Meta
- Microsoft
- Mistral Yapay Zeka
- Naver
- AI’yı aç
- Samsung Elektronik
- Teknoloji Yenilik Enstitüsü
- xAI
- Zhipu.ai
Taahhüt, geçtiğimiz Kasım ayında Bletchley Park zirvesinde “benzer düşüncelere sahip ülkeler ve yapay zeka şirketlerinin” yapay zeka modellerinin güvenliğini piyasaya sürülmeden önce test etmesi için yapılan ve yine bağlayıcı olmayan bir anlaşmaya paralellik gösteriyor.
Politika rapor edildi Geçen ay Google DeepMind’ın Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü’nün dağıtım öncesi güvenlik testleri yapmasına izin veren tek büyük yapay zeka laboratuvarı olduğunu söyledi.