On sekiz ülke 26 Kasım’da güvenli yapay zeka (AI) araçları geliştirmeyi amaçlayan uluslararası bir anlaşmayı açıkladı. İngiliz siber güvenlik kurumu Ulusal Siber Güvenlik Merkezi (NCSC),…
On sekiz ülke 26 Kasım’da güvenli yapay zeka (AI) araçları geliştirmeyi amaçlayan uluslararası bir anlaşmayı açıkladı. Bu yönergelerin arkasında Birleşik Krallık siber güvenlik kurumu olan Ulusal Siber Güvenlik Merkezi (NCSC) yer almaktadır.
Yapay zekanın güvenliğini garanti altına almak için girişimler artıyor
28 ülkenin yapay zekanın gelişimine rehberlik edecek ilk küresel deklarasyonu imzaladığı Yapay Zeka Güvenliği Zirvesi’nin ilk edisyonundan birkaç hafta sonra yeni bir anlaşma imzalandı. Amerika Birleşik Devletleri, İngiltere, Almanya ve Fransa tarafından ANSSI aracılığıyla imzalandı. Bildiriyi Bletchley Park’ta imzalayan Çin’in bu girişime katılmadığını unutmayın.
Bağlayıcı olmayan bu anlaşma bir rehber niteliğindedir. 17 öneriden oluşan bu belge, yapay zeka sektöründeki şirketlere yardımcı olmayı amaçlayacak” Sistemlerin sıfırdan mı yoksa başkaları tarafından sağlanan araç ve hizmetlere dayalı olarak mı oluşturulduğuna bakılmaksızın, geliştirme sürecinin her aşamasında bilinçli siber güvenlik kararları vermek, » NCSC basın bültenine göre.
Informatica’nın Güney Avrupa genel müdürü Georges Anidjar şu değerlendirmede bulunuyor: “ Yapay zeka yeteneklerini yönetmek için risk temelli politikaların uygulamaya konulması, onlara yapay zekanın bütünlüğünü koruma konusunda ivme kazandıracak ve böylece olumlu sonuçlar elde edilmesini sağlayacaktır. “. Bu kılavuz, imzacı ülkelerdeki siber güvenlik şirketlerini ve kurumlarını, artan siber tehditlere karşı yapay zeka sistemlerini izlemeye, verileri sahteciliğe karşı korumaya veya araçları çevrimiçi hale getirmeden önce testler yapmaya davet edecek.
Bu yönergelerin geliştirilmesine Google, Anthropic, OpenAI, Microsoft ve Amazon gibi sektördeki teknoloji devleri ve start-up’lar katıldı. Ancak belgede, eğitim modelleri için kullanılan veriler veya üretken yapay zekanın ortaya çıkışıyla bağlantılı riskler gibi belirli yönlerden bahsedilmedi. Ancak Georges Anidjar için “ Herhangi bir politikanın, yapay zeka sistemlerinin güvenliğini ve etkinliğini sağlamada veri kalitesinin oynadığı rolü ele alması çok önemlidir. “.
Bu konuyu ele alan Avrupalı düzenleyiciler bu yönde çeşitli önlemleri Avrupa Yapay Zeka Yasasına entegre etmişlerdir. Ancak Fransa/Almanya/İtalya üçlü müzakerecileri bu düzenleme üzerinde anlaşmakta zorluk yaşıyor. Sektörü çok sıkı bir şekilde düzenlemek istemiyorlar ve bu nedenle kendi start-up’larından birinin ortaya çıkmasını destekliyorlar. Fransız tarafındaki Mistral AI ve Alman tarafındaki Aleph Alpha örnekleri en ikna edici olmaya devam ediyor.
Amerika Birleşik Devletleri’nde Joe Biden, yapay zekanın gelişimini düzenleyen bir kararname imzaladı ve hükümet kurumlarının konuyla ilgilenmesini emretti. Böylece FTC, yapay zeka pazarını düzenlemekle görevlendirildi. Başkanı Lina Khan özellikle sektördeki paydaşlarla buluşmaya gitti. Ancak AB ve ABD’nin yapay zekayı düzenlemeye yönelik yasal çerçevelerini benimsemesini görmek için birkaç yıl olmasa da birkaç ay beklememiz gerekecek.
