Yeni bir Birleşik Krallık hükümetinin gelişiyle birlikte, yapay zekaya ilişkin kuralların daha sıkı hale getirilmesi ihtimali bir kez daha gündemin üst sıralarında yer alıyor. Ancak kuralların nasıl şekillenmesi gerektiği, kime uygulanması gerektiği ve Birleşik Krallık’ın yurtdışında geliştirilen düzenleyici çerçeveleri örnek alıp almaması gerektiği konusunda görüşler farklılık gösteriyor.
Eylül 2024’te, UKTN ile ortaklaşa Yapay Zeka Güvenliği konusunda bir yuvarlak masa tartışmasına ev sahipliği yaptı Shoosmith’ler Ve KPMG.
Yuvarlak masa toplantısı, Birleşik Krallık hükümeti tarafından düzenlenen zirvelerin ardından yapay zeka güvenliği ve düzenlemelerindeki en iyi uygulamalara ilişkin tartışmayı ilerletmeyi amaçladı.
Konuşma Chatham House kurallarına göre yapıldı, bu nedenle tartışmadaki herhangi bir katılımcıya hiçbir alıntı veya dile getirilen nokta atfedilmedi.
Kıdemli muhabir Oscar Hornstein’ın başkanlık ettiği yuvarlak masa toplantısında şu isimler yer aldı:
- George Margerson, Yapay Zeka Güvenlik Enstitüsü Strateji ve Teslimattan Sorumlu Direktör Yardımcısı
- TechUK Teknoloji ve İnovasyon Direktörü Sue Daley
- Laura Gonzalez, Synthesia’nın personel şefi
- James Clough, Robin AI’nin kurucu ortağı ve CTO’su
- Otomatik Analitik CEO’su Mark Taylor
- Alex Kirkhope, Shoosmiths’in ortağı
- Leanne Allen, KPMG ortağı ve Birleşik Krallık Yapay Zeka Başkanı
Yapay zeka riskleri yekpare değildir
Yuvarlak masa toplantısının yapay zeka riskleriyle nasıl başa çıkılacağını tartışmadan önce, ilk olarak bu risklerin ne olduğunu ortaya koymak gibi önemsiz olmayan bir görevle uğraşması gerekiyordu.
Genel fikir birliği, yapay zeka teknolojisinin topluma nasıl zarar verebileceği konusunda pek çok meşru endişe olmasına rağmen, daha geniş bir teknoloji yelpazesini kapsayan geniş risk yelpazesini tek bir başlık altında görmenin faydasız olduğu yönündeydi.
Bu nedenle riskler şu şekilde ayrıştırılmıştır; uzun vadeli varoluşsal riskler, yapay zekanın toplumun dokusuna ve insan ırkına zarar verebileceği endişesi; ve yapay zekanın benimsenmesinin ardından iş kayıpları ve veri eğitimi yoluyla telif hakkı ihlali gibi halihazırda mevcut olan acil riskler.
Varoluşsal risklere bakıldığında, bunların ciddiye alınması gerektiği, ancak “herkesin öleceği” bir yapay zeka sonucunun olasılığının muhtemelen oldukça düşük olduğu konusunda bir fikir birliği vardı.
Şimdilik, modellerin en güçlü ucunda bile bu tür “kritik ve ciddi risk” sunan bir yapay zeka teknolojisinin bulunmadığına inanılıyor. Ancak endişe yaratan şey, bu modellerin geliştiricileri tarafından uygulanan mevcut koruma önlemlerinin “evrensel olarak kırılmasının kolay” olmasıydı.
Bu nedenle, yapay zekanın hem en büyük hem de en küçük tehlikeleriyle mücadelede hükümetin kurallar ve rehberlik sunması gerekir, ancak geliştiricilerin riskleri nasıl yönettiklerini açıklama konusunda büyük bir sorumluluğu olmalıdır.
Yapay zeka şirketleri çoğunlukla mevzuat yerine en iyi uygulamaları yönlendirmek için iç etik kurullarına güvenmek zorunda kaldı. Fikir birliği, belirli bir düzeyde yorum gerektireceği için Birleşik Krallık’ta bir yapay zeka kanunu kabul edildikten sonra bile bunun devam etmesi gerektiği yönündeydi.
Sektörel yaklaşım
Yapay zeka ve tehlikenin farklı tanımlarını ayırma teması üzerinde duran grup, başlangıçta önceki Muhafazakar hükümet tarafından ana hatları çizilen ancak genel olarak görevdeki yöneticiler tarafından sürdürülen sektörel yaklaşımın en iyi seçenek olup olmadığını tartıştı.
Farklı sektörlerin farklı ihtiyaçları olacağı kabul edildi, dolayısıyla yaklaşımın kesinlikle bir mantığı vardı.
Bununla birlikte, sektörlerin aynı hızda ilerlemediğine dair endişeler dile getirildi; bazıları, “hızlı ve kirli” olsa bile, hemen kapsamlı bir çerçeve oluşturulması çağrısında bulundu; böylece her sektör, geniş kapsamlı en iyi uygulamaları hemen hayata geçirebilecekti.
Diğerleri, yapay zekanın hızlı gelişiminin, bu çerçeveyi aceleye getirmenin büyük olasılıkla hızla geçerliliğini yitirmesine yol açacağı anlamına geldiği konusunda uyardı.
Ne olursa olsun, işletmelerin kuralların değişebileceğini ancak başlangıç noktası olarak belirli uygulamaların benimsenmesi gerektiğini kabul eden genel bir yol gösterici politikaya yönelik talebi var.
Sektör bazlı bir yaklaşımla ilgili işaret edilen bir diğer endişe ise, Birleşik Krallık’taki Ofcom ve ICO’dan Gıda Standartları Ajansı ve Kumar Komisyonuna kadar düzinelerce düzenleyicinin üzerindeki beceri geliştirme, işe alma ve finansman yükünün büyük bir engel olabileceğidir.
Bununla birlikte, farklı düzenleyicilerin uzmanlıklarını paylaştıkları bazı emsaller mevcut ve benzer şekilde, düzenleyicilerin siber güvenlik gibi yeni ortaya çıkan teknoloji alanlarıyla ilgilenmek zorunda kaldıkları emsaller de var; bu nedenle, zorluğuna rağmen bunun imkansız bir görev olmadığı söylendi.
AB AI Yasası
İngiliz yapay zeka mevzuatının yokluğunda, yapay zeka firmalarının varsayılan olarak en açık şekilde tanımlanmış çerçeveye (örneğin Avrupa Birliği’nin çerçevesi) uyması önerildi. Yapay Zeka Yasası.
Yasanın etkililiği konusunda bazı anlaşmazlıklar vardı; bazıları yapay zeka geliştiricilerinin AB’nin taleplerini karşılamayan ancak herhangi bir yasayı ihlal etmeyen “gerçekten dönüştürücü bir teknolojiye” sahip olup olmadıklarını, bu ürünü AB’de piyasaya sürmeyeceklerini savundu.
Bunun, AB’de yaşayanların buna erişemeyeceği veya hatta farklı şekilde oy kullanmaya teşvik edilebileceği anlamına gelip gelmediği, sorunun şirketler için değil AB için olduğu söylendi.
Avrupa AI mevzuatının uygulanabilirliği de sorgulandı. Bazıları bunun da GDPR gibi katı görünen bir kural kitabı haline gelebileceğini ancak gerçek anlamda firmaların çoğunun cezalarla karşılaşmadan %100 GDPR uyumlu olmadığını öne sürdü.
AB’nin yapay zeka mevzuatını geçirmedeki nispeten hızlı ilerlemesinin, Birleşik Krallık’ın küresel yapay zeka tartışmasındaki lider konumunu aştığı anlamına gelip gelmediği sorulduğunda, uluslararası bir liderlik rolünün hala ele geçirilmeye hazır olduğu konusunda açık bir fikir birliği vardı.
Bazıları son seçimlerin AB’yi AI yasasını çıkardığı zamana kıyasla radikal bir şekilde yeniden şekillendirdiğine işaret ederken, diğerleri AB’nin düzenlemelerindeki yenilikleri göz ardı ederek kendisini liderlik yarışından uzaklaştırdığını iddia edecek kadar ileri gitti.