Neredeyse üç gün süren maraton ‘son’ görüşmelerinin ardından Avrupa Birliği milletvekilleri bu gece yapay zekayı düzenlemek için risk temelli bir çerçeve üzerinde siyasi bir anlaşmaya vardılar. Dosya ilk olarak Nisan 2021’de teklif edilmişti, ancak hat üzerinde bir anlaşmaya varmak için aylar süren üç yönlü zorlu müzakereler gerekti. Bu gelişme, AB çapında bir yapay zeka yasasının kesin olarak yolda olduğu anlamına geliyor.
Avrupa Parlamentosu, Konsey ve Komisyon’un (blokun ortak yasa koyucuları) kilit temsilcileri, yerel saatle Cuma gecesi/Cumartesi sabahı erken saatlerde muzaffer ama bitkin bir basın toplantısı düzenleyerek, anlaşmayı zorlu bir mücadele, bir dönüm noktası başarısı ve tarihi bir gelişme olarak selamladılar. sırasıyla.
X’e götürülmek haberi tweetle2019’un sonlarında göreve başladığında yapay zeka yasasının çıkarılmasını döneminin temel önceliği haline getiren AB Başkanı Ursula von der Leyen de siyasi anlaşmayı “küresel bir ilk” olarak övdü.
Üzerinde mutabakata varılan hususun tüm ayrıntıları, nihai bir metin derlenip kamuoyuna açıklanana kadar tamamen onaylanmayacak; bu da birkaç hafta sürebilir. Ancak basın bülteni Avrupa Parlamentosu tarafından ortaya konan, Konsey ile varılan anlaşmanın yapay zekanın aşağıdaki amaçlarla kullanılmasına yönelik tamamen yasaklamayı içerdiğini doğruluyor:
- hassas özellikleri kullanan biyometrik sınıflandırma sistemleri (örneğin politik, dini, felsefi inançlar, cinsel yönelim, ırk);
- yüz tanıma veritabanları oluşturmak için internetten veya CCTV görüntülerinden yüz görüntülerinin hedefsiz bir şekilde kazınması;
- işyerinde ve eğitim kurumlarında duygu tanıma;
- sosyal davranışa veya kişisel özelliklere dayalı sosyal puanlama;
- Özgür iradelerini atlatmak için insan davranışlarını manipüle eden yapay zeka sistemleri;
- Yapay zeka, insanların (yaşları, engellilikleri, sosyal veya ekonomik durumları nedeniyle) zayıf noktalarından faydalanıyordu.
Kamuya açık yerlerde uzaktan biyometrik tanımlama teknolojisinin kolluk kuvvetleri tarafından kullanılması tamamen yasaklanmadı; ancak parlamento, müzakerecilerin yüz tanıma gibi teknolojilerin kullanımını sınırlamak için bir dizi önlem ve dar istisnalar üzerinde anlaştığını söyledi. Bu, önceden adli izin alınması zorunluluğunu ve kullanımların “kesin olarak tanımlanmış” suç listeleriyle sınırlı olmasını da içeriyor.
Uzak biyometrik kimlik yapay zekalarının geriye dönük (gerçek zamanlı olmayan) kullanımı, “ciddi bir suç işlediğinden şüphelenilen veya hüküm giymiş bir kişinin hedefli aranması” ile sınırlı olacaktır. Bu müdahaleci yapay zeka teknolojisinin gerçek zamanlı kullanımı zaman ve konum açısından sınırlı olacak ve yalnızca aşağıdaki amaçlarla kullanılabilir:
- Mağdurların hedefli olarak aranması (kaçırma, insan ticareti, cinsel istismar),
- Belirli ve mevcut bir terör tehdidinin önlenmesi veya
- Yönetmelikte belirtilen spesifik suçlardan (örneğin terörizm, insan ticareti, cinsel istismar, cinayet, adam kaçırma, tecavüz, silahlı soygun, suç örgütüne katılım, çevre suçu) birini işlediğinden şüphelenilen kişinin yerinin belirlenmesi veya kimliğinin tespit edilmesi.
Mutabık kalınan paket aynı zamanda “sağlığa, güvenliğe, temel haklara, çevreye, demokrasiye ve hukukun üstünlüğüne önemli potansiyel zarar vermesi” nedeniyle “yüksek riskli” olarak sınıflandırılan yapay zeka sistemlerine yönelik yükümlülükleri de içeriyor.
“Avrupa Parlamentosu Üyeleri, diğer gerekliliklerin yanı sıra sigorta ve bankacılık sektörlerine de uygulanabilecek zorunlu bir temel haklar etki değerlendirmesini başarıyla dahil etmeyi başardılar. Parlamento, seçim sonuçlarını ve seçmen davranışını etkilemek için kullanılan yapay zeka sistemlerinin de yüksek riskli olarak sınıflandırıldığını yazdı. “Vatandaşlar yapay zeka sistemleri hakkında şikayette bulunma ve haklarını etkileyen yüksek riskli yapay zeka sistemlerine dayalı kararlar hakkında açıklama alma hakkına sahip olacak.”
Ayrıca ChatGPT gibi üretken yapay zeka uygulamalarında viral patlamayı destekleyen temel modeller gibi “genel” yapay zeka sistemlerine uygulanacak “iki katmanlı” bir korkuluk sistemi üzerinde de anlaşma sağlandı.
Daha önce de belirttiğimiz gibi, temel modeller/genel amaçlı yapay zekalar (GPAI’ler) üzerinde varılan anlaşma, yasa koyucuların “düşük seviyeli” yapay zekalar olarak adlandırdığı bazı şeffaflık gerekliliklerini içeriyor; bu, model yapıcıların teknik dokümantasyon hazırlaması ve ayrıntılı olarak üretmesi (ve yayınlaması) gerektiği anlamına geliyor AB telif hakkı yasasına uygunluğu desteklemek amacıyla eğitim için kullanılan içerikle ilgili özetler.
“Sistemik risk” olarak adlandırılan “yüksek etkili” GPAI’ler (kayan nokta işlemlerinde ölçülen eğitimleri için kullanılan kümülatif bilgi işlem miktarının 10^25’ten büyük olması olarak tanımlanır) için daha sıkı yükümlülükler vardır.
Parlamento, “Bu modeller belirli kriterleri karşılıyorsa, model değerlendirmeleri yapmaları, sistemik riskleri değerlendirip azaltmaları, karşıt testler yapmaları, ciddi olaylar hakkında Komisyon’a rapor vermeleri, siber güvenliği sağlamaları ve enerji verimlilikleri hakkında rapor vermeleri gerekecek” diye yazdı. “AP milletvekilleri ayrıca, uyumlaştırılmış AB standartları yayınlanıncaya kadar, sistemik risk taşıyan GPAI’lerin düzenlemeye uyum sağlamak için uygulama esaslarına dayanabileceği konusunda ısrar etti.”
Komisyon birkaç aydır sektörle birlikte geçici bir Yapay Zeka Paktı üzerinde çalışıyor ve bugün bunun, Yapay Zeka Yasası yürürlüğe girene kadar uygulama açığını kapatmayı amaçladığını doğruladı.
Ticarileştirilmiş temel modeller/GPAI’ler Kanun kapsamında düzenlemeyle karşı karşıya olsa da, Ar-Ge’nin kanun kapsamına girmesi amaçlanmamıştır ve bugünkü açıklamalara göre tamamen açık kaynaklı modellerin, kapalı kaynağa göre daha hafif düzenleme gereklilikleri olacaktır.
Üzerinde mutabakata varılan paket aynı zamanda yeni girişimleri ve KOBİ’leri piyasaya sürülmeden önce yapay zekaları geliştirip eğitmek için ulusal otoriteler tarafından oluşturulan düzenleyici sanal alanları ve gerçek dünya testlerini de destekliyor.
Uyumsuzluk cezaları, ihlale ve şirketin büyüklüğüne bağlı olarak 35 milyon Avro veya küresel cironun %7’sinden 7,5 milyon Avro veya cironun %1,5’ine kadar değişen para cezalarına yol açabilir.
Bugün üzerinde anlaşmaya varılan anlaşma aynı zamanda yasanın kabul edilmesinden sonra aşamalı olarak yürürlüğe girmesine de olanak tanıyor; yasak kullanım durumlarına ilişkin kuralların yürürlüğe girmesine altı ay süre tanınıyor; Şeffaflık ve yönetişim gereklilikleri için 12 ay; ve diğer tüm gereksinimler için 24 ay. Dolayısıyla AB’nin Yapay Zeka Yasasının tam gücü 2026 yılına kadar hissedilmeyebilir.
Ülkenin yazdan bu yana dönüşümlü Konsey başkanlığını sürdürmesi nedeniyle Konsey’in dosyaya ilişkin müzakerelerine liderlik eden, İspanya’nın dijital ve yapay zeka konularından sorumlu dışişleri bakanı Carme Artigas, yoğun şekilde tartışılan dosyaya ilişkin anlaşmayı “tarihin en büyük kilometre taşı” olarak selamladı. Avrupa’da Dijital Bilginin Kullanımı”; hem bloğun tek dijital pazarı için hem de “dünya için” önerdi.
Siyasi anlaşmayı onaylamak için gece yarısından sonra düzenlediği basın toplantısında “Yapay zekaya yönelik dünyadaki ilk uluslararası düzenlemeyi başardık” dedi ve ekledi: “Çok gurur duyuyoruz.”
Yasanın Avrupalı geliştiricileri, start-up’ları ve gelecekteki ölçek büyütme şirketlerini onlara “teknik kesinlik ile birlikte yasal kesinlik” vererek destekleyeceğini öngördü.
Avrupa Parlamentosu adına konuşan eş raportörler Dragoș Tudorache ve Brando Benifei, hedeflerinin ekosistemin temel haklara ve Avrupa değerlerine saygılı “insan merkezli bir yaklaşımla” gelişmesini sağlayacak yapay zeka mevzuatı sunmak olduğunu söyledi. Sonuca ilişkin değerlendirmeleri de aynı derecede iyimserdi; kararlaştırılan metne, tahmine dayalı polislik için yapay zekanın kullanılmasına ve biyometrik sınıflandırmanın büyük kazanımlar olarak tamamen yasaklanmasının dahil edilmesine atıfta bulunuldu.
Benifei, “Demokrasilerimizin bu tür inanılmaz değişikliklere dayanabilmesi için gerekli olan temel hakları savunarak nihayet doğru yola ulaştık” dedi. “Temel haklar konusunda bu yönde, kıtamızda yapay zekanın gelişimini destekleyen, yapay zekanın en güçlü modelleriyle güncel, yatay bir mevzuata dünyada ilk sahip olan biziz. açık yükümlülük altındadır. Bu yüzden teslim ettiğimizi düşünüyorum.”
Tudorache, “Bu metinde yeterli korumanın olup olmadığı, yenilik için yeterli teşvik olup olmadığı her zaman sorgulandı ve bu dengenin orada olduğunu söyleyebilirim” diye ekledi. “Güvenliklerimiz var, ihtiyaç duyduğumuz tüm hükümlere sahibiz, vatandaşlarımıza bundan sonra etkileşimde bulunacakları hizmetlerdeki ürünlerde, yapay zeka ile etkileşimde güven verme konusunda ihtiyacımız olan tazminata sahibiz.
“Artık küresel yakınlaşmayı aramak için bu planı kullanmalıyız çünkü bu herkes için küresel bir zorluktur. Yaptığımız çalışmalarla, ne kadar zor olsa da – ve zordu – şu ana kadarki tüm emsallere bakıldığında, bu tüm standartlara göre uzun bir müzakere maratonudur – ancak sanırım bunu başardık.”
AB’nin iç pazardan sorumlu üyesi Thierry Breton da iki euro sentini bağışlayarak, anlaşmanın Brüksel saatine göre gece yarısından biraz önce kesinleştiğini “tarihi” olarak nitelendirdi. “Bu tam bir paket. Bu tam bir anlaşma. İşte bu yüzden bu kadar çok zaman harcadık” dedi. “Bu, kullanıcı güvenliğini ve yeni başlayanlar için yenilikçiliği dengelerken aynı zamanda temel haklarımıza ve Avrupa değerlerimize saygı duymaktır.”
AB, bu gece “dünyada ilk” yapay zeka kuralları konusunda bir anlaşmaya varma konusunda gözle görülür bir şekilde sırtını sıvazlasa da, bloğun yasa yapma süreci için henüz yolun sonu değil, zira hâlâ atılması gereken bazı resmi adımlar var – özellikle de Nihai metnin kabul edilmesi için parlamento ve Konsey’de oylama yapılacak. Ancak yapay zekanın nasıl düzenleneceği (ya da hatta düzenlenip düzenlenmeyeceği) konusunda ne kadar çok bölünme ve anlaşmazlık olduğu göz önüne alındığında, bu siyasi anlaşmayla en büyük engeller ortadan kalktı ve önümüzdeki aylarda AB Yapay Zeka Yasasını geçirmenin yolu açık görünüyor.
Komisyon kesinlikle güven veriyor. Breton’a göre anlaşmanın uygulanmasına yönelik çalışmalar, AB’nin yürütme organları içerisinde bir Yapay Zeka Ofisi’nin kurulmasıyla hemen başlıyor; bu ofis, yapay zeka firmaları üzerinde kuralları uygulaması gereken Üye Devlet gözetim organlarıyla koordinasyon sağlama görevine sahip olacak. “Yeni meslektaşlarımızı memnuniyetle karşılayacağız… onlardan birçoğu” dedi. “Hazırlanmak için yarından itibaren çalışacağız.”
