Yüz tanıma veya diğer yöntemlerle suçları izlemek ve kovuşturmak için yapay zekayı kullanın. Bu kullanımların belli olanaklara ve belli sınırlara sahip olacağı bir döneme girmek üzereyiz. Avrupa düzenlemesinin kesin olarak onayladığı AI Yasası’nın kesin metninde okuduğumuz şey budur.
Kamu güvenliği ve gözetim konusu gerçekten de Avrupa’nın yapay zeka kurallarındaki en önemli ve en kritik konulardan biridir. Aslında Avrupa iki karşıt arasında bir uzlaşma bulmuştur: Bir tarafta kolluk kuvvetlerinin ve devletlerin güvenlik nedenleriyle yapay zekadan yararlanmasına izin vermek; diğer yandan, büyük yeni teknolojik yeteneklerin mümkün kıldığı otoriter eğilimlerden ve kitlesel gözetimden kaçınmak.
Yapay zeka ile üç tür gözetim
Metni okuduğunuzda, Avrupa’nın yapay zekanın gözetim amaçlı üç kullanım türü arasında net bir ayrım yaptığı açıktır. Biri kesinlikle yasaktır çünkü toplu başvuruyu çağrıştırır ve diktatörlük devletine layıktır. Dolayısıyla bu kullanım yönetmelikte “yasak” olarak tanımlanan uygulamalar kapsamına girmektedir. Yasak, bu tür sistemlerin hem yapılması, hem satılması hem de kullanılması anlamına gelir. Örneğin telefon dinleme için geçerli olanlara benzer şekilde, temel haklar için bazı sınırlamalar ve garantilerle birlikte ikinciye genel olarak izin verilir. Bu, gerçek zamanlı değil, uzaktan biyometrik tanımlamanın (örneğin yüzlerin) durumudur. İtalya’da hâlihazırda yaşanan tipik bir durum, güvenlik kamerası kayıtlarında filme alınan suçluları tanımak için yapay zekanın kullanılmasıdır. Bu kullanım yüksek riskli kabul edilir; bunu yapanların temel hakları korumak için kısıtlamalara, denetimlere ve incelemelere tabi olmaları gerekiyor.Üçüncüsü daha kritik: halka açık yerlerde gerçek zamanlı biyometrik kimlik tespiti. Bu, Azınlık Raporu gibi, insanları hareket ettikçe (ve ertelenmeden) otomatik olarak tanımlama, dolayısıyla potansiyel olarak onları takip etme ve denetleme olasılığı anlamına gelir. Uygulama “yasaklanmış” uygulamalardan biri ancak Avrupa bazı istisnai durumlarda bunu mümkün kıldı. AB Parlamentosu bunu tamamen yasaklamak istedi ancak daha sonra uzlaşmacı bir tutum benimsendi. Ancak Avrupa, her üye devletin bu sistemleri daha sıkı sınırlar koymasına veya yasaklamasına izin veriyor.
Uygulama süreleri
AI Yasası’nın son metninin satırları arasında uygulama takviminin ne olduğu artık açık. Böylece şu ana kadar çok az fark edilen bir noktayı öğrenmiş oluyoruz: İkinci tür biyometri (yüksek risk) için kurallar, yönetmeliğin Resmi Gazete’de yayımlanmasından 36 ay sonra, yani 2026-2027 yılları arasında yürürlüğe girecek. en uzun uygulama süresi. Yasaklanan uygulamalara ilişkin kurallar altı ay sonra yürürlüğe girer; Ancak Yapay Zeka Yasasının kurallarının çoğu, on iki ay sonra (burada ayrıca ChatGpt gibi üretken yapay zeka sistemlerindeki kurallar da geçerlidir).
Yasaklanan Gözetim Uygulamaları
Ayrıntılı olarak, “bireysel gerçek kişileri, ırkları, siyasi görüşleri, sendika üyelikleri, dini veya felsefi inançları, cinsel yaşamları veya cinsel yönelimleri hakkında çıkarımda bulunmak veya çıkarımda bulunmak için biyometrik verileri temelinde kategorilere ayıran yapay zeka sistemleri yasaktır.”. Bir istisna vardır: “Bu yasak, biyometrik verilere dayalı olarak görseller gibi yasal olarak elde edilen biyometrik veri setlerinin etiketlenmesini veya filtrelenmesini veya biyometrik verilerin kolluk kuvvetleri bağlamında sınıflandırılmasını kapsamaz” . Çin tipi sosyal puanlama sistemleri de şu şekilde yasaklanmıştır: “Gerçek kişilerin veya onlardan oluşan grupların belirli bir süre için sosyal davranışları veya bilinen, çıkarım yapılan veya tahmin edilen kişisel verileri esas alınarak değerlendirilmesi veya sınıflandırılması için”. Kamunun erişebildiği alanlardaki uzaktan biyometrik kimlik belirlemenin yalnızca iki amaç için kullanılmasına izin verilmektedir: belirli kaçırma, insan kaçakçılığı ve insanların cinsel sömürüsü mağdurlarının hedefli olarak aranması, kayıp kişilerin aranması; herhangi bir gerçek kişinin hayatına veya uzuvlarına yönelik belirli, önemli ve yakın bir tehdidin veya gerçek, mevcut veya gerçek ve öngörülebilir bir terör saldırısı tehdidinin önlenmesi; Cezai bir soruşturma yürütmek, kovuşturmak veya ciddi suçlara ilişkin cezai yaptırımı uygulamak amacıyla, ceza gerektiren bir suç işlediğinden şüphelenilen bir kişinin yeri veya kimliği. Suçların listesi uzun: cinayet, silahlı soygun, tecavüz, uyuşturucu, silah kaçakçılığı. Gerçek zamanlı kimlik tespitine izin verilse bile, bunun adli veya bağımsız bir idari makam tarafından onaylanması gerekir. Acil durumlarda yetkilendirme, yetkilendirme olmaksızın gerçekleştirilebilir; ancak bu yetkilendirmenin aşırı gecikme olmaksızın en geç 24 saat içinde talep edilmesi gerekir. Böyle bir iznin reddedilmesi durumunda, sistemin kullanımına derhal son verilmeli ve bu tür kullanımdan kaynaklanan tüm veriler, sonuçlar ve çıktılar derhal atılmalı ve silinmelidir.Kararları bağlayıcı olan yetkili adli makam veya bağımsız bir idari makam, bu izni verir. ancak kendisine sunulan nesnel kanıtlara veya açık göstergelere dayanarak, söz konusu “gerçek zamanlı” uzaktan biyometrik tanımlama sisteminin kullanımının gerekli ve orantılı olduğuna ikna olması halinde izin verebilir.
Yükümlülükler ve yasaklar
Bu sistemleri kullananlar için, bunların kullanımlarını Gizlilik Garantörüne bildirmek ve bunları kamuya açık bir veri tabanına kaydetmek de dahil olmak üzere başka şeffaflık ve doğrulama yükümlülükleri de bulunmaktadır.Yeni Azınlık rapor tipindeki tahmine dayalı polislik sistemleri de yasaktır. “münhasıran bir gerçek kişinin profilinin çıkarılmasına veya kişiliğinin özelliklerinin ve niteliklerinin değerlendirilmesine dayalı olarak” bir kişinin suç işleyebilme olasılığının değerlendirilmesinde faydalı olanlar. Elbette, “bu yasak, bir kişinin suç faaliyetine katılımının insan tarafından değerlendirilmesini desteklemek için kullanılan ve halihazırda suç faaliyetiyle doğrudan bağlantılı nesnel ve doğrulanabilir gerçeklere dayanan yapay zeka sistemleri için geçerli değildir”. “İnternetten veya CCTV görüntülerinden yüz görüntülerinin hedefsiz bir şekilde kazınması yoluyla yüz tanıma veritabanları oluşturan veya genişleten” Clearview gibi sistemler yasaklanmıştır. Son olarak, “işyeri ve eğitim sektörlerinde gerçek bir kişinin duygularını çıkarmaya yönelik sistemler” AI sisteminin kullanımının tıbbi veya güvenlik nedenleriyle uygulanması veya piyasaya sürülmesinin amaçlandığı durumlar hariç.”
