Birleşik Krallık’ın Bilgi Komisyonu Ofisi’nden (ICO) uzmanlar, en azından şimdilik, dezavantajlarının faydalarından daha ağır basabileceğinden korkarak, yapay zeka destekli duygusal analiz sistemlerinin kullanımına karşı uyarıda bulundu.
Sağlık izleme için giyilebilir tarama araçları veya vücut pozisyonu, konuşma, göz ve kafa hareketleri gibi davranışsal izleme, toplanması gereken verilerin riskli olarak görülebileceği örnekler olarak verilmiştir.
ICO, bilinçaltı davranışları içeren bu tür verilerin saklanmasının ve işlenmesinin kişisel olarak tanımlayıcı olabileceğini ve şirketlerin bu verileri nasıl kullanabilecekleri konusunda belirli zorluklar ortaya çıkardığını söylüyor.
Biyometrik veri güvenliği
ICO Komiser Yardımcısı Stephen Bonner, “Fırsatlar mevcut olsa da, riskler şu anda daha büyük” dedi. “ICO’da, verilerin yanlış analizinin bir kişi hakkında yanlış olan varsayımlara ve yargılara yol açabileceğinden ve ayrımcılığa yol açabileceğinden endişe duyuyoruz. ”
Bir de Bonner’a göre “henüz çalışmayabilirler, hatta hiç çalışmayabilirler” gerçeği var. Kişisel duyguları anlamayı öğrenmek insanlar için son derece zor olabilir; bu bilgiyi, bir bilgisayarın konularını daha da fazla kategorize etmek için kullanabileceği verilere yoğunlaştırmak.
Şu anda ICO, işletmelerin “tamamen işlevsel, hesap verebilir ve bilim tarafından desteklenen” teknolojiyi kullanmasını istiyor. Kuruluş ayrıca, veri koruma gereksinimlerini karşılayan ve orantılılık, adalet ve şeffaflık hakkında daha fazla endişeyi dile getiren AI teknolojisini “henüz görmediğini” söylüyor.
ICO, bu tür teknolojinin finans, fitness, eğitim ve hatta sürükleyici eğlence endüstrilerinde daha yaygın hale geldiğini gördüğünden, 2023 baharına kadar kuruluşların güvenliğin önemini anlamalarına yardımcı olacak biyometrik kılavuz yayınlamayı umuyor.
Bu arada Bonner, ICO’nun “piyasayı incelemeye, bu teknolojileri yaratmaya veya dağıtmaya çalışan paydaşları belirlemeye ve gelişmiş veri gizliliği ve uyumluluğunun önemini açıklamaya devam ederken, bu sistemlerin nasıl çalıştığına dair güven ve güveni teşvik etmeye devam edeceğini” söyledi. iş.”