Birleşik Krallık’ın bağımsız mahremiyet gözlemcisi başkanı, insanların duygusal durumlarını tespit etmek için yapay zeka kullanmaya yönelik son derece abartılı çabaların, şimdi veya muhtemelen hiç çalışmayabileceğinden endişe ediyor.
Türünün ilk örneği olarak, İngiltere’nin en iyi gizlilik bekçisi olan Bilgi Komisyonu Ofisi bir uyarı yayınladı. uyarı şirketlere sözde “duygusal analiz” teknolojisi, hala “olgunlaşmamış” olduğunu ve onunla ilişkili risklerin potansiyel faydalardan çok daha ağır bastığını savunuyor.
“Biyometri ve duygu AI pazarındaki gelişmeler olgunlaşmamış. ICO Komiser Yardımcısı Stephen Bonner, “Henüz ya da hiç çalışmayabilirler” diye yazdı. “Fırsatlar mevcut olsa da, riskler şu anda daha büyük. ICO’da, verilerin yanlış analizinin bir kişi hakkında yanlış olan ve ayrımcılığa yol açan varsayımlara ve yargılara yol açabileceğinden endişe duyuyoruz.”
Duygu tanıma veya duygu tanıma olarak da bilinen duygu analizi, yüz tanıma gibi daha iyi bilinen biyometrik tekniklere benzer ilkeleri takip eder, ancak tartışmasız eşit az güvenilir. Duygusal analiz veya duygusal tanıma sistemleri, bireylerin yüz ifadelerini, ses tonlarını veya diğer fiziksel özelliklerini tarar ve ardından bu veri noktalarını zihinsel durumları anlamak veya birinin nasıl hissettiğini tahmin etmek için kullanmaya çalışır.
USC Annenberg Araştırma Profesörü Kate Crawford, 2021 kitabında bu yaklaşımın doğal tuzaklarından bazılarını detaylandırıyor Yapay Zeka Atlası.
G/O Media komisyon alabilir
Crawford, “Yüz hareketleri ile temel duygusal kategoriler arasındaki bağlantıyı otomatikleştirmedeki zorluk, duyguların yeterince az sayıda ayrı kategoride gruplandırılıp gruplandırılamayacağına dair daha büyük bir soruya yol açıyor” diye yazıyor Crawford. “Yüz ifadesinin inatçı bir sorunu var. Gerçekten mutlu hissetmeden gülen herkesin onaylayabileceği gibi, girişimler dürüst içsel durumlarımız hakkında çok az şey gösterir.”
Bonner, “tek sürdürülebilir biyometrik dağıtımların” tamamen işlevsel, hesap verebilir ve “bilim tarafından desteklenen” uygulamalar olduğunu söylemeye devam etti. ICO geçmişte, bazıları biyometri kategorisine girenler de dahil olmak üzere belirli teknolojiler hakkında uyarılar yayınlamış olsa da, Bonner söylenmiş Gardiyan bu haftanın duyurusu, tüm bir teknolojinin etkisizliğine karşı ilk genel uyarıyı işaret ediyor. Bu makalede Bonner, duyguları tespit etmek için biyometri kullanma girişimlerini “sözde bilimsel” olarak tanımlamaya devam etti.
Bonner, “Ne yazık ki, bu teknolojiler bilim tarafından desteklenmiyor gibi görünüyor” dedi. Gardiyan.
Ve ICO gönderisi, kimlik doğrulaması veya havaalanı check-in’leri için yüz tanıma kullanımı yoluyla biyometri teknolojisinin doğasında bulunan potansiyel tehditleri dile getirmek için biraz zaman harcarken, bekçi köpeği duygusal olarak devam ediyor. analiz benzersiz bir şekilde endişe vericidir.
“Duygusal ipuçlarını tespit etmek için yeterince geliştirilmemiş algoritmaların yetersizliği, sistemik önyargı, yanlışlık ve hatta ayrımcılık riski olduğu anlamına geliyor.” ICO yazısı okundu.
