Microsoft sırtını dönüyor bilimsel olarak şüpheli ve etik olarak şüpheli duygu tanıma teknolojisi. En azından şimdilik.
Gizlilik savunucuları için, yeterince test edilmemiş ve istilacı biyometrik teknoloji konusunda alarm veren büyük bir zaferle, Microsoft, sözde “duygu tanıma” algılama sistemlerini Azure Face yüz tanıma hizmetlerinden emekli etmeyi planladığını duyurdu. Şirket ayrıca, cinsiyet ve yaş gibi kimlik özelliklerini ortaya çıkarmak için AI kullanmaya çalışan yetenekleri de aşamalı olarak kaldıracak.
Microsoft’un tartışmalı teknoloji üzerindeki frenleri çekme kararı, daha büyük bir elden geçirmek etik politikalarından biridir. Microsoft’un Baş Sorumlu Yapay Zeka Görevlisi Natasha Crampton, şirketin geri dönüşün, “duyguların” tanımı konusunda fikir birliği eksikliğini ve AI sistemlerinin bu duyguları nasıl yorumlayabileceğine dair aşırı genelleme endişelerini dile getiren uzmanlara yanıt olarak geldiğini söyledi.
Azure AI Ana Grup Ürün Müdürü Sarah Bird, “Bu teknolojinin sınırlamalarını ve potansiyel faydalarını anlamak ve ödünleşimlerde gezinmek için dahili ve harici araştırmacılarla işbirliği yaptık” dedi. Beyan. Bird, “Hassas öznitelikleri öngören yeteneklere API erişimi, insanları klişeleştirmeye, ayrımcılığa veya haksız hizmet reddine maruz bırakmak da dahil olmak üzere, kötüye kullanılabilecekleri çok çeşitli yollar açar” diye ekledi.
Bird şirketin taşınacağını söyledi “riskleri azaltmak” amacıyla bu öznitelikleri ölçmeye çalışan Azure Face API’sindeki genel amaçlı bir sistemden uzaktır. Salı gününden itibaren, yeni Azure müşterilerinin artık bu algılama sistemine erişimi olmayacak, ancak mevcut müşterilerin kullanımlarını durdurmak için 2023 yılına kadar süreleri olacak. En önemlisi, Microsoft, API’sinin artık genel amaçlı kullanım için kullanılamayacağını söylese de Bird, şirketin teknolojiyi belirli sınırlı kullanım durumlarında, özellikle de engelli insanları desteklemek için bir araç olarak keşfetmeye devam edebileceğini söyledi.
Bird, “Microsoft, bir dizi kontrollü erişilebilirlik senaryosu için kullanıldığında bu yeteneklerin değerli olabileceğini biliyor” diye ekledi.
Kurs düzeltmesi, Microsoft’un politikalarını 27 sayfalık yeni sürümüyle uyumlu hale getirmek amacıyla gelir. Sorumlu Yapay Zeka Standardı yapımda bir yıl belgeleyin. Diğer yönergelerin yanı sıra standart, Microsoft’u ürünlerinin uygun veri yönetimine tabi olmasını sağlamaya, bilinçli insan gözetimini ve kontrolünü desteklemeye ve “çözmek üzere tasarlanmış sorunlar için geçerli çözümler sağlamaya” çağırıyor.
Duygu tanıma teknolojisi “en iyi ihtimalle kaba”dır.
Gözetim Teknolojisi Gözetim Projesi İcra Direktörü Albert Fox Cahn, Gizmodo ile yaptığı bir röportajda, Microsoft’un duygu tanıma teknolojisine sırt çevirmesini “gereksiz” olarak nitelendirdi.
“Gerçek şu ki, teknoloji en iyi ihtimalle hamdır, en fazla yalnızca küçük bir kullanıcı alt kümesini deşifre edebilir.” Fox Cahn söyledi. “Fakat teknoloji geliştirilse bile, nörodivergent olan herkesi cezalandıracaktır. Çoğu davranışsal yapay zeka gibi, çeşitlilik de cezalandırılıyor ve farklı düşünenlere tehlike muamelesi yapılıyor.”
ACLU Kıdemli Politika Analisti Jay Stanley, Microsoft’un otomatik duygu tanımanın “bilimsel itibarını” yansıttığını söylediği kararını memnuniyetle karşıladı.
Stanley, Gizmodo ile yaptığı telefon görüşmesinde, “Umarım bu, bu teknolojinin deneysel bağlamların dışında güvenilmesi veya kullanılması gereken bir şey olmadığı konusunda daha geniş bir anlayışı sağlamlaştırmaya yardımcı olur.” Dedi. “Microsoft herkesin bildiği bir isim ve büyük bir şirket ve diğerlerinin bu teknolojinin ciddi eksikliklerini anlamalarına yardımcı olmada geniş bir etkiye sahip olmasını umuyorum.”
Salı günkü duyuru, kolayca erişilebilir duygu tanımanın potansiyel etik ve mahremiyet tuzaklarına karşı konuşan aktivistlerin ve akademisyenlerin yıllarca süren baskısının ardından geldi. Bu eleştirmenlerden biri olan USC Annenberg Araştırma Profesörü Kate Crawford, 2021 kitabında duygu tanımanın (“duygu tanıma” olarak da adlandırılır) sınırlamalarını araştırdı. AI Atlası. Belirli bir bireyin kimliğini tanımlamaya çalışan yüz tanımanın aksine, duygu tanıma “herhangi bir yüzü analiz ederek duyguları algılamayı ve sınıflandırmayı” amaçlar – Crawford’un savunduğu bir adım temelde kusurludur.
Crawford, “Yüz hareketleri ile temel duygusal kategoriler arasındaki bağlantıyı otomatikleştirmenin zorluğu, duyguların yeterince az sayıda ayrı kategoride gruplandırılıp gruplandırılamayacağına dair daha büyük bir soruya yol açıyor” diye yazıyor Crawford. “Gerçekten mutlu hissetmeden gülümseyen herkesin onaylayabileceği gibi, yüz ifadelerinin dürüst içsel durumlarımız hakkında çok az şey ifade edebileceği inatçı bir konu var.”
Crawford yalnız değil. 2019 bildiri NYU araştırma merkezi AI Now tarafından yürütülen, yanlış ellere verilen duygu tanıma teknolojisinin, kurumların, bireylerin toplumun temel yönlerine katılmaya uygunluğu konusunda distopik kararlar almasına potansiyel olarak izin verebileceğini savundu. Raporun yazarları, düzenleyicileri teknolojiyi yasaklamaya çağırdı. Daha yakın zamanlarda, 27 dijital hak grubundan oluşan bir grup, bir mektup yazdı. açık mektup Zoom CEO’su ve kurucusu Eric S. Yuan’a, Zoom’un video görüşmelerine duygu tanımayı entegre etme çabalarını bir kenara bırakması çağrısında bulundu.
Microsoft’un duygusal zeka konusundaki ekseni, Amazon ve IBM’e katıldıktan neredeyse tam iki yıl sonra geldi. yasaklama polisin yüz tanıma kullanması. O zamandan beri, Google ve Twitter gibi büyük teknoloji firmalarındaki AI etik ekipleri, çoğalmışbazıları olmadan olmasa da ısıtılmış gerilimler. Olası Microsoft’un duygu tanımadan vazgeçme kararı, onu aynı şeyi yansıtmaktan kurtarabilir. korkunç Diğer teknoloji firmalarını rahatsız eden kamu güven sorunları, şirket nedeniyle gizlilik ve sivil özgürlük savunucuları arasında büyük bir endişe kaynağı olmaya devam ediyor. kolluk kuvvetleriyle olan ortaklıkları ve askeri sözleşmelere olan istekli ilgisi.
Microsoft’un kararı genel olarak gizlilik grupları tarafından memnuniyetle karşılandı, ancak Fox Cahn, Gizmodo’ya Microsoft’un bu konuda daha fazla adım atmasını dilediğini söyledi. diğeri ise daha kârlı ama eşit derecede teknolojilerle ilgili.
Fox Cahn, “Bu önemli bir adım olsa da, Microsoft’un sivil haklar sicilini temizlemek için daha kat etmesi gereken uzun bir yol var” dedi. “Firma hala Etki Alanı Bilinirlik Sisteminden kâr ediyor, [an] NYPD ile ortaklaşa oluşturulmuş Orwellian istihbarat yazılımı. Etki Alanı Farkındalık Sistemi ve sağladığı AI polislik sistemleri, duygu tanıma ile tamamen aynı endişeleri gündeme getiriyor, yalnızca DAS kârlı.”