Microsoft, Sorumlu AI Standardını güncelliyor ve Azure Face’in duygusal ve yüz tanıma yeteneklerini (çoğunlukla) kullanımdan kaldırdığını açıkladı.
bu Sorumlu Yapay Zeka Standardı (yeni sekmede açılır) AI sistemleri oluşturmaya gelince Microsoft’un dahili kural setidir. Şirket, yapay zekanın dünyada pozitif bir güç olmasını ve asla kötü oyuncular tarafından kötüye kullanılmamasını istiyor. Daha önce halkla paylaşılmamış bir standarttır. Ancak bu yeni değişiklikle birlikte Microsoft, zamanın şimdi olduğuna karar verdi.
En hafif tabirle, duygusal ve yüz tanıma yazılımı tartışmalı olmuştur. Bu teknolojinin yasaklanmasını isteyen birden fazla kuruluş var. Gelecek için Savaşörneğin, Mayıs ayında Zoom’dan kendi duygusal izleme yazılımı geliştirmesini durdurmasını isteyen bir açık mektup yazdı ve bunu “istilacı” ve “mahremiyet ve insan haklarının ihlali” olarak nitelendirdi.
Politika değişikliği
Belirtildiği gibi Microsoft, yeni Sorumlu Yapay Zeka Standardının gereksinimlerini karşılamak için Azure Face hizmetini yeniden işleyecek. İlk olarak şirket, yapay zekanın duygu tarama yeteneğine genel erişimi kaldırıyor. İkincisi, Azure Face artık bir kişinin “cinsiyet, yaş, [a] gülümseme, sakal, saç ve makyaj.”
Emekliliğin nedeni, küresel bilim camiasının hala “’duyguların’ tanımı üzerinde net bir fikir birliğine sahip olmaması”. Microsoft’un Baş Sorumlu AI Görevlisi Natasha Cramption, şirketin içinden ve dışından uzmanların endişelerini dile getirdiğini söyledi. Sorun, “çıkarımların kullanım durumları, bölgeler ve demografiler arasında nasıl genelleştirildiği ve artan gizlilik endişeleri ile ilgili zorluklar…”
Azure Face’e ek olarak, Microsoft’un Özel Sinirsel Sesi de benzer kısıtlamalar görecek. Özel Sinirsel Ses (yeni sekmede açılır) şaşırtıcı derecede gerçekçi bir metin okuma uygulamasıdır. Artık hizmet, doğrudan Microsoft’un hesap ekipleriyle çalışan kişiler olan birkaç “yönetilen müşteri ve iş ortağı” ile sınırlı olacak. Şirket, teknolojinin büyük bir potansiyele sahip olmasına rağmen, kimliğe bürünmek için kullanılabileceğini belirtiyor. Neural Voice’a erişmeye devam etmek için mevcut tüm müşterilerin bir giriş formu göndermesi ve Microsoft tarafından onaylanması gerekir. 30 Haziran 2023’e kadar onaylanmaları gerekiyor ve seçilmezlerse bu müşterilerin artık Neural Voice’a erişimi olmayacak.
Hala iş başında
Söylenen her şeye rağmen, Microsoft yüz tanıma teknolojisinden tamamen vazgeçmiyor. Duyuru yalnızca genel erişimle ilgilidir. Azure AI’da Baş Grup Proje Yöneticisi olan Sarah Bird, sorumlu yüz tanıma hakkında yazdı (yeni sekmede açılır). Ve bu gönderide, “Microsoft, bir dizi kontrollü erişilebilirlik senaryosu için kullanıldığında bu yeteneklerin değerli olabileceğini kabul ediyor” diyor. Bir temsilciye göre bu senaryolardan biri, AI’yı görmek (yeni sekmede açılır)görme engellilerin çevrelerindeki insanları ve nesneleri tanımalarına yardımcı olan bir iOS uygulamasıdır.
Yüz tanıma ile ilgili sorunları ve kötüye kullanım potansiyelini tanıyan başka bir teknoloji devini görmek güzel. IBM, yaklaşımı daha mutlak olmasına rağmen 2020’de benzer bir şey yaptı.
2020’ye geri döndük, IBM işi bıraktığını açıkladı Yüz tanıma konusunda şirket, kitlesel gözetleme için kötüye kullanılmasından korktuğu için. Endüstrinin bu iki devinin bu teknolojiden kurtulduğunu görmek, yüz tanıma karşıtı eleştirmenler için bir kazanç. AI hakkında daha fazla bilgi edinmek istiyorsanız, TechRadar yakın zamanda siber güvenlik için neler yapabileceğine dair bir makale yayınladı.