Yapay zeka endüstrisi, algoritmalarını insanların ten renginin açıklığı veya koyuluğuna göre daha az önyargılı hale getirmeye odaklanırken, Sony’nin yeni araştırması, kırmızı ve sarı ten tonlarının da dikkate alınmasını gerektiriyor. İçinde geçen ay yayınlanan makaleSony AI’dan yazarlar William Thong ve Alice Xiang’ın yanı sıra Tokyo Üniversitesi’nden Przemyslaw Joniak, daha çeşitli ve temsili AI sistemlerine yol açabileceği umuduyla ten renginin daha “çok boyutlu” bir ölçümünü öne sürdüler.
Araştırmacılar, Joy Buolamwini ve Timnit Gebru’nun 2018’de yaptığı ve yapay zekanın daha koyu tenli kadınlarda kullanıldığında hatalara daha yatkın olduğunu ortaya koyan önemli bir çalışması da dahil olmak üzere, yıllardır yapay zeka sistemlerindeki ten rengi önyargılarına dikkat çekiyor. Buna yanıt olarak şirketler, sistemlerinin çeşitli cilt tonlarıyla ne kadar doğru çalıştığını test etme çabalarını hızlandırdı.
Sony’nin araştırmasına göre sorun, her iki ölçeğin de öncelikle cilt tonunun açıklığına veya koyuluğuna odaklanmış olmasıdır. Sony’nin küresel Yapay Zeka Etiği Başkanı Alice Xiang, “Ürünler bu kadar tek boyutlu bir şekilde değerlendiriliyorsa, tespit edilemeyecek ve giderilemeyecek pek çok önyargı var” dedi. anlatır kablolu. “Umudumuz, burada yaptığımız çalışmanın, aslında sadece ışığa ve karanlığa odaklanan mevcut cilt tonu ölçeklerinden bazılarının değiştirilmesine yardımcı olabilmesidir.” İçinde Blog yazısıSony’nin araştırmacıları, mevcut ölçeklerin “Doğu Asyalılar, Güney Asyalılar, Hispanikler, Orta Doğulu bireyler ve aydınlıktan karanlığa spektruma tam olarak uymayan diğer kişilere” yönelik önyargıları dikkate almadığını özellikle belirtiyor.
Bu ölçümün yaratabileceği etkiye bir örnek olarak, Sony’nin araştırması, yaygın görüntü veri kümelerinin cildi daha açık ve daha kırmızı olan kişileri fazla temsil ettiğini ve daha koyu, daha sarı tenli kişileri yeterince temsil etmediğini buldu. Bu, yapay zeka sistemlerini daha az doğru hale getirebilir. Sony, Twitter’ın görüntü kırpıcısının ve diğer iki görüntü oluşturma algoritmasının daha kırmızı teni tercih ettiğini buldu. kablolu Diğer yapay zeka sistemleri, daha kırmızı ten rengine sahip kişileri yanlışlıkla “daha fazla gülen.”
Sony’nin önerdiği çözüm, önceden var olan çözümleri temel alan otomatik bir yaklaşımı benimsemektir. CIELAB renk standardıBu aynı zamanda Monk ölçeğinde kullanılan manuel sınıflandırma yaklaşımından da kaçınacaktır.
Sony’nin yaklaşımı daha çok yönlü olsa da, adını yaratıcısı Ellis Monk’tan alan Monk Cilt Tonu Ölçeği’nin önemli noktalarından biri basitliğidir. Sistem, daha fazla kategoriye sahip olmanın getirdiği tutarsızlıkları riske atmadan çeşitlilik sunmak için kasıtlı olarak 10 cilt tonuyla sınırlandırılmıştır. “Genellikle bu tür ölçeklerde 10 veya 12 puanı geçerseniz [and] Aynı kişiden aynı tonları tekrar tekrar seçmesini isteyin, ölçeği ne kadar artırırsanız, o kadar az insan bunu yapabilir,” dedi Monk geçen yıl bir röportajda. “Bilişsel olarak konuşursak, doğru ve güvenilir bir şekilde ayırt etmek gerçekten zorlaşıyor.”
Monk ayrıca ölçeğinin alt tonları ve renk tonlarını hesaba katmadığı fikrine de karşı çıktı: “Araştırma, ölçek boyunca hangi alt tonlara hangi noktalarda öncelik verileceği konusunda karar vermeye adanmıştı” diyor kablolu.
Yine de, kablolu Birkaç büyük AI oyuncusunun Sony’nin araştırmasını memnuniyetle karşıladığını, hem Google’ın hem de Amazon’un makaleyi incelediklerini belirttiklerini bildirdi.