Aylarca süren gecikmelerden sonra, New York City bugün, işverenlerin çalışanları işe almak, işe almak veya terfi ettirmek için algoritmalar kullanmasını ve bu algoritmaları bağımsız bir denetime sunmasını ve sonuçları kamuoyuna açıklamasını gerektiren bir yasayı uygulamaya başladı. Ülkede türünün ilk örneği olan ve New York Şehri Yerel Yasası 144 olan mevzuat, bu tür algoritmaları kullanan şirketlerin çalışanlara veya iş adaylarına açıklama yapmasını da zorunlu kılıyor.
En azından, şirketlerin kamuoyuna açıklamaları gereken raporlar, kullandıkları algoritmaları ve farklı ırklardan, etnik kökenlerden ve cinsiyetlerden adayların söz konusu algoritmalardan alacakları bir “ortalama puanı” listelemelidir – bir puan şeklinde. , sınıflandırma veya öneri. Ayrıca, yasanın belirli bir kategorideki (örneğin, Siyah erkek adaylar) tüm kişilerin ortalama algoritma tarafından verilen puanının en yüksek puan alan kategorideki kişilerin ortalama puanına bölümü olarak tanımladığı algoritmaların “etki oranlarını” da listelemelidir. .
Uyum sağlamadığı tespit edilen şirketler, ilk ihlal için 375$, ikinci ihlal için 1.350$ ve üçüncü ve sonraki ihlaller için 1.500$ cezayla karşı karşıya kalacak. Bir şirketin yasalara aykırı olarak bir algoritma kullandığı her gün, bu ayrı bir ihlal teşkil edecektir – yeterli açıklamanın sağlanamaması gibi.
Daha da önemlisi, Belediye Meclisi tarafından onaylanan ve NYC Tüketici ve İşçi Koruma Departmanı tarafından uygulanacak olan 144 sayılı Yerel Kanunun kapsamı, NYC’de yerleşik işçilerin ötesine geçiyor. Bir kişi şehirde çalıştığı veya bir iş için başvurduğu sürece, yeni yasa kapsamında koruma almaya hak kazanır.
Birçoğu bunu gecikmiş olarak görüyor. Bir işe alım teknolojisi satıcısı olan Applied’in CEO’su Khyati Sundaram, özellikle işe alım yapay zekasının mevcut önyargıları artırma potansiyeline sahip olduğuna ve bu süreçte hem istihdamı hem de ücret açıklarını kötüleştirdiğine dikkat çekti.
Sundaram, TechCrunch’a e-posta yoluyla “İşverenler, adayları bağımsız olarak puanlamak veya sıralamak için AI kullanmaktan kaçınmalıdır” dedi. “Algoritmaların, iş dünyasında zaten var olan önyargıları yansıtmadan ve sürdürmeden bu kararları kendi başlarına alacaklarına güvenilebileceği veya güvenilmesi gereken bir noktada değiliz.”
İşe alma algoritmalarına sızan önyargının kanıtlarını uzaklarda aramaya gerek yok. Amazon, tespit edildikten sonra 2018’de bir işe alım motorunu hurdaya çıkardı. kadın adaylara ayrımcılık. ve bir 2019 akademik çalışma, işe alımda yapay zekanın etkin olduğu Siyah karşıtı önyargı gösterdi.
Başka yerlerde, iş adaylarına gözlük veya başörtüsü takmaları gibi kriterlere göre farklı puanlar veren algoritmalar bulundu; Başvuranları, kulağa Siyahi gibi gelen bir isme sahip oldukları, bir kadın kolejinden bahsettikleri veya belirli dosya türlerini kullanarak özgeçmişlerini sundukları için cezalandırmak; ve bir klavyeyle etkileşim kurma yeteneklerini sınırlayan fiziksel bir engeli olan kişileri dezavantajlı duruma düşürür.
Önyargılar derin olabilir. Bir Ekim 2022 çalışmak Cambridge Üniversitesi, ideal çalışanın cinsiyet ve ırkından tarihsel olarak etkilendiği için cinsiyet ve ırkı ortadan kaldırmaya yönelik önyargı önleyici önlemlerin etkisiz olduğunu öne sürerek, nesnel, liyakate dayalı değerlendirmeler sunduğunu iddia eden yapay zeka şirketlerinin yanlış olduğunu ima ediyor.
Ancak riskler benimsemeyi yavaşlatmıyor. Bir araştırmaya göre, yaklaşık dört kuruluştan biri işe alım süreçlerini desteklemek için zaten yapay zekadan yararlanıyor. Şubat 2022 araştırması İnsan Kaynakları Yönetimi Derneği’nden. Yüzde, 5.000 veya daha fazla çalışanı olan işverenler arasında daha da yüksektir – %42.
Peki işverenler tam olarak hangi algoritma biçimlerini kullanıyor? değişir. Daha yaygın olanlardan bazıları, özgeçmişleri ve kapak harflerini anahtar kelimelere göre sıralayan metin analizörleridir. Ancak, belirli özelliklere sahip adayları elemek için çevrimiçi mülakatlar yapan sohbet robotları ve bir adayın konuşma kalıpları ve yüz ifadelerinden problem çözme becerilerini, yeteneklerini ve “kültürel uyumunu” tahmin etmek için tasarlanmış mülakat yazılımları da var.
İşe alma ve işe alma algoritmaları yelpazesi o kadar geniştir ki, aslında bazı kuruluşlar Yerel Yasa 144’ün yeterince ileri gittiğine inanmıyor.
Amerikan Sivil Özgürlükler Birliği’nin New York şubesi olan NYCLU, yasanın adaylar ve işçiler için koruma sağlama konusunda “çok yetersiz” kaldığını iddia ediyor. NYCLU’da kıdemli gizlilik ve teknoloji stratejisti Daniel Schwarz, bir politikada belirtiyor hafıza 144 sayılı Yerel Kanunun, yazıldığı şekliyle, işe alma algoritmalarının yalnızca bir alt kümesini kapsadığı anlaşılmalıdır – örneğin, video ve sesli görüşmelerden metinleri kopyalayan araçlar hariç. (Konuşma tanıma araçlarının iyi bilinen bir önyargıya sahip olduğu göz önüne alındığında sorunbu açıkça sorunlu.)
“… önerilen kurallar [must be strengthened to] geniş kapsama alanı sağlamak [hiring algorithms]önyargı denetimi gerekliliklerini genişletin ve etkilenen insanlara şeffaflık ve anlamlı bildirimler sağlayın. [algorithms] New York City’nin ayrımcılığa karşı yasalarını dijital olarak atlatmak için faaliyet göstermeyin,” diye yazdı Schwarz. “Adaylar ve çalışanların ayrımcı bir algoritma tarafından taranma konusunda endişelenmelerine gerek yok.”
Buna paralel olarak sektör de kendi kendini düzenlemeye yönelik ön hazırlık çalışmalarına girişiyor.
Aralık 2021, yapay zekanın algoritmik önyargıyı, özellikle de işe alımdaki önyargıyı tespit edip bunlarla mücadele etmesi için bir değerlendirme ve puanlama sistemi geliştirmeyi amaçlayan Data & Trust Alliance’ın lansmanına tanık oldu. Grup, üyeleri arasında CVS Health, Deloitte, General Motors, Humana, IBM, Mastercard, Meta, Nike ve Walmart’ı bir noktada sayarak, önemli basında.
Şaşırtıcı olmayan bir şekilde, Sundaram bu yaklaşımı destekliyor.
“Düzenleyicilerin işe alım yapay zekasının en kötü aşırılıklarını yakalayıp dizginlemesini ummak yerine, işverenlerin tetikte olması ve işe alma süreçlerinde yapay zekayı kullanırken dikkatli olması gerekiyor” dedi. “AI, kullanımını düzenlemek için yasaların çıkarılabileceğinden daha hızlı gelişiyor. Sonunda kabul edilen yasalar – New York City dahil – bu nedenle büyük olasılıkla oldukça karmaşık olacaktır. Bu, şirketleri çeşitli yasal incelikleri yanlış yorumlama veya gözden kaçırma riskiyle karşı karşıya bırakacak ve buna karşılık, marjinal adayların roller için göz ardı edilmeye devam ettiğini görecek.”
Elbette pek çok kişi, şirketlerin kullandıkları veya geliştirdikleri yapay zeka ürünleri için bir sertifika sistemi geliştirmelerinin baştan sorunlu olduğunu tartışabilir.
Eleştirmenlere göre, belirli alanlarda kusurlu olsa da, Yerel Kanun 144 yapmak denetimlerin, test ettikleri algoritmanın kullanımı, geliştirilmesi veya dağıtımında yer almamış ve algoritmayı test için gönderen şirketle ilişkisi olmayan bağımsız kuruluşlar tarafından yapılmasını zorunlu kılar.
144 Sayılı Yerel Kanun nihai olarak değişimi etkileyecek mi? Bunu söylemek için çok erken. Ancak, uygulanmasının başarısı veya başarısızlığı kesinlikle başka bir yere gelecek yasaları etkileyecektir. Yakın tarihli bir parçada belirtildiği gibi Nerdcüzdan, Washington, DC, otomatik karar verme algoritmalarında önyargıyı önlemek için işverenleri sorumlu tutacak bir kural düşünüyor. Son birkaç yıl içinde Kaliforniya’da işe alımlarda yapay zekayı düzenlemeyi amaçlayan iki yasa tasarısı çıkarıldı. Ve Aralık ayı sonlarında, New Jersey’de, ayrımcılığı en aza indirmek için işe alım kararlarında AI kullanımını düzenleyecek bir yasa tasarısı sunuldu.