Birkaç gecikmeden sonra, bir New York şehri yasası şirketlerin otomatik çalışan işe alma veya terfi araçlarını incelemelerini zorunlu kılmak İK ofisleri tarafından kullanılan yazılımlarda yer alan önyargıları engellemek amacıyla Çarşamba günü yürürlüğe girdi.
Önyargı Denetimi Yasası olarak da bilinen New York Şehri Yerel Yasası 144, işe alım kuruluşlarının iş başvurusunda bulunanları süreci otomatikleştiren algoritmaların kullanıldığını bilgilendirmesini ve herhangi bir önyargı olup olmadığını kontrol etmek için bir üçüncü tarafın yazılımı denetlemesini sağlamasını gerektirecektir.
Bazı uzmanlar, işe alımlarda yapay zekanın (AI) kullanımını düzenleyen yasanın ülke genelinde reformlar için bir plan olabileceğine inanıyor.
Önyargı Denetim Yasası, makine öğrenimi, istatistiksel modelleme, veri analitiği veya bir tahmin oluşturan yapay zeka dahil olmak üzere tüm otomatik işe alma veya çalışan değerlendirme algoritmalarını kapsar. Algoritmalar, bir adayın uygunluğunu veya başarı olasılığını değerlendirmek için kullanılanlar veya o kişinin bir sınıflandırmasını oluşturanlar olarak tanımlanır.
Yasalara uymayan şirketler cezalarla karşı karşıya kalacak İlk ihlal için 375$, ikinci ihlal için 1.350$ ve üçüncü veya daha fazla ihlal için 1.500$. Otomatik istihdam karar aracının kanuna aykırı olarak kullanıldığı her gün ayrı bir ihlal olarak değerlendirilecektir.
New York City, otomatik işe alım araçlarını yöneten en geniş yasa olsa da, eyaletler dahil Kaliforniya, Illinois, MarylandVe Washingtonvar veya yasama kurallarını düşünüyorlar yetenek kazanımı için yapay zekayı kullanma etrafında. Avrupa Birliği’nin AB AI Yasası da otomatik işe alma yazılımlarıyla ilgili sorunları ele almayı amaçlamaktadır. AB AI Yasasının metni Haziran ayında kabul edildi ve şu anda yasa olarak oylanabilecek bir teklif haline getiriliyor.
Adayları manuel olarak ayıklamak haftalar hatta aylar sürebileceğinden, kuruluşlar işe alımda otomasyon kullanır. Sadece bir sonraki aşama görüşmelerini planlamak, deftere oturmak günler alabilir – yeniden planlamanın neden olduğu gecikmelerden bahsetmiyorum bile. Bir işe alma yöneticisinin de bir görüşmeye tamamen hazırlanmak için yeterli zamanı olmayabilir. İşe alma algoritmaları, daha küçük, daha yönetilebilir ve (teorik olarak) daha uygun bir aday listesi oluşturmak için deneyime, becerilere ve diğer ölçütlere dayalı olarak aday alanını hızlı bir şekilde ayırabilir. Özellikle bilgi çalışanlarının, görevleri için gereken deneyim ve beceri setlerinin miktarı nedeniyle gözden geçirilmesi zor olabilir.
Global Strateji Başkan Yardımcısı Cliff Jurkiewicz’e göre, New York Yerel Yasası 144’te yer alan gereksinimler, kurumsal kaynak planlama (ERP) uygulamalarına ve genel olarak işgücü planlamasına da kolayca sızabilir. FenomAI özellikli bir işe alma platformu sağlayıcısı.
Örneğin, ERP uygulamaları, insanların nasıl işe alınıp eğitildiğini ve hangi yetkinliklere ve becerilere ihtiyaç duyulduğunu etkileyebilecek iş gücü yönetimi bileşenlerine sahiptir. “Yapay zekanın etkileyeceği tüm bu şeyler. Gerçek şu ki, AI’nın erişimi, bu yasanın genişletilebilirliğini – ki bunun olacağını tahmin ediyorum – bugünden çok daha derin hale getirecek. İş sadece birini işe almak ve işe almak değildir. Bunun çok ötesine geçiyor, ”dedi Jurkiewicz.
Medeni haklar yasalarını kültürlerine ve iş uygulamalarına zaten yerleştirmiş olan işletmeler ve kuruluşlar için, New York’un yeni yasası büyük olasılıkla bir sorun olmayacaktır. Yapmamış olanlar için, bu bir meydan okuma olabilir.
“Örneğin, 144 sayılı Yerel Kanun açısından, alanımızdaki diğer şirketler gibi biz de iki yıl önce uyumluyduk. Alanımız buna çok iyi hazırlanmış,” dedi Jurkiewicz. “Ama diğer alanlardan bazılarına bakarsanız, muhtemelen hayır.”
Will Rose, CTO’dur. Yetenek Seçimi Yapay Zekası, iş adaylarının kayıtlı veya görüntülü iş görüşmelerinde kullandıkları kelimelerle kişilik özelliklerini ve yetkinliklerini ölçen yazılımlar satan bir şirkettir. Yazılım, deneyime açıklık, vicdanlılık, dışadönüklük, uyumluluk ve nevrotiklik gibi daha az geleneksel aday özelliklerine odaklanır.
Rose, “Genel olarak konuşursak,” dedi, kendisi ve şirketi “yeni düzenlemeleri benimsiyor.”
Rose, bir adayın işe alım sürecinde bir yapay zeka algoritmasının kullanıldığını anlaması doğru olduğuna inanıyor ve şirketinin yazılımının önyargılı olmadığından emin olmak için zaten üçüncü taraf denetimleri kullandığını söyledi.
Rose, “Adaylar, hangi verilerin toplandığını ve nasıl kullanıldığını bilme yeteneğine sahip olmalıdır” dedi. “Bizim için oldukça yalındır…. Şeffaflığın bir öncelik olması gerektiğine inanıyoruz.
Rose, “Yasanın, işe alım kararlarını vermek için kullanılan yapay zeka sistemlerinde belirli düzeylerde ‘açıklanabilirlik’ gerekliliğine daha fazla vurgu yapması gerektiğine inanıyorum.” , ancak yapay zeka sistemleri doğası gereği giderek daha karmaşık hale gelmeye devam ettikçe, yapay zeka teknolojisi geliştiricilerinin veya satıcılarının otomatik işe alma kararlarının nasıl alındığını açıklayabilmeleri için bir miktar sorumluluk olmalıdır.”
ChatGPT gibi yapay zeka tabanlı araçlarda örtük önyargılar bulunmuştur. Princeton Üniversitesi’nde doktora adayı olan Sayash Kapoor, ChatGPT’yi test etti ve kişinin cinsiyeti açıkça belirtilmediğinde, görünüşe göre zamirler gibi diğer bilgilerden derlenmiş önyargılar buldu. Kapoor kimdir? AI sorunları üzerine bir kitabın birlikte yazılması Princeton Üniversitesi mühendislik profesörü Arvind Narayanan ile bir e-posta yanıtında şunları söyledi: Bilgisayar Dünyası ChatGPT gibi yazılımların, soruları cevaplarken cinsiyet klişelerini kullanma olasılığı üç kat daha fazladır.
Bu, “o” ve “o” zamirlerini değiştirerek ve sonuçları inceleyerek keşfedildi.
Kapoor, yapay zeka önyargılarının genellikle geliştiricilerin modellerini kasıtlı olarak bir cinsiyet veya etnik köken lehine programlamasının bir sonucu olmadığını, “ancak nihayetinde, bu önyargıları düzeltme sorumluluğu geliştiricilere aittir, çünkü yapay zeka modellerini yayınlayan ve bunlardan kazanç sağlayanlar onlardır” dedi. söz konusu.
AI tabanlı işe alım yazılımı sunan şirketler arasında Paradox, HireVueiCIMS, Metin, FenomJobvite, XOR.ai, Upwork, Bullhorn ve Eightfold AI.
Örneğin, HireVue’nin hizmeti, iş arayanları becerilerine en uygun pozisyonlara yönlendirmek için metin tabanlı konuşmalar yapabilen bir sohbet robotu içerir. Phenom’un derin öğrenme algoritması chatbot’u, adaylara becerilere, pozisyon uyumuna, konuma ve deneyime dayalı olarak özel iş önerileri ve içeriği gönderir, böylece işverenler “sizi daha hızlı bulup seçebilir”. Yalnızca başvuranları taramakla kalmaz, aynı zamanda iş görüşmeleri planlayabilir.
Yapay zeka tabanlı yetenek yönetimi yazılımı sağlayıcısı Beamery, bu yılın başlarında GPT-4 ve diğer büyük dil modellerine (LLM’ler) dayalı bir yetenek edinme sohbet robotu oluşturdu. Chatbot, işe alım yöneticilerine, işe alım görevlilerine, adaylara ve çalışanlara yetenek edinme ve iş arama konusunda yardımcı olmayı amaçlamaktadır. Şirket, yapay zekasının kurallara uyumu otomatikleştirdiğini ve sohbet robotlarının arkasındaki algoritmalar olan LLM’lerle ilişkili önyargı risklerini azalttığını iddia ediyor.
Yapay zeka yetenek edinme yazılımı, adayın geçmişine, becerilerine ve video mülakatına dayalı sayısal notları kullanarak işveren karar verme sürecinde kullanılabilecek genel bir yetkinlik tabanlı puan ve sıralamalar sunar.
Phenom’dan Jurkiewicz, New York şehrinin ticaret evreninin varsayılan merkezi olması nedeniyle, Yerel Yasa 144’ün şehir sınırlarının çok ötesinde bir etkiye sahip olacağını söyledi. New York tüzüğünün diğer belediye kural koyma çabalarını teşvik edeceğine inanmasa da, New York dışındaki şirketler muhtemelen uyacaktır çünkü pek çoğu şehirdeki başkalarıyla iş yapmaktadır.
Bununla birlikte, eyaletlerin otomatik işe alma, işe alma ve elde tutma araçlarına ilişkin düzenleyici denetimlerini, Kaliforniya’nın Avrupa’nın GDPR tüketici koruma yasasını Kaliforniya Tüketici Gizliliği Yasası (CCPA),
Jurkiewicz, “Siyasi ortamına bağlı olarak, her eyalet buna bakabilir” dedi. “Bekle ve gör yaklaşımı benimseyecekler ve bunun önümüzdeki yıl nasıl sonuçlanacağını görecekler.”
Biden Yönetimi ayrıca ABD’de AI işe alma araçlarını düzenlemeye ilgi duyduğunu ifade etti. Eşit İstihdam Fırsatı Komisyonu (EEOC) komisyon üyesi Keith Sonderling, “Yapay zekanın işyerinde ayrımcılığı şiddetlendirmek yerine ortadan kaldırmaya yardımcı olmasını sağlamaya kararlı olduğunu” söyledi. 2021’de EEOC Başkanı Charlotte Burrows ayrıca duyuruldu AI tabanlı işe alma araçlarının federal medeni haklar yasalarına uymasını sağlamaya yönelik bir girişim.
Jurkiewicz, “Buna katılıyoruz,” dedi.
Daha küçük kuruluşlar, algoritmalarının bir iş adayı için bir puana, sınıflandırmaya veya tavsiyeye nasıl ulaştığını belirleyecek uzmanları olmadığı için otomatik işe alma araçlarının denetimleriyle mücadele edebilir.
Yapay zeka tabanlı işe alım araçları, işe alım yöneticilerine önerilerde bulunur. Bu nedenle, örneğin, otomatik bir görüşme planlama sistemi, sistemdeki bir adayın iş kriterlerini diğerinden daha yüksek derecede karşıladığını gösteren verilere dayanarak bir adayı diğerine tercih eder. Bu AI puanı tipik olarak yüzde olarak gösterilir – yüzde ne kadar yüksekse, açık bir pozisyon için o kadar uygundur.
Jurkiewicz, tipik olarak, %90’ın üzerindeki herhangi bir puanın, bir adayın bir işe uygunluğu açısından doğruluk açısından iyi bir hedef olarak kabul edildiğini söyledi. Yüzde olarak 80’lerin ortalarının altındaki herhangi bir şey, kötü bir uyum, önyargı anlamına gelebilir veya aday hakkında veri eksikliği olduğu anlamına da gelebilir. Jurkiewicz, raporlama amacıyla, daha küçük kuruluşların düzenleyicilere açıklamakta zorlanacakları nüanslar olduğunu söyledi. Ve bu, kuruluşların iyi bir puanı neyin belirlediği konusunda eğitilmesi gerektiği anlamına gelir.
“İşe almaya devam ederseniz [men] üzerinde [women], kadınlara karşı önyargılı olduğunuzu gösterebilir. Jurkiewicz, önemli olanın bu skor olduğunu söyledi. “Verilerinizin eksik, kötü veya doğru şekilde hesaplanmadığı anlamına gelebilir. Bu nedenle, puanlama sisteminin kendisi işletme sahipleri için en çok eğitime ihtiyaç duyar.
“İşletmeleri denetlemeye başladıklarında muhtemelen göreceğiniz en büyük sorun kötü insanlar değil, kötü verilerdir” diye ekledi.
Telif hakkı © 2023 IDG Communications, Inc.