Geliştiriciler ve veri bilimcileri elbette insandır, ancak yarattıkları sistemler değildir – onlar sadece onları yönlendiren insan muhakemesinin kodlanmış yansımalarıdır. Yapay zeka sistemlerinin doğru iş kararlarını sağlarken adil ve tarafsız sonuçlar vermesini sağlamak, işin çoğunluğunu içeren bütünsel bir yaklaşımı gerektirir. Yapay zeka söz konusu olduğunda BT personelinin ve veri bilimcilerinin yalnız hareket etmelerini bekleyemeyiz ve beklememeliyiz.
Yapay zekayı iş dünyasına entegre etmek için test yataklarının ve sistem geliştirme sınırlarının ötesine genişletmek için artan bir istek var. Örneğin, yakın tarihli bir panel sırasında yapay zeka zirvesiAralık 2021’de New York’ta düzenlenen , panelistler, iş liderlerinin ve yöneticilerinin yalnızca AI tarafından alınan kararların kalitesini sorgulamakla kalmayıp, aynı zamanda formülasyonlarına daha aktif olarak dahil olmaları gerektiği konusunda anlaştılar.
Peki, önyargıları veya yanlışlıkları nasıl giderirsiniz? Bunun, şirketin tüm yöneticileri tarafından üstlenilmesi gereken bir zorluk olduğu açıktır. Şimdiye kadar AI’nın ağırlığının çoğunu taşıyan BT, bunu tek başına yapamaz. Sektör uzmanları, yapay zeka geliştirmenin daha fazla insan katılımına açılmasını savunuyor. Virtue CEO’su ve Bizconnect danışmanı Reid Blackman, “Yükü BT yöneticilerine ve personeline yüklemek, teknik bir sorun için şirket çapında bir dizi önemli etik, yasal ve itibar sorununu yanlışlıkla genelleştirmektir” diyor. “Yapay Zekada Önyargı sadece teknik bir sorun değildir; tüm departmanlarda iç içedirler. “
Önyargıya karşı mücadele
Reid Blackman, bugüne kadar AI yanlılığıyla mücadele etmek için yeterince şey yapılmadığını söylüyor. “Önyargılı algoritmalara gösterilen ilgiye rağmen, bu sorunu çözme çabaları oldukça az olmuştur. Yapay zekadaki önyargıları ve yanlışlıkları ortadan kaldırmak zaman alır. Bu arada Irdeto’da CTO ve teknoloji operasyonlarından sorumlu kıdemli başkan yardımcısı Peter Oggel, “Çoğu kuruluş, AI’nın başarısının, bu sistemlerin son kullanıcıları ile nihayetinde adil ve tarafsız AI algoritmaları gerektiren bir güven ilişkisi kurmaya bağlı olduğunu anlıyor” diyor.
Veri merkezlerinin veya analist sitelerinin sınırlarının ötesinde daha fazlasının yapılması gerekiyor. Reid Blackman, “Veri bilimcileri, eşleşmeyen adalet metriklerinden hangisinin uygun olduğunu belirlemek için eğitim, deneyim ve iş gereksinimlerine sahip değil” diyor. “Ayrıca, genellikle endişelerini ilgili üst düzey yetkililere veya konu uzmanlarına dile getirecek güce sahip değiller. “
Blue Prism Amerika Kıtası Başkanı ve CEO’su Patrick Finn, “Bu sonuçlara yalnızca bir ürün yayındayken değil, aynı zamanda test sırasında ve herhangi bir büyük projeden sonra bakmak için” daha fazlasını yapmanın zamanı geldi dedi. “Ayrıca teknik ve satış personelini, yapay zeka ve insan ekipleri içindeki damgalanmayı nasıl azaltacakları konusunda eğitmeleri gerekiyor, böylece kendilerini yapay zeka kullanımının iyileştirilmesine katılmaya yetkilendirebilirler.” kendi organizasyonlarında. Bu, insan zekasıyla beslenen yukarıdan aşağıya ve aşağıdan yukarıya bir çabadır: yapay zekanın onları entegre etmemesi ve dolayısıyla işi yavaşlatmaması veya daha da kötüleştirmemesi için bariz önyargıları ortadan kaldırmak. AI hakkında adil düşünmeyenler onu doğru şekilde kullanmıyorlar. “
Eşitlik kavramını tanımlayın
Peter Oggel, bu zorluğu çözmek için “AI sistemlerini birkaç parametreye göre doğrulamanın ötesine geçmelisiniz” diye açıklıyor. “Düşünürseniz, adalet kavramını nasıl tanımlarsınız? Belirli bir problem, her biri neyin adil kabul edildiğine dair farklı bir tanımı olan birden fazla bakış açısına sahip olabilir. Teknik olarak, adalet hakkında bir şeyler söyleyen veri kümeleri ve algoritmalar için metrikleri hesaplamak mümkündür, ancak bu neye göre ölçülmelidir? “
“Önyargıyı araştırmak ve yapay zeka sistemlerinden nasıl çıkarılacağını anlamak için” daha fazla yatırım yapılması gerekiyor. Bu araştırmanın sonuçları, kuruluşların izleyebileceği bir standartlar, politikalar, yönergeler ve en iyi uygulamalar çerçevesine beslenmelidir. Bu sorulara ve daha fazlasına net cevaplar olmadan, önyargıyı ortadan kaldırmaya yönelik ticari çabalar boşuna olacaktır ”diyor Peter Oggle.
AI ile ilgili önyargılar genellikle “kasıtsız ve bilinçaltıdır” diye ekliyor. “Konuyla ilgili farkındalığı artırmak, önyargıyı ele almada bir şekilde yardımcı olacaktır, ancak veri bilimi ve mühendislik ekiplerinizin çeşitliliğini sağlamak, net politikalar sağlamak ve tutarlılığı sağlamak için eşit derecede önemlidir. yeterli denetim. “
Daha kısa vadeli önlemler
Projelerin ve önceliklerin işletmeye açılması zaman alıyorsa, geliştirme ve uygulama düzeyinde alınabilecek daha kısa vadeli aksiyonlar var mı? Datatron CEO’su Harish Doddi, AI modelleri geliştirirken aşağıdaki soruların sorulmasını tavsiye ediyor:
- Önceki sürümler nasıldı?
- Modeldeki girdi değişkenleri nelerdir?
- Çıkış değişkenleri nelerdir?
- Modele kimler erişebilir?
- Yetkisiz erişim oldu mu?
- Model belirli parametrelere göre nasıl davranıyor?
Harish Doddi, geliştirme sırasında, “makine öğrenimi modelleri belirli varsayımlara, kurallara ve beklentilere bağlıdır” diyor ve üretime girdikten sonra farklı sonuçlar verebilir. “Yönetimin esas olduğu yer burasıdır.” Bu yönetişimin bir kısmı, modellerin tüm versiyonlarını takip etmek için bir katalogdur. “Katalog, modellerin geliştirildiği çerçeveyi ve bunların yanı sıra modellerin geliştirildiği çerçeveyi takip edebilmeli ve belgeleyebilmelidir. soy.”
İşletmeler, “işle ilgili hususların etik hususları gölgede bırakmamasını daha iyi sağlamalıdır. Bu kolay bir dengeleme eylemi değil ”diyor Peter Oggle. “Bazı yaklaşımlar, sabit bir prototipik veri noktası kümesi üzerinden model davranışının zaman içindeki gelişimini otomatik olarak izlemekten oluşur. Bu, modellerin beklenen şekilde davrandığını ve sağduyu ve bilinen yanlılık riskleriyle bağlantılı belirli kısıtlamalara uyduğunu doğrulamayı mümkün kılar. Ek olarak, bir modelin tahminlerinin beklediğimiz veya elde etmeyi umduğumuz şeyle nasıl örtüştüğünü görmek için örnek verilerin düzenli manuel kontrollerini yapmak, ortaya çıkan ve beklenmeyen sorunları tespit etmeye yardımcı olabilir. “
Kaynak: ZDNet.com