Amazon.com Inc, yapay zeka sistemlerinin farklı gruplara karşı ayrımcılık yapabileceğine dair devam eden endişeler ışığında, bulut bilişim bölümü tarafından satılan yazılımlar için uyarı kartları çıkarmayı planlıyor.
Uzun beslenme etiketlerine benzer şekilde, Amazon’un sözde AI Hizmet Kartları, ticari müşterilerinin yüz tanıma ve sesli transkripsiyon gibi belirli bulut hizmetlerinin sınırlamalarını görebilmesi için halka açık olacak. Amazon, amacının, teknolojisinin yanlış kullanımını önlemek, sistemlerinin nasıl çalıştığını açıklamak ve gizliliği yönetmek olduğunu söyledi.
Şirket, bu tür uyarıları ilk yayınlayan şirket değil. Bulutta daha küçük bir oyuncu olan International Business Machines Corp, bunu yıllar önce yaptı. 3 numaralı bulut sağlayıcısı Alphabet Inc’in Google’ı da yapay zekasının bir kısmını eğitmek için kullandığı veri kümeleri hakkında daha fazla ayrıntı yayınladı.
Ayrıca Oku
Yine de Amazon’un Çarşamba günü ilk üç hizmet kartını yayınlama kararı, endüstri liderinin, yıllar önce sivil özgürlükleri eleştirenlerle kamuoyunda yaşadığı bir tartışmanın, yapay zeka etiğini akranlarından daha az önemsediği izlenimini bırakmasının ardından imajını değiştirme girişimini yansıtıyor. Hareket, şirketin Las Vegas’taki yıllık bulut konferansıyla aynı zamana denk gelecek.
Michael Kearnsa Pensilvanya Üniversitesi Profesör ve 2020’den beri Amazon’da bir bilim insanı, kartları verme kararının şirketin yazılımının gizlilik ve adalet denetimlerini takiben alındığını söyledi. Kearns, kartların, teknoloji düzenlemesinin ufukta göründüğü bir zamanda yapay zeka etiği endişelerini kamuya açık bir şekilde ele alacağını söyledi.
“Bu lansmanla ilgili en büyük şey, bunu sürekli ve genişletilmiş bir temelde yapma taahhüdüdür” dedi.
Amazon, Kearns’ın zaman içinde ayrıntılı olarak büyümesini beklediği hizmet kartları için başlangıç olarak hassas demografik sorunlara değinen yazılımları seçti.
CİLT TONLARI
Böyle bir hizmet denir “tanıma2019’da Amazon, teknolojinin daha koyu ten tonlarına sahip bireylerin cinsiyetini belirlemekte zorlandığını söyleyen bir araştırmaya itiraz etti. Ancak 2020’de silahsız bir Siyahi olan George Floyd’un bir tutuklama sırasında öldürülmesinin ardından şirket, polis kullanımına ilişkin bir moratoryum yayınladı. yüz tanıma yazılımının
Amazon, Reuters tarafından görülen bir hizmet kartında Rekognition’ın yüzün bir insan tarafından tanınamayacak kadar bulanık ve grenli veya yüzün büyük bir kısmının saç, el ve diğer nesneler.” Ayrıca çizgi filmlerdeki ve diğer “insan dışı varlıklardaki” eşleşen yüzlere karşı da uyarıda bulunuyor.
Reuters tarafından ses kaydıyla ilgili görülen başka bir uyarı kartında Amazon, “Ses girişlerini tutarsız bir şekilde değiştirmek, farklı demografik gruplar için haksız sonuçlara yol açabilir” diyor. Kearns, çok çeşitli bölgesel aksanları ve lehçeleri doğru bir şekilde yazıya döktüğünü söyledi. Kuzey Amerika tek başına Amazon’un çözmeye çalıştığı bir zorluktu.
jessica newmanAI Security Initiative’in direktörü Berkeley’deki Kaliforniya Üniversitesiteknoloji şirketlerinin bu tür açıklamaları sorumlu yapay zeka uygulamalarının bir işareti olarak giderek daha fazla yayınladığını, ancak kat etmeleri gereken bir yol olduğunu söyledi.
Daha fazla endüstri standardı için çağrıda bulunarak, “İnsanların yaşamları üzerinde muazzam bir etkiye sahip olabilecek sistemlerin temel ayrıntılarını sağlamak için şirketlerin iyi niyetine bağımlı olmamalıyız” dedi.
İki büyük şirkette beslenme etiketleri üzerinde çalışan bir kişinin söylediğine göre teknoloji devleri, bu tür belgeleri insanların okuyabileceği kadar kısa, ancak sık yazılım değişikliklerini yansıtacak kadar ayrıntılı ve güncel hale getirmekle boğuştu.
FacebooktwitterLinkedin
