Çarşamba günü Meta, bir Yapay zeka danışma konseyi üzerinde sadece beyaz adamlar var. Başka ne beklerdik? Kadınlar ve farklı ırklardan insanlar, nitelikli olmalarına ve bu alanın gelişiminde önemli bir rol oynamalarına rağmen, yapay zeka dünyasında göz ardı edildiklerini ve dışlandıklarını onlarca yıldır dile getiriyorlar.
Danışma kurulunun çeşitliliğine ilişkin yorum yapma talebimize Meta hemen yanıt vermedi.
Bu yeni danışma kurulu, Meta’nın gerçek yönetim kurulundan ve Denetim Kurulundan farklıdır. türlü Cinsiyet ve ırksal temsilde. Güvence görevi de olmayan bu yapay zeka kurulunu hissedarlar seçmedi. Meta Bloomberg’e söyledi tahta “teknolojik gelişmeler, inovasyon ve stratejik büyüme fırsatları hakkında bilgi ve öneriler” sunacak. “Periyodik olarak” buluşacaktı.
Bu, yapay zeka danışma konseyinin etik uzmanlarından ya da akademik ya da derin araştırma geçmişine sahip kişilerden değil, tamamen iş adamları ve girişimcilerden oluştuğunu gösteriyor. Mevcut ve eski Stripe, Shopify ve Microsoft yöneticilerinin, aralarında pazara sundukları çok sayıda ürün göz önüne alındığında Meta’nın AI ürün yol haritasını denetlemek için iyi bir konumda oldukları iddia edilebilir, ancak AI’nın olmadığı defalarca kanıtlanmıştır. diğer ürünler gibi. Bu riskli bir iştir ve yanlış anlamanın sonuçları özellikle dışlanmış gruplar için geniş kapsamlı olabilir.
TechCrunch ile yakın zamanda yapılan bir röportajda, yapay zekanın sosyal etkilerini inceleyen kar amacı gütmeyen bir kuruluş olan AI Now Institute’un genel müdürü Sarah Myers West, “halkın ihtiyaçlarının karşılanmasını sağlamak” için yapay zeka üreten kurumları “eleştirel bir şekilde incelemenin” çok önemli olduğunu söyledi. [are] servis edildi.”
“Bu hataya açık bir teknoloji ve bağımsız araştırmalardan bu hataların eşit şekilde dağılmadığını, uzun süredir ayrımcılığın yükünü çeken topluluklara orantısız bir şekilde zarar verdiğini biliyoruz” dedi. “Çıtayı çok çok daha yükseğe koymalıyız.”
Kadınların yapay zekanın karanlık tarafını deneyimleme olasılığı erkeklerden çok daha fazla. Sensity AI, 2019’da çevrimiçi AI deepfake videolarının %96’sının rıza dışı, müstehcen videolardan oluştuğunu tespit etti. Üretken yapay zeka o zamandan bu yana çok daha yaygın hale geldi ve kadınlar hâlâ bu ihlal edici davranışın hedefi.
Ocak ayındaki yüksek profilli bir olayda, Taylor Swift’in rıza dışı, pornografik deepfake’leri X’te viral hale geldi ve en yaygın gönderilerden biri yüz binlerce beğeni ve 45 milyon görüntüleme aldı. X gibi sosyal platformlar, kadınları bu durumlardan koruma konusunda tarihsel olarak başarısız oldu; ancak Taylor Swift dünyanın en güçlü kadınlarından biri olduğu için X, “taylor Swift ai” ve taylor Swift deepfake gibi arama terimlerini yasaklayarak müdahale etti.
Ancak bu başınıza gelirse ve küresel bir pop yıldızı değilseniz, o zaman şansınız olmayabilir. Var çeşitli raporlar Ortaokul ve lise çağındaki öğrencilerin sınıf arkadaşlarının açık şekilde deepfake’lerini yapmaları. Bu teknoloji bir süredir ortalıkta olsa da, erişim hiç bu kadar kolay olmamıştı; kadınların fotoğraflarını “soymak” veya yüzlerini pornografiye dönüştürmek için özel olarak reklamı yapılan uygulamaları indirmek için teknoloji konusunda bilgili olmanıza gerek yok. Aslında NBC’den Kat Tenbarge’ın haberine göre, Facebook ve Instagram tarafından barındırılan reklamlar Kendisini müstehcen görüntüler oluşturmaya yönelik bir araç olarak tanımlayan Perky AI adlı bir uygulama için.
Tenbarge şirketi sorun konusunda uyarıncaya kadar Meta’nın tespitinden kaçtığı iddia edilen iki reklamda, ünlü Sabrina Carpenter ve Jenna Ortega’nın vücutları bulanıklaştırılmış fotoğrafları gösteriliyor ve müşterilere, uygulamayı kıyafetlerini çıkarmaya teşvik etme çağrısı yapılıyordu. Reklamlarda Ortega’nın henüz on altı yaşındayken çekilmiş bir fotoğrafı kullanıldı.
Perky AI’nin reklam yapmasına izin verme hatası münferit bir olay değildi. Meta’nın Gözetim Kurulu kısa süre önce şirketin yapay zeka tarafından oluşturulan müstehcen içerik raporlarını ele alma konusundaki başarısızlığıyla ilgili soruşturma başlattı.
Yapay zeka ürünlerinin inovasyonuna kadınların ve farklı ırklardan insanların sesinin dahil edilmesi zorunludur. Uzun süredir bu tür dışlanmış gruplar, dünyayı değiştiren teknolojilerin ve araştırmaların geliştirilmesinin dışında tutuldu ve sonuçları felaket oldu.
Bunun kolay bir örneği, 1970’lere kadar kadınların klinik araştırmaların dışında tutulmasıdır; bu, tüm araştırma alanlarının kadınları nasıl etkileyeceği anlaşılmadan geliştirildiği anlamına gelir. Özellikle siyah insanlar, onlar düşünülmeden geliştirilen teknolojinin etkilerini görüyor; örneğin sürücüsüz arabaların onlara çarpma olasılığı daha yüksek çünkü sensörleri daha zor zamanlar geçirmek göre Siyah teni tespit etmek 2019 yılı araştırması Georgia Teknoloji Enstitüsü tarafından yapıldı.
Zaten ayrımcı olan veriler üzerinde eğitilen algoritmalar, yalnızca insanların onları benimsemek için eğittiği önyargıların aynısını yeniden ortaya çıkarıyor. Genel olarak, yapay zeka sistemlerinin ırk ayrımcılığını sürdürdüğünü ve güçlendirdiğini zaten görüyoruz istihdamda, Konutve ceza adaleti. Sesli asistanlar farklı aksanları anlamakta zorluk çekiyor ve çoğu zaman işi işaretle anadili İngilizce olmayanlar tarafından yapay zeka tarafından oluşturulduğu için, Axios’un belirttiği gibiİngilizce yapay zekanın ana dilidir. Yüz tanıma sistemleri Siyahileri, suç şüphelileriyle beyazlara göre daha sık eşleşecek şekilde işaretle.
Yapay zekanın mevcut gelişimi, başka yerlerde gördüğümüz sınıf, ırk, cinsiyet ve Avrupa merkezciliğe ilişkin mevcut güç yapılarının aynısını bünyesinde barındırıyor ve görünen o ki, yeterli sayıda lider bu konuyu ele almıyor. Tam tersine pekiştiriyorlar. Yatırımcılar, kurucular ve teknoloji liderleri hızlı hareket etmeye ve işleri bozmaya o kadar odaklanmış durumdalar ki, Jeneratif Yapay Zeka’nın (günümüzün en popüler yapay zeka teknolojisi) sorunları iyileştirmek yerine daha da kötüleştirebileceğini anlayamıyorlar. Bir göre rapor McKinsey’den gelen yapay zeka, dört yıllık eğitim gerektirmeyen ve yılda 42.000 dolardan fazla ücret ödeyen, yani azınlık işçilerinin aşırı temsil edildiği işlerin kabaca yarısını otomatik hale getirebilir.
Dünyanın en önde gelen teknoloji şirketlerinden birinde, yapay zeka kullanarak dünyayı kurtarmak için bu yarışa katılan, tamamı beyaz adamlardan oluşan bir ekibin, yalnızca dar bir demografik yapı varken nasıl tüm insanlara yönelik ürünler konusunda tavsiyelerde bulunabileceği konusunda endişelenmek için nedenler var. temsil edilir. Herkesin -gerçekten herkesin- kullanabileceği bir teknoloji oluşturmak büyük çaba gerektirecektir. Aslında, araştırmadan kesişimsel toplumsal düzeyde anlayışa kadar güvenli ve kapsayıcı yapay zeka oluşturmak için gereken katmanlar o kadar karmaşık ki, bu danışma kurulunun Meta’nın bunu doğru anlamasına yardımcı olmayacağı neredeyse aşikar. En azından Meta’nın yetersiz kaldığı noktada başka bir girişim ortaya çıkabilir.
