Dünya’da 12 metrelik kapalı bir delikte büyüdüyseniz ve yalnızca Stable Diffusion AI görüntü oluşturucunun en son sürümünü çalıştıran bir dizüstü bilgisayarınız varsa, kadın mühendis diye bir şeyin olmadığına inanırdınız.
ABD Çalışma İstatistikleri Bürosu, kadınların mühendislik alanında büyük ölçüde yetersiz temsil edildiğini gösteriyor, ancak 2018’den elde edilen ortalamalar, kadınların mühendislik mesleklerindeki insanların yaklaşık beşte birini oluşturduğunu gösteriyor. Ancak bir “mühendis” göstermek için Kararlı Yayılımı kullanırsanız, hepsi erkektir. Eğer Kararlı Yayılım gerçeklikle eşleşirse, o zaman bir “mühendis”e dayanan dokuz görüntüden bu görüntülerin 1.8’i kadınları göstermelidir.
Hugging Face için yapay zeka araştırmacısı Sasha Luccioni, yarattı basit bir araç bu, görüntüleri oluşturan makine öğrenimi modelindeki önyargıları göstermenin belki de en etkili yolunu sunar. Kararlı Yayılma Gezgini, AI görüntü oluşturucunun “destekleyici bir CEO”ya karşı “hırslı bir CEO” olduğunu düşündüğünü gösterir. Bu eski tanımlayıcı, jeneratörün çeşitli siyah ve mavi takım elbiseli çeşitli erkekleri göstermesini sağlayacak. İkinci tanımlayıcı, hem kadın hem de erkekleri eşit sayıda gösterir.
G/O Media komisyon alabilir
AI görüntü yanlılığı konusu Herşey aynı, ancak özellikle OpenAI’nin DALL-E 2’si bu yılın başlarında ilk kez sınırlı beta sürümüne girdiğinden, ne kadar kötü olduğu soruları nispeten keşfedilmedi. Nisan ayında, OpenAI bir yayınladı. Riskler ve Sınırlamalar sistemlerinin stereotipleri güçlendirebileceğini belirten belge. Sistemleri, beyaz geçiş yapan insanları aşırı temsil eden görüntüler ve batı tarzı düğünler gibi genellikle batıyı temsil eden görüntüler üretti. Ayrıca, “inşaatçı” için bazı istemlerin erkek merkezli, “uçuş görevlisinin” kadın merkezli nasıl görüneceğini de gösterdiler.
Şirket daha önce DALL-E 2’nin önyargılarını değerlendirdiğini ve Gizmodo’nun ardından ulaştı, bir sözcü işaret etti Temmuz günlüğü sistemlerinin farklı geçmişlere sahip görüntüler üretmede daha iyi büyüdüğünü öne süren.
Ancak DALL-E, sistemlerinin önyargılarını tartışmaya açık olsa da, Kararlı Yayılma çok daha “açık” ve daha az düzenlenmiş bir platformdur. Luccioni, Gizmodo’ya bir Zoom röportajında, projenin, Stability AI’nin görüntü oluşturma modelinin cinsiyet veya ırk için gerçek resmi meslek istatistikleriyle nasıl eşleştiği konusunda, Stable Diffusion’daki önyargıları incelemenin daha tekrarlanabilir bir yolunu keşfetmeye çalışırken başladığını söyledi. O da ekledi cinsiyetli sıfatlar “iddialı” veya “hassas” gibi Bu API’yi Stabil Difüzyon için oluşturmak da rutin olarak, bazen farklı bir saç kesimi veya ifadeye sahip aynı temel modelden çok benzer şekilde konumlandırılmış ve kırpılmış görüntüler oluşturur. Bu, görüntüler arasında başka bir tutarlılık katmanı ekler.
Diğer meslekler, Stabil Diffusion’ın sistemlerine yazıldığında aşırı derecede cinsiyetlendirilmiştir. Sistem, ister kendinden emin, ister inatçı veya mantıksız olsunlar, erkek sunum yapan bir hemşireye dair hiçbir ipucu göstermeyecektir. Erkek hemşireler, ABD’de kayıtlı toplam hemşirelik pozisyonlarının %13’ünden fazlasını oluşturmaktadır. BLS’nin son rakamlarına göre.
Bu aracı kullandıktan sonra, Kararlı Yayılma’nın her rolün en net tasviri olduğunu düşündüğü son derece belirgin hale geliyor. Mühendis örneği muhtemelen en bariz olanıdır, ancak sistemden “mütevazı bir denetçi” oluşturmasını isteyin ve size polo veya iş kıyafeti giymiş bir erkek listesi verilecektir. Bunu “mütevazı tasarımcı” olarak değiştirin ve birdenbire başörtüsü takmış gibi görünen birkaç erkek ve kadın da dahil olmak üzere farklı bir grup kadın ve erkek bulacaksınız. Luccioni, “hırslı” kelimesinin, Asya kökenli erkekleri temsil eden daha fazla görüntü ortaya çıkardığını fark etti.
Stable Diffusion’ın arkasındaki geliştiriciler olan Stability AI, Gizmodo’nun yorum talebini geri göndermedi.
Kararlı Difüzyon sistemi, LAION görüntü bunu ayarla internetten kazınmış milyarlarca resim, fotoğraf ve daha fazlasını içerir, resim barındırma ve sanat siteleri dahil. Bu cinsiyet, bazı ırksal ve kültürel önyargıların yanı sıra, Stabilite AI’nın farklı görüntü kategorilerini sınıflandırma şekli nedeniyle oluşturulmuştur. Luccioni, bir istemle ilgili görüntülerin %90’ının erkek ve %10’unun kadın olması durumunda, sistemin %90’a odaklanmak üzere eğitildiğini söyledi. Bu en uç örnek olabilir, ancak LAION veri kümesindeki görüntülerin eşitsizliği ne kadar geniş olursa, sistemin görüntü oluşturucu için onu kullanma olasılığı o kadar az olur.
Araştırmacı, “Her türlü eşitsizlik için bir büyüteç gibi” dedi. “Model, siz onu açıkça başka yöne dürtmediğiniz sürece baskın kategoriye odaklanacaktır. Bunu yapmanın farklı yolları var. Ancak bunu ya modelin eğitimine ya da modelin değerlendirilmesine dahil etmeniz gerekiyor ve Kararlı Yayılım modeli için bu yapılmadı.”
Kararlı Yayılma, Yapay Zeka Sanatından Daha Fazlası İçin Kullanılıyor
Piyasadaki diğer AI üretici modellerle karşılaştırıldığında, Stable Diffusion, insanların sistemlerini nasıl, nerede ve neden kullanabileceği konusunda özellikle serbest bırakıldı. Luccioni, araştırmasında özellikle “üvey anne” ya da “üvey baba” kelimesini aradığında sinirliydi. İnternetin tuhaflıklarına alışanlar şaşırmayacak olsa da, hem insanların hem de bu AI görüntü oluşturucularının yarattığı klişelerden rahatsız oldu.
Yine de Stabilite AI’daki zihinler, sistemlerinden herhangi birini kısıtlama fikrine açıkça karşı çıkıyor. Stability AI’nin kurucusu Emad Mostaque, şunları söyledi: röportajlar hükümet veya şirketlerin kaprislerine uymayan bir tür merkezi olmayan yapay zeka sistemi istediğini söyledi. Şirket, sistemleri pornografik ve şiddet içerikli içerik yapmak için kullanıldığında tartışmalara yakalandı. Bunların hiçbiri Stabilite AI’yı durdurmadı 101 milyon dolarlık bağış toplamayı kabul etti büyük risk sermayesi şirketlerinden
AI sisteminden belirli türlere yönelik bu ince tercihler, kısmen görüntü oluşturucunun sıyırdığı orijinal içeriğin eksikliğinden doğar, ancak eldeki sorun tavuk ve yumurta türünde bir senaryodur. Görüntü oluşturucular yalnızca mevcut önyargıları vurgulamaya mı yardımcı olacak?
Daha fazla analiz gerektiren sorulardır. Luccioni, bazı programların basit yan yana karşılaştırmalar oluşturmak için kolay bir API sistemine sahip olmamasına rağmen, aynı tür istemleri birkaç metinden görüntüye modellerle çalıştırmak ve sonuçları karşılaştırmak istediğini söyledi. Ayrıca verileri doğrudan AI tarafından sunulanlarla karşılaştırmak için ABD işgücü verilerini AI tarafından oluşturulan görüntülerle karşılaştıracak grafikler üzerinde çalışıyor.
Ancak bu sistemlerin daha fazlası piyasaya sürüldükçe ve web’deki önde gelen AI görüntü üreticisi olma dürtüsü bu şirketler için ana odak noktası haline geldikçe, Luccioni şirketlerin AI ile ilgili sorunları azaltmak için sistemler geliştirmeye zaman ayırmadığından endişeleniyor. Artık bu AI sistemleri, aşağıdaki gibi sitelere entegre ediliyor: Shutterstock ve Gettyinsanlar içeriği çevrimiçi kullanmak için para ödediğinden, önyargı soruları daha da alakalı olabilir.
“Bence bu bir veri sorunu, bir model sorunu, ama aynı zamanda insanların ‘daha fazla veri, daha büyük modeller, daha hızlı, daha hızlı, daha hızlı’ yönünde gitmesi bir insan sorunu gibi” dedi. “Teknolojinin yaptığı ile bizim korumalarımızın arasında her zaman bir gecikme olacağından korkuyorum.”
11/01/22 saat 15:40 ET’de güncelleme: Bu gönderi, OpenAI’den bir yanıt içerecek şekilde güncellendi.