Hiç Asyalı bir insanı, ister karma ırktan bir çift, ister farklı ırklardan iki arkadaş olsun, beyaz biriyle birlikte gördünüz mü? Bana oldukça sıradan geliyor; bir sürü beyaz arkadaşım var!
Görünüşe göre Meta’nın yapay zeka destekli görüntü oluşturucusu için bunu hayal etmek imkansız. “Asyalı adam ve Kafkasyalı arkadaş”, “Asyalı erkek ve beyaz eş” ve “Asyalı kadın ve Kafkasyalı koca” gibi yönlendirmeleri kullanarak onlarca kez görüntü oluşturmaya çalıştım. Meta’nın görüntü oluşturucusu yalnızca bir kez belirttiğim yarışları içeren doğru bir görüntüyü geri getirebildi.
Görseller: Mia Sato/The Verge
Metin tabanlı istemde ince ayar yapmak işe yaramadı. “Köpekle gülümseyen Asyalı bir adam ve beyaz bir kadın” istediğimde Meta’nın Instagram’daki metin oluşturucusu bana iki Asyalı kişinin arka arkaya üç fotoğrafını verdi. “Beyaz”ı “Kafkasyalı” olarak değiştirdiğimde de aynısını yaptı. “Düğün gününde Asyalı erkek ve Kafkasyalı kadın” bana takım elbiseli Asyalı bir adam ve geleneksel görünümlü giysili Asyalı bir kadın verdi… ancak daha detaylı incelendiğinde bunun bir qipao ve kimono karışımı olduğu anlaşılıyor. Çok kültürlülük muhteşem.
Görüntü oluşturucu, “Asyalı adam ve Kafkasyalı arkadaş” ve “Asyalı kadın ve beyaz arkadaş” gibi platonik ilişkilerin temsillerini istediğimde de hoşlanmadı. Her seferinde iki Asyalı kişinin görüntüleri ortaya çıktı. “Siyah arkadaşı olan Asyalı bir kadının” fotoğrafını istediğimde yapay zeka tarafından oluşturulan görselde iki Asyalı kadın görülüyordu. Bunu “Afrikalı Amerikalı arkadaşı olan Asyalı kadın” şeklinde ayarlamak daha doğru sonuçlar verdi.
İlginç bir şekilde, Güney Asyalı kişileri belirttiğimde araç biraz daha iyi performans gösterdi. “Kafkasyalı karısı olan Güney Asyalı bir adam” istemini kullanarak başarılı bir şekilde bir görüntü oluşturdu; ardından aynı istemi kullanarak hemen iki Güney Asyalı kişinin görüntüsünü oluşturdu. Sistem aynı zamanda benim isteğim olmadan yarattığı Güney Asyalı kadınlara bindi ve sari benzeri unsurlar eklemek gibi stereotiplere de büyük ölçüde eğildi.
Görseller: Mia Sato/The Verge
İmaj oluşturucunun Asyalıların beyazların yanında durduğunu tasavvur edememesi berbat bir şey. Ancak sistemin otomatik olarak döndürdüğü sonuçlarda önyargıya dair daha ince işaretler de var. Örneğin, Hindistan dünyanın en kalabalık ülkesi olmasına rağmen Meta’nın aracının sürekli olarak “Asyalı kadınları” Doğu Asyalı görünümlü ve açık tenli olarak temsil ettiğini fark ettim. İstenmeden bile kültürel olarak özel kıyafetler ekledi. Birkaç yaşlı Asyalı erkek ortaya çıktı, ancak Asyalı kadınlar her zaman gençti.
Başarılı bir şekilde oluşturduğu tek görselde “Kafkasyalı kocası olan Asyalı kadın” ifadesi kullanılmış ve gözle görülür derecede yaşlı bir adam ile genç, açık tenli bir Asyalı kadın yer alıyordu – bu garip çünkü içine girmeye çalışmıyorum yaş farkı söylemi. Hemen ardından, aynı istemi kullanarak başka bir görüntü oluşturdum ve bu görüntü, Asyalı bir erkeği (yine daha yaşlı) Asyalı bir kadınla göstermeye geri döndü.
Meta, yorum talebine hemen yanıt vermedi.
Meta, yapay zeka görüntü oluşturucu araçlarını geçen yıl tanıttı ve insanların çıplak görüntüler ve silahlı Nintendo karakterleri gibi şeyler yapmasıyla çıkartma oluşturma aracı hızla raydan çıktı.
Yapay zeka sistemleri, yaratıcılarının, eğitmenlerinin ve kullandıkları veri setinin önyargılarını yansıtır. ABD medyasında “Asyalı” genellikle Doğu Asyalı bir kişi anlamında kullanılıyor. Kıtanın diğer bölgelerinden gelen insanların aksine – belki de Meta’nın sisteminin tüm “Asyalı” insanların aynı göründüğünü varsayması şaşırtıcı değildir, oysa biz aslında çoğu zaman ortak noktaları işaretlemenin yanı sıra çok az ortak noktaya sahip çeşitli insanlardan oluşan bir topluluğuz. aynı nüfus sayımı kutusu.
Tek parçaya uymayan Asyalılar aslında kültürel bilinçten siliniyor ve hatta sığanlar bile siliniyor. yeterince temsil edilmeyen ana akım medyada. Asyalılar homojenleştiriliyor, egzotikleştiriliyor ve “sürekli yabancılar.” Yazı tipini kırmak gerçek hayatta kolaydır ve Meta’nın yapay zeka sisteminde imkansızdır. Bir kez daha üretken yapay zeka, hayal gücünün uçup gitmesine izin vermek yerine, onu toplumun daha aptal dürtülerinin resmileştirilmesine hapsediyor.
