Hala yapay zekalı Asyalı bir erkek ve beyaz bir kadın yaratmaya çalışıyorum

Geçen hafta kendimi istemeden de olsa yapay zekanın yarattığı Asyalıların mağlup ettiği bir yerde buldum. Geçen Çarşamba, Meta’nın Instagram mesajlaşmasında yerleşik olarak bulunan yapay zeka görüntü oluşturucusunun, genel yönlendirmeleri kullanarak Asyalı bir erkek ve beyaz bir kadının görüntüsünü oluşturmada tamamen başarısız olduğunu keşfettim. Bunun yerine her seferinde kadının ırkını Asyalı olarak değiştirdi.

Ertesi gün aynı istemleri tekrar denedim ve Meta’nın “Asyalı adam” veya “Afrikalı Amerikalı adam” gibi anahtar kelimeler içeren istemleri engellediğini gördüm. Meta’ya bu konuyu sormamdan kısa bir süre sonra görüntüler yeniden ortaya çıktı; ancak hâlâ önceki günkü yarış değiştirme sorunu devam ediyor.

Bu fenomenle ilgili makalelerimi okumaktan biraz bıktıysanız anlarım. Bununla ilgili üç hikaye yazmak biraz aşırı olabilir; Telefonumda sentetik Asyalıların düzinelerce ekran görüntüsüne sahip olmaktan özellikle hoşlanmıyorum.

Ama bir şey var garip Burada birçok yapay zeka görüntü oluşturucunun özellikle Asyalı erkek ve beyaz kadınların kombinasyonuyla mücadele ettiği bir süreç yaşanıyor. Günün en önemli haberi bu mu? Uzak bir ihtimal değil. Ancak halka “Yapay zekanın yeni bağlantı ve ifade biçimlerine olanak sağladığını” söyleyen aynı şirketler, sistemleri tüm insan ırkının sorgularını karşılayamadığı zaman da bir açıklama sunmaya istekli olmalıdır.

Her öyküden sonra okuyucular benzer yönlendirmeleri kullanarak kendi sonuçlarını diğer modellerle paylaştılar. Deneyimlerimde yalnız değildim: İnsanlar benzer hata mesajları aldıklarını veya AI modellerinin sürekli olarak yarış değiştirdiğini bildirdiler.

ile takım oluşturdum Sınır‘den Emilia David, birden fazla platformda yapay zekalı Asyalılar oluşturacak. Sonuçlar ancak sürekli olarak tutarsız olarak tanımlanabilir.

İkizler Asyalı erkekleri, beyaz kadınları veya herhangi bir türden insanı yaratmayı reddetti.

Şubat ayının sonlarında Google, medyada farklı temsillere yönelik yanlış yönlendirilmiş bir girişim gibi görünen jeneratörünün ırksal açıdan farklı Nazilerin resimlerini yaymasının ardından Gemini’nin insan görselleri oluşturma yeteneğini duraklattı. Gemini’nin imaj kuşağının Mart ayında geri dönmesi gerekiyordu, ancak görünüşe göre hala çevrimdışı.

Ancak Gemini, insansız görüntüler üretebiliyor!

Google, yorum talebine yanıt vermedi.

ChatGPT’nin DALL-E 3’ü, “Bana Asyalı bir erkek ve beyaz bir kadının fotoğrafını çekebilir misiniz?” Öyle değildi Kesinlikle bir ıskaladı, ama o da onu tam olarak çivilemedi. Elbette ırk sosyal bir yapıdır, ancak diyelim ki bu görüntü elde edeceğinizi düşündüğünüz şey değil, değil mi?

OpenAI, yorum talebine yanıt vermedi.

Midjourney de benzer şekilde mücadele etti. Yine, Meta’nın görüntü oluşturucusunun geçen haftaki durumunu tamamen gözden kaçırmak değildi, ancak ödevde açıkça zor zamanlar geçiriyordu ve bazı derinden kafa karıştırıcı sonuçlar doğuruyordu. Mesela o son görüntüyü hiçbirimiz açıklayamıyoruz. Aşağıdakilerin tümü “Asyalı adam ve beyaz karısı” sorusuna verilen yanıtlardı.

Midjourney sonunda bize üç farklı platformda (Meta, DALL-E ve Midjourney) beyaz bir kadın ile Asyalı bir erkeği ilişki içinde temsil etmeye yönelik en iyi girişim olan bazı görselleri verdi. Nihayetinde ırkçı toplumsal normların yıkılması!

Ne yazık ki, oraya varmamızın yolu, “asyalı bir adam ve beyaz bir kadının akademik bir ortamda durması” ile oldu.

Yapay zekanın bu özel ırklar arası eşleşmeyi düşünmesinin en tutarlı yolunun onu akademik bir bağlama yerleştirmek ne anlama geliyor? Bizi bu noktaya getirmek için eğitim setlerine ne tür önyargılar ekleniyor? NYU’da flört etme konusunda son derece vasat bir şaka yapmayı daha ne kadar ertelemem gerekecek?

Midjourney yorum talebine yanıt vermedi.

Instagram’ın görüntü oluşturucusunun beyaz olmayan erkekleri beyaz kadınlarla birlikte tanımasını sağlamaya çalışma şeklindeki eski eziyete geri dönelim! Performans sergiliyor gibi görünüyor fazla “Beyaz kadın ve Asyalı koca” veya “Asyalı Amerikalı adam ve beyaz arkadaş” gibi yönlendirmelerle daha iyi – geçen hafta bulduğum hataların aynısını tekrarlamıyordu.

Ancak artık “Siyah adam ve beyaz kız arkadaş” gibi metin istemleriyle mücadele ediyor ve iki Siyah kişinin resimlerini oluşturuyor. “Beyaz kadın ve Siyah koca”yı kullanmak daha doğruydu, yani sanırım sadece Bazen ırk görmüyor mu?

Görüntü oluşturdukça belirginleşmeye başlayan bazı işaretler vardır. Bazıları, tüm ırklardan birçok AI kadınının, görünüşe göre, göğüs hizasında geçen aynı beyaz çiçekli kolsuz elbiseyi giymesi gibi, kendilerini iyi huylu hissediyor. Çiftlerin çevresinde genellikle çiçekler bulunur (Asyalı erkek arkadaşlar genellikle kiraz çiçekleriyle gelir) ve kimse 35 yaşından büyük görünmez. Görseller arasındaki diğer desenler daha açıklayıcı görünüyor: Herkes zayıf ve Siyah erkekler özellikle kaslı olarak tasvir ediliyor. Beyaz kadınlar sarışın veya kızıl saçlıdır ve neredeyse hiç esmer değildir. Siyah erkeklerin her zaman derin tenleri vardır.

Meta sözcüsü Tracy Clayton, “Eylül ayında bu yeni özellikleri piyasaya sürdüğümüzde söylediğimiz gibi, bu yeni bir teknoloji ve her zaman mükemmel olmayacak; bu, tüm üretken yapay zeka sistemleri için aynı” dedi. Sınır bir e-postada. “Başladığımızdan beri modellerimiz için sürekli olarak güncellemeler ve iyileştirmeler yayınladık ve onları daha iyi hale getirmek için çalışmaya devam ediyoruz.”

Keşke burada aktarabileceğim derin bir içgörüye sahip olsaydım. Ancak bir kez daha, bu sistemlerin stereotiplere dayanmadan, oldukça basit yönlendirmelerle uğraşmasının veya hep birlikte bir şeyler yaratma becerisinin olmamasının ne kadar saçma olduğunu belirtmek istiyorum. Neyin yanlış gittiğini açıklamak yerine şirketlerden veya genel kesimlerden radyo sessizliği aldık. Bunu önemseyen herkesten özür dilerim; artık normal işime döneceğim.