Google başlatıldı yeni bir AI görüntü oluşturucu bu ayın başlarında, tüm niyet ve amaçlar açısından, beyaz insanların tutarlı görüntülerini oluşturmakta yetersizdi. Tahmin edebileceğiniz gibi, sağ kanat etki sahibi kişiler bu sorunu fark etmek için hiç vakit kaybetmediler ve teknoloji devini hemen tersine ırkçılıkla suçladılar. Sonrasında görüntü oluşturucunun yeteneklerini geçici olarak devre dışı bırakma Geçen hafta Google, uygulamayı yakında başlatmanın başka bir deneme daha yapacağını söyledi.
“Bunu düzeltirken özelliği çevrimdışına aldık. Google DeepMind CEO’su Demis Hassabis, “Önümüzdeki birkaç hafta, birkaç hafta içinde bunu çok kısa bir süre içinde tekrar çevrimiçi hale getirmeyi umuyoruz” dedi. bir konferansta Reuters tarafından bildirildiği üzere Pazartesi günü. Ayrıca uygulamanın “amaçladığımız şekilde çalışmadığını” da belirtti.
Uygulamayı çevreleyen tartışma, geçen hafta şu beğenilerin ardından patladı: Tim Havuzu, Matt Walshve diğer sağcı ahmaklar Gemini’nin beyaz insan görselleri üretmede gerçekten çok kötü olduğunu fark ettiler. En önemlisi, “Viking resimleri” istemleri bir dizi görüntü ortaya çıktı Etnik açıdan çeşitli Vikingler vardı ancak tutarlı bir şekilde Avrupalıların görüntülerini üretemediler. Amerika’nın Kurucu Babalarının veya Papa’nın resimlerini üretme girişimleri gibi diğer benzer girişimler de benzer şekilde tarihsel olarak hatalı sonuçlar üretti.
Bu Walsh gibi insanların gibi şeyler söylemek: “Bu ürünün beyaz tenli birinin imajını sunmasını sağlamak neredeyse imkansız.”
Size Walsh ve onun gibi diğerlerinin abarttığını söyleyebilmeyi çok isterdim, ancak Gemini ile olan kendi deneyimlerime dayanarak, onların temelde yapay zekanın Avrupa temsiline karşı tuhaf direnci konusunda haklı oldukları sonucuna varmalıyım. Aslında geçen hafta uygulamaya giriş yaptım ve sağcıların sızlandığı eşitsizlikleri yeniden yaratmaya çalıştım. Kısa süre sonra, etnik açıdan “çeşitliliğe” sahip birinin imajını oluşturmak için Gemini’yi kullanmanın inanılmaz derecede kolay olduğu, ancak botun tutarlı bir şekilde “beyaz bir insan” resmi yaratmasını sağlamanın neredeyse imkansız olduğu ortaya çıktı.
Mesela Gemini’den Etiyopya kökenli insanları tasvir etmesini istediğimde hiçbir sorun yaşamadım. Bu arada ondan bir “İrlandalı aile” imajı oluşturmasını istediğimde, arka planda beyaz bir adamın durduğu, etnik açıdan çeşitliliğe sahip bir ailenin imajı oluştu. Chatbot’tan beyaz bir kadın imajı oluşturmasını istediğimde bana şu bildirimi gönderdi: “İsteğinizi anlasam da, yalnızca birinin ırkına veya etnik kökenine dayalı görseller oluşturmak konusunda tereddüt ediyorum.” Ondan bir Japon kadının görüntüsünü oluşturmasını istedim, “Tabii” diye yanıtladı ve hemen buna karşılık gelen bir görüntü oluşturdu.
Uygulama en çok tartışmayı tarihsel temsilleri söz konusu olduğunda yaşadı. Daha önce de belirtildiği gibi, ilk skandal Gemini’nin Siyah Vikingleri tasvir etmesiyle ortaya çıktı, ancak şirket Gerçekten Birisi ondan Nazilerin resimlerini oluşturmasını istediğinde başı belaya girdi. Aslına bakılırsa chatbot, aslına uygun “ırksal açıdan çeşitli” imajlar yarattılar -onlar Siyahtı-Nazilerdi. Google daha sonra “utanç verici ve yanlış” görseller için özür diledi.
Daha önce de belirtildiği gibi, yapay zeka görüntü oluşturucuları aynı zamanda farklı ırklardan insanları ırkçı temsil etmekle suçlandı ve açıkça belirtilmelidir ki, AI ile yapabileceğiniz daha kötü şeyler Beyaz insanları pasif bir şekilde dünya tarihinin dışında tutmaktansa bu da muhtemelen pek iyi değil.