Google’ın yapay zeka sohbet robotu Gemini kendine özgü bir sorunu var. Beyaz insanların fotoğraflarını çekmekte zorlanıyor, çoğu zaman beyazları çeviriyor. Vikingler, kurucu babalarVe Kanadalı hokey oyuncuları renkli insanlara. Bu, beyaz insanlara karşı ırkçılık iddiasıyla uyanma karşıtı toplulukta öfkeye yol açtı. Bugün Google, Gemini’nin hatasını kabul etti.
Google Communications, “Bu tür tasvirleri derhal iyileştirmek için çalışıyoruz” dedi. ifade. “Gemini’nin yapay zeka görüntü üretimi geniş bir insan yelpazesi yaratıyor. Ve bu genellikle iyi bir şey çünkü dünyanın her yerindeki insanlar bunu kullanıyor. Ama burada işaret eksik.”
Kullanıcılar, Gemini’nin bazen özellikle beyaz insanların resimlerini oluşturması istendiğinde istekleri reddettiğini belirtti. Ancak Siyahi kişilerin görselleri için talepte bulunulduğunda Gemini’nin herhangi bir sorunu olmadı. Bu, X gibi sosyal medya platformlarındaki uyanma karşıtı topluluğun derhal harekete geçilmesi çağrısında bulunmasına neden oldu.
Hafifçe söylemek gerekirse, Google’ın hatayı kabul etmesi, AI görüntü oluşturucularının farklı ırklardan insanları tasvir etmede berbat bir iş çıkardığı göz önüne alındığında şaşırtıcıdır. The Washington Post tarafından yapılan bir araştırma, AI görüntü oluşturucu Stable Diffusion’ın, Yemek pulu alıcılarını neredeyse her zaman Siyah olarak tanımlıyorduAlıcıların %63’ü beyaz olmasına rağmen. Midjourney bir araştırmacının eleştirisine maruz kaldı. defalarca oluşturulamadı NPR’ye göre “beyaz çocukları tedavi eden Siyah Afrikalı bir doktor”.
Yapay zeka görüntü oluşturucuları Siyah insanlara saygısızlık ettiğinde bu öfke neredeydi? Gizmodo, Gemini’nin beyaz insanlara yönelik zararlı stereotipleri tasvir eden hiçbir örneğini bulamadı, ancak yapay zeka görüntü oluşturucu zaman zaman bunları oluşturmayı reddetti. Belirli bir ırkın görüntülerini oluşturamamak kesinlikle bir sorun olsa da, bu durum yapay zeka topluluğunun Siyahlara karşı doğrudan saldırılarını gölgede bırakmıyor.
OpenAI, Dall-E’nin eğitim verilerinde yapay zeka görüntü oluşturucusunun “eğitim verilerinden çeşitli önyargıları devralırve çıktıları bazen toplumsal stereotipleri güçlendiriyor. OpenAI ve Google bu önyargılarla savaşmaya çalışıyor ancak Elon Musk’un yapay zeka sohbet robotu Grok bunları benimsemeye çalışıyor.
Musk’un “uyanma karşıtı sohbet robotu” Grok politik doğruluk açısından filtrelenmemiştir. Bunun gerçekçi, dürüst bir yapay zeka sohbet robotu olduğunu iddia ediyor. Bu doğru olsa da yapay zeka araçları önyargıları henüz tam olarak anlamadığımız şekillerde güçlendirebilir. Google’ın beyaz insanları yaratma konusundaki hatası muhtemelen bu güvenlik filtrelerinin bir sonucu gibi görünüyor.
Teknoloji tarihsel olarak çok beyaz bir endüstridir. Teknolojideki çeşitlilik konusunda iyi modern veriler yok, ancak 2014’te teknoloji yöneticilerinin %83’ü beyazdı. Massachusetts Üniversitesi’nden yapılan bir araştırma şunu ortaya çıkardı: teknolojinin çeşitliliği gelişiyor olabilir ancak muhtemelen diğer sektörlerin gerisinde kalıyor. Bu nedenlerden dolayı, modern teknolojinin neden beyaz insanların önyargılarını paylaşacağı mantıklı geliyor.
Bunun son derece önemli bir şekilde ortaya çıktığı durumlardan biri polis tarafından kullanılan yüz tanıma teknolojisidir (FRT). FRT defalarca Siyah yüzleri ayırt edemedim ve beyaz yüzlerde çok daha yüksek doğruluk gösterir. Bu varsayımsal değildir ve söz konusu olan yalnızca incinmiş duygular değildir. Teknoloji, bir kişinin haksız yere tutuklanmasına ve hapse atılmasına neden oldu Baltimore’daki siyah adamA Detroit’teki siyah anneve diğer birkaç masum siyahi insan.
Teknoloji her zaman onu inşa edenlere yansımıştır ve bu sorunlar günümüzde de devam etmektedir. Bu hafta Wired, “ifade özgürlüğü” sağlayan sosyal medya ağı Gab’in yapay zeka sohbet robotlarının soykırımını inkar etmeleri talimatı verildi. Aracın aşırı sağcı bir platform tarafından tasarlandığı bildiriliyor ve yapay zeka sohbet robotu uyumlu görünüyor.
Yapay zekayla ilgili daha büyük bir sorun var: Bu araçlar, insanlar olarak önyargılarımızı yansıtıyor ve güçlendiriyor. Yapay zeka araçları ırkçılık, cinsiyetçilik ve önyargılarla dolu internet üzerinde eğitiliyor. Bu araçlar doğası gereği toplumumuzun yaptığı hataların aynısını yapacaktır ve bu konulara daha fazla dikkat çekilmesi gerekmektedir.
Google, Gemini’nin görsellerinde siyahi insanların yaygınlığını artırmış gibi görünüyor. Bu bir düzeltmeyi hak etse de, bu durum teknoloji endüstrisinin bugün karşı karşıya olduğu daha büyük sorunları gölgede bırakmamalı. Yapay zeka modellerini geliştirenler büyük ölçüde beyaz insanlardır ve onlar hiçbir şekilde kökleşmiş teknolojik önyargıların birincil kurbanları değildir.