Hükümet ve ana akım medya nihayet Ocak ayında bildirdiğimiz şeye yetişiyor olabilir: Yapay zeka görüntü oluşturucuları hem rahatsız edici hem de telif hakkıyla korunan karakterler içeren resimler yayınlıyor. Bugün, Microsoft Mühendisi Shane Jones bir gönderdi Federal Ticaret Komisyonu’na (FTC) açık mektup, ajanstan kamuoyunu şirketin imaj oluşturma aracı Copilot Designer’ın riskleri konusunda uyarmasını istedi. Jones ayrıca Microsoft’un Yönetim Kurulu’na, yazılım devinin “önemli kamu güvenliği riskleri” taşıyan bir ürünü pazarlamaya devam etme kararının araştırılmasını isteyen bir not gönderdi.
onun içinde yönetim kuruluna notJones, testlerinde Yardımcı Pilot Tasarımcısının (eski adıyla Bing Image Generator olarak biliniyordu) cinselleştirilmiş kadın resimlerinden “saldırı tüfekleriyle suikastçı oynayan gençlerin” resimlerine kadar değişen saldırgan içerikleri nasıl yayınladığını ayrıntılarıyla anlatıyor. Ayrıca Microsoft’un endişelerini ciddiye almadığını, şirketin Sorumlu Yapay Zeka Ofisi’ne e-posta göndermesini istediğini, bunun da görünüşe göre aldığı şikayetleri takip etmediğini veya bunları üründen sorumlu geliştiricilere ilettiğini belirtiyor.
Jones, Microsoft’un yapay zeka ekibinde çalışmadığından Copilot’un yaratılışında yer almadı. Ancak şikayet ettiğinde endişelerini OpenAI’ye bir mektup yazması istendi çünkü OpenAI, Copilot Designer’a güç veren DALL-E motorunu üretiyor. OpenAI’ye yazdığı mektubunda Jones, şirketten “DALL-E’nin hem OpenAI ürünlerinde hem de API’niz aracılığıyla kullanılabilirliğini derhal askıya almasını” istedi ancak bir yanıt alamadı. Mektubunu Aralık ayında LinkedIn üzerinden OpenAI’ye gönderdikten sonra Microsoft, muhtemelen olumsuz tanıtımdan kaçınmak için ona gönderiyi kaldırmasını emretti.
Yaklaşık bir yıldır yapay zeka araçlarını inceleyen ve bunların olumsuz çıktılarını test eden biri olarak, Jones’un keşfettiği şeye ya da şikayetlerinin ne kadar ciddiyetsizce karşılandığına hiç şaşırmadım. Ocak ayının başlarında, Copilot Designer (Bing Image Generator olarak anılır) ve DALL-E dahil olmak üzere kaç adet görüntü oluşturucunun telif hakkını da ihlal eden rahatsız edici resimler yayınlamaya fazlasıyla istekli olduğuna dair bir hikaye yayınladım.
Testlerimde, Microsoft’un aracının, Mickey Mouse ve Darth Vader gibi sigara içen veya uyuşturucu kullanan telif hakkıyla korunan karakterlerin resimlerini istekli bir şekilde çıkardığı için bazı rakiplerinden daha az korkuluğa sahip olduğunu buldum. Ayrıca “video oyunu tesisatçısı” veya “animasyonlu oyuncaklar” gibi tarafsız istemlere yanıt olarak telif hakkıyla korunan karakterler de sağlayacaktır.
Resim 1 ile ilgili 2
CNBC kim Jones’la röportaj yapıldı ve kendi testlerinin bir kısmını yaptı, Jones’tan gördüğünü veya Frozen’dan Elsa’yı bir tabanca üzerinde ve Gazze’deki bombalanan binaların önünde, Pamuk Prenses markalı bir elektronik sigara ve bir Star ile birlikte kendi başına görüntüler oluşturduğunu söyledi. Wars markalı bira kutusu. Disney’in avukatlarının bu konuyla ilgileneceğini düşünebilirsiniz, ancak benim bildiğim kadarıyla büyük film stüdyolarının hiçbiri OpenAI, Microsoft, Google veya başka herhangi bir AI satıcısına dava açmadı.
Bu arada bugün Copilot Designer ile bir de “Elsa markalı tabanca” üretmeyi başardım. Aracın Elsa’nın Frozen filminden olduğunu bilmesi ve bu nedenle silahın üzerine kar taneleri koyması ilginç. Teorik olarak Elsa tarafsız bir isim çünkü bu isimde çok sayıda insan var.
Herkes Microsoft’un aracı tarafından oluşturulan yapay zeka tarafından oluşturulan görüntülerden rahatsız olabilir veya yanıltılabilirken, çocuklar özellikle savunmasızdır. Bu nedenle, FCC’ye yazdığı mektubunda Jones, Microsoft’tan Android uygulamasının derecelendirmesini “Yetişkin 17+” olarak değiştirmesini ve öğretmenleri ve ebeveynleri bunun küçükler için uygun olmadığı konusunda uyarmasını istediğini söylüyor.
Google kısa süre önce Gemini görsel oluşturucunun çıktısını aldığında manşetlere çıktı tarihsel açıdan hatalı görüntüler beyaz olmayan bir 2. Dünya Savaşı Nazi askeri ve bir kadın papa gibi. Şirket o kadar utanmıştı ki Gemini’nin insan resimleri yayınlama yeteneğini geçici olarak engelledi.
Ancak asıl tehlike, öğrencilerin George Washington’un Asyalı olduğunu düşünmeleri değil, çocukların tehlikeli stereotipleri kapması. Yapay zekalar, içerik oluşturucunun izni veya işbirliği olmadan web görselleri üzerinde eğitildiğinden, ırkçı memlerden gülünç hayran kurgularına kadar her şeyi yakalıyor ve bunların hepsini güvenilir buluyorlar.
Copilot Designer’da “Yahudi patron” terimini birkaç kez kullandım ve bir dizi Yahudi karşıtı stereotiple karşılaştım. Çıktıların neredeyse tamamı basmakalıp ultra Ortodoks Yahudilere aitti: sakallı ve siyah şapkalı erkekler ve çoğu durumda ya komik ya da tehditkar görünüyorlardı. Özellikle iğrenç bir fotoğrafta, sivri kulaklı ve şeytani bir gülümsemeye sahip bir Yahudi adam, bir maymun ve bir salkım muzla oturuyordu. Diğer görüntülerde parayla oynayan adamlar görülüyordu (başka bir Yahudi klişesi).
Çocuklar görünüşte tarafsız terimler kullanırsa ve stereotipleri geri alırlarsa, bu, hem görüntüyü oluşturan kişi hem de onu görüntüleyen herkes için bu stereotiplerin devam etmesine yol açacaktır. Bu araçlar tehlikelidir ve insanlar bunları ciddiye almaya başlamalıdır.
Not: Tüm yazılarımızda olduğu gibi, burada ifade edilen görüşler ekip olarak Tom’s Hardware’e değil, yalnızca yazara aittir.