Bu haftaki Oyun Geliştiricileri Konferansı’nda Ubisoft, oyuncular için yapay zekayla dolu bir geleceğe olası bir bakış sundu. Şirket bir prototip gösterdi Gösteride, oyuncuların bir mikrofona konuşarak etkileşime girebileceği, tamamen sesli “akıllı NPC’ler” üretmek için Nvidia’nın Ace mikro hizmeti kullanıldı. İnternette şüphe uyandırmasına rağmen (ben de dahil), demo, uygulamalı olarak çalıştığımızda bizi etkiledi. Çevreye duyarlı bir NPC ile eko-terörizmin etiği hakkında şaşırtıcı derecede ikna edici bir konuşma yaptım; yapay zeka sayesinde tamamen senaryo dışı bir konuşma mümkün oldu.
Bu, teknolojinin şimdiye kadar gördüğümüz en güçlü kullanım örneklerinden biri, ancak Ubisoft’un bile çözmeye çalıştığı şaşırtıcı bir kusuru var: dilsel önyargı.
Yapay zekanın gizli önyargısı
Kısa demoda, bir direniş grubunun mega şirkete karşı verdiği mücadeleye dahil olan, uzay yolculuğu yapan bir karakter rolünü üstlendim. Üç bölümlük demo, iki farklı karakterle sohbet etmemi sağladı; her ikisi de Ubisoft için uzun hikayeler yarattı ve Nvidia’nın Ace aracına beslendi. Yaratıcı düşünceyle mükemmel bir soygun planlamadan önce bir NPC ile sohbet ederek, ona yoldaşları hakkında sorular sorarak bilim kurgu dünyasını öğrendim.
Demomu bitirdikten sonra, projede yer alan iki Ubisoft çalışanına, araçta onları hayal kırıklığına uğratan herhangi bir eksiklik olup olmadığını sordum. Genel olarak teknoloji konusunda üst düzey olmalarına rağmen, derin iç çekişlerden, stüdyo teknolojiyi tam olarak benimsemeden önce hala çözmeleri gereken bir karışıklık listesi olduğu açıktı. Bir numaralı yakınmaları, İngilizce dilinde mevcut olan doğal önyargıdır; bu, yapay zekanın şu anda varsayılan olarak devraldığı bir insan sorunudur.
Demoistler, oyunum sırasında bana kayıt bile olmayan iki spesifik örneğe işaret ettiler. Bir noktada, bir NPC’den bana takımlarının en az favori üyesini anlatmasını istedim. Bana tüm ekip üyelerini sevdiklerini söyledikten sonra, Iron isimli karakteri huysuz olduğu gerekçesiyle otobüsün altına attılar. Tek bir sorun vardı: Iron’ın erkek olmaması gerekiyordu.
Demoistlere göre yapay zeka aracı “demir” kelimesini erkeklikle ilişkilendiriyor gibi görünüyor. Böylece karakter olan Demir’in erkek olduğu varsayılmaktadır. NPC, tatlı, anaç bir kadın olarak konuşulan Bloom adlı bir karakterden bahsettiğinde de benzer bir sorun ortaya çıkıyor. Bu, Demir sorununun tersine gerçekleşmesidir; Görünüşe göre “Bloom”, makine tarafından kadınsı bir terim olarak yorumlanıyor ve erkek karaktere annelik stereotipi aşılanıyor. Bu örnekler küçük ama kontrol edilmediği takdirde daha büyük sorunlara kapı açıyor. Örneğin, üretken yapay zeka diyaloğu ırkla nasıl başa çıkacak?
Bu genel olarak Nvidia’nın aracına veya yapay zekaya özgü bir sorun değil; dilin büyüleyici bir nüansını yansıtıyor. Burada kullanılana benzer büyük dil modelleri (LLM’ler), insanların eğitildikleri veri yığınına dayalı olarak konuşma şeklini yansıtır. Bu, zaman zaman cinsiyete dayalı stereotiplerin dışına çıkmak gibi bazı kötü alışkanlıkların edinilmesinin kaçınılmaz olduğu anlamına gelir. Ubisoft’un NPC’lerinin yazarlar tarafından elle hazırlanmış uzun geçmiş hikayeleri olsa da, hâlâ daha genel dil öğrenme veri kümelerinden öğreniyorlar. Bu yıl CES’te Nvidia’nın Kairos demosunun güçlendirilmesine yardımcı olan Convai gibi yapay zeka şirketleri, bu veri kümelerinin eğitildiği içeriği tam olarak bilmediklerini itiraf ediyor.
Bu konu, farklı diller için ne anlama geldiği düşünüldüğünde daha da karmaşık hale geliyor. Konuştuğum geliştiriciler, üretken yapay zekanın şu anda İngilizce merkezli olduğuna dikkat çekti. Ancak diğer diller tamamen farklı olabilir ve bu da Ace gibi araçları benimsemek isteyenler için ek bir zorluk oluşturur. İngilizce konuşanlar için standart olan, başka biri için anlamlı olmayabilir. Gerçekten yalnızca bir dili bilen bir makineyi nasıl yerelleştirirsiniz?
Ubisoft ve Nvidia bu eksiklikleri gizlemeye çalışmıyor. Demo sırasında konuştuğum işçiler, sorunlu noktaları belirlemeye ve AI karakterlerinin yazdığı yazıları düzeltmeye yardımcı olabilecek dahili DEI ekipleriyle işbirliği yapmanın önemini vurguladılar. Bir AI NPC ile heyecan verici bir felsefi tartışma yürütmekten ne kadar etkilenmiş olsam da, bu makinelerin, onlara kazara aşıladığımız içgüdüleri düzeltmek için hala çok fazla insan yardımına ihtiyaç duyduğu açık.