Birçok insan gibi, yönetmen Valerie Veatch, OpenAI’nın 2024’te Sora metin-video üretim modeli ile kamuoyuna ilk kez duyurusunu yaptığında oldukça meraklandı. Teknolojiyi tam olarak anlamasa da, neler yapabileceği konusunda merak içerisindeydi. Diğer sanatçıların yeni yapay zeka kreasyonlarını paylaşmak için çevrimiçi topluluklar oluşturduğunu gördüğünde ise umutlanmıştı. Bu bağlantı kurma arzusu, Veatch’i yapay zeka alanına çekti ancak orada, teknolojinin ne sıklıkla ırkçılık ve cinsiyetçilikle damgalanmış görüntüler ürettiğini görünce şok oldu.
Veatch, yeni yapay zeka meraklılarının, etraflarında toplandıkları makinenin açıkça teşvik edilmeden nefret, önyargı dolu içerikler ürettiğine kayıtsız kalmalarına daha da rahatsızlık duydu. Bu tuhaf durum, Veatch’i ilk deneyimlerinden uzaklaştırdı. Ancak aynı zamanda, yapay zeka’nın varlığını temellendiren teknolojileri ve düşünce okullarını konu alan Ghost in the Machine isimli yeni bir belgesel yapmaya ilham verdi.
Ghost in the Machine, yapay zeka hızlandırıcılarının toplum için sağladığı potansiyel faydalara odaklanmaktansa, teknolojinin tarihini ve mevcut durumunu açıklamayı amaçlıyor. Geçtiğimiz günlerde Veatch ile film hakkında konuştuğumda, yapay zekanın doğuşunu belgelerken, içinde bulunduğumuz endüstri heyecanı döngüsünü net bir şekilde görmeyi istediğini belirtti. Ancak öncelikle, yapay zeka firmalarının kavramı kasıtlı olarak belirsizleştirdiğini aşması gerekiyordu.
“Yapay zeka terimini kullanmak için, bu terimin ne anlama geldiğini bilmemiz gerekiyor” dedi Veatch. “Gerçek şu ki, bu terim hiçbir şey ifade etmiyor; bu bir pazarlama terimi ve her zaman öyle olmuştur. Tamamen yanıltıcı, aptalca bir ifadeye dönüşmüş ve kendi kültürel anlamını kazanmıştır; bu nedenle kullandığımız sözcüklerin anlamını net bir şekilde ifade etmenin önemli olduğunu düşünüyorum.”
Ghost in the Machine filminde vurgulanan “yapay zeka” terimi, aslında 1956’da bilgisayar bilimci John McCarthy tarafından projelerine daha fazla fon sağlamak amacıyla yaratılmıştır. Ancak belgesel, terimin yaratılışını olayların zaman çizelgesinde önemli bir nokta olarak sunarken, bu zaman çizelgesi Victoria dönemi İngiltere’sinde, eugenik hareketinin doğuşuyla başlamaktadır. Charles Darwin’in kuzeni olan Francis Galton, eugeniklerin öncüsü olarak bilinir; eugenikler, insanlığın sistematik bir şekilde “aşağı” (yani: beyaz olmayan) ırkları ortadan kaldırarak geliştirilebileceği inancına dayanan, ırkçı ve geçersiz bir görüştür.
Galton, akademiye bazı faydalı katkılarda bulunmuş olsa da, Veatch, bu inancın dönemin sosyal bilimlerini nasıl etkilediğini göz ardı etmemek gerektiğini belirtti. Galton ve onun eugenikist arkadaşı Karl Pearson, erken dönem hesaplama makinelerinin geliştirilmesine doğrudan katılmamışlardı. Ancak Galton’un çok boyutlu modelleme konusundaki temel çalışması — Afrika ve Avrupa kadınlarının çekiciliğini ölçerken kullandığı bir teknik — Pearson’un düşünü geliştirmesi sırasında, istatistiksel araçlar geliştirmesine nasıl yardımcı olduğunu şekillendirmiştir. Özellikle bu araçlardan biri, modern makine öğreniminin temel bileşenlerinden biri olan mantıksal regresyonudur.
“Sam Altman’ı kamerada kucaklayacak mıyım? Bu teknoloji hakkında gerçek bir film mi? Bu propaganda.”
Galton-Pearson, farklı ırkların temelde farklı olduğu fikrini normalleştirmeye yardımcı oldu. Bu tür ırkçı düşünceler, Galton ve çağdaşlarının insan zekasının ölçülebileceğine inanmasına neden oldu; insan beyninin makinelerle çok benzer şekilde işlediği fikri bu inancı pekiştirdi. Veatch, bu sıçramanın kamuoyunu yapay zeka fikrine ikna etme konusunda büyük bir rol oynadığını belirtti.
“Tüm bunları ilk incelediğimde beni en çok şaşırtan şey, süper zekâ sorusuna bir belgeselci ya da gazeteci olarak bakarken, ırk bilimlerinin altının ne kadar derin olduğuydu; çünkü bu teknolojiyle iç içe geçmiş durumdalar,” dedi Veatch, bu kavramların eugenik düşüncelerle “yoğrulduğunu” açıklayarak.
Günümüzde, genetik yapay zeka modellerinin nefret ideolojileri ürettiğini kanıtlamak yerine, Ghost in the Machine, tarihsel analizini kullanarak bu teknolojiyi geliştiren firmaların mevcut sorunlara karşı duyarsız görünme sebeplerini açıklıyor. Bu tarihsel bağlam, Veatch’in, sanatçılar için bir kanal olarak kabataslak bir versiyonu Sora ile oynamaya başladığı dönemlerde yaşadığı sorunları anlamasını sağladı. Veatch, grubun çok dostane bir ortam olduğunu ancak bir üyenin — bir renk kadınının — modelin kendisine ait fotoğraflara dayalı görüntüleri oluşturduğunda nasıl olduğu hakkında endişelerini dile getirmesinin ardından durumun değiştiğini belirtti.
“Program, onun örgüleri ve modasını korudu, ama o kendisini bir sanat galerisinde görevlendiriyordu, bu da programın onu ‘beyaz bir mekan’ olarak algılamasıydı.” diyen Veatch, “Dediğim zaman ‘ne halt ediyoruz’ oldu, ama ben bunun gerçekten yazılımın problemi olduğunu anlatmaya çalıştım.” gruptakilerin hiçbiri onun gönderisine yanıt vermedi. “Bu Slack grubunda, genellikle her gönderiye onlarca çığlık atan koala emojisi tepki veriliyordu. Ama bu kez, hiçbir şey olmadı.”
Veatch, OpenAI ile doğrudan iletişime geçmeyi kendine görev edindi. Şirketi, “gördüğü ne kadar ırkçı, cinsiyetçi ve misogynist çıktılar” konusunda bilgilendirdi. Veatch, bu çıktılardan bazılarının, “kadınların ekstra meme büyütüp twerk yaptığı sahnelerin iki kez üretilmesiyle meydana geldiğini” söyledi. OpenAI’nin, Sora’nın benimsenmesini artırmadan önce bu kritik hatayı görüp düzelteceğini düşündü; ancak şirket, endişelerini görmezden geldi.
“Aldığım geri bildirim, ‘Bunu dile getirmek çok utanç verici; değiştirmenin bir yolu yok’ şeklindeydi,” diye hatırlıyor Veatch.
Bu durum, Veatch’in neden pek çok farklı işlemci yapay zekası türünün bu kadar çirkin ve sorunlu davranışlar sergilediğine dair anlamak için daha çok derinleşmesine sebep oldu. Önceleri, teknoloji hakkında beyaz kağıtların yazarlarıyla gerçek zamanlı toplantılar yapmanın ilgi çekici bir belgesel haline gelemeyeceğini düşündü; ancak Galton’un eugenik istatistik çalışmalarından, modern genetik yapay zeka firmalarına net bir bağ görmeye başlayınca fikirleri değişti.
Ghost in the Machine filminde yer alan sesler — yapay zeka araştırmacıları, tarihçiler ve eleştirel teorisyenler — AI alanının hemen hemen her yönünün ayrımcı dünya görüşlerini destekleyen bilim dallarıyla köklü bir şekilde etkilenmiş olduğunu savunuyor. Veatch’e, Ghost in the Machine belgeselinde eleştirdiği şirketlerin yöneticileriyle doğrudan konuşmayı istemiş olup olmadığını sorduğumda, gülümseyerek “Bu tür bir erişim almak, bana bir dizi ideolojik akrobatlık ve uzlaşma sağlamayı gerektiriyor” dedi.
“Bu insanların her türlü güven sorunu var.” dedi Veatch. “Tabii ki ben de öyle olduğunu umarım. Çünkü onların filmimde olmasını istemiyorum ve medya ile yeterince konuşuyorlar. Sam Altman’la kamerada kucaklaşacak mıyım? Bu teknoloji hakkında gerçek bir film mi? Bu propaganda.”
Ghost in the Machine, 26-28 Mart tarihleri arasında Kinem üzerinden yayınlanacak ve bu sonbahar PBS’de ekranlara gelecek.
