Son zamanlarda yapay zeka tamamen yeni bir yetenek kazandı: Kullanıcının isteği üzerine içerik üretmek. ChatGpt gibi dil modelleri ikna edici metinler üretebilir ve MidJourney gibi sistemler metinsel açıklamalardan gerçekçi görüntüler üretebilir.Toplumda yaygın kullanım alanı bulan tüm yapay zeka sistemlerinin önemli bir etkisi olmuştur. Ancak içerik üretme yeteneğine sahip yapay zekanın ortaya çıkışı, tamamen yeni bir etki biçiminin kapısını açıyor çünkü içerik zamanla varlığını sürdürüyor ve onunla karşılaşan herkesi etkiliyor.
Bu önemli bir haber çünkü insanlar tarafından üretilen içerik, kültürün dayandığı temel materyaldir. Yuval Noah Harari yakın tarihli bir makalesinde dilin “neredeyse tüm insan kültürünün yapıldığı malzeme” olduğunu gözlemliyor: yasalar, politik sistemler ve mitolojiler dil aracılığıyla yaratılır ve aktarılır. Kültürün diğer bileşenleri görüntülerde ve müzikte bulunur. Tüm bu içerik biçimleri artık makineler tarafından da ikna edici bir şekilde üretilebiliyor. Harari’ye göre üretken yapay zeka “medeniyetimizin işletim sistemini hackledi.” Bu nedenle özel bir incelemeyi hak etmektedir.
Yapay zeka şeffaflığına yönelik çağrılar şu ana kadar süreçlere, yapay zeka sistemlerinin tasarlanma ve geliştirilme şekline ve içinde çalıştıkları bağlama odaklandı. Ancak bu sistemler dünyaya kalıcı içerik sunabiliyorsa şeffaflığın onları da kapsaması gerekiyor. Özellikle insanlar, karşılaştıkları belirli içeriklerin insan tarafından mı yoksa makine tarafından mı oluşturulduğunu bilme yeteneğine sahip olmalıdır.
Bu minimum seviyede şeffaflık olmazsa kültür açısından sonuçlar felaket olabilir. Harari, yapay içerik kültürünün insanları “bir yanılsama perdesinin arkasına” hapsedebileceğini ve demokrasiyi riske atabileceğini öne sürüyor. Daniel Dennett, yapay içeriğin kontrolsüz yayılmasının “toplumun bağlı olduğu güveni zayıflatacağını” ve “medeniyetimizi yok etme riskiyle karşı karşıya kalacağını” savunuyor. Her iki yazar da yapay zeka tarafından oluşturulan içeriğin bu şekilde tanımlanabilir olmasını gerektiren acil ihtiyati tedbirlerin alınması çağrısında bulunuyor.
Yapay zeka ile doğrudan etkileşimleri yöneten şeffaflık (örneğin sohbet robotlarıyla yapılan görüşmelerde) ile yapay zeka tarafından oluşturulan içerik üzerindeki şeffaflık arasında ayrım yapmak faydalıdır. İlk konu halihazırda çeşitli yargı bölgelerinde mevcut veya yakında çıkacak mevzuatın konusudur. İkinci soruyu ele alıyoruz. Bir kullanıcı, yapay zeka ile doğrudan etkileşim içinde üretilen içeriği alıp, kaynağını açıklamadan, örneğin sosyal medyada yayınlayarak veya bir öğretmene veya iş arkadaşına göndererek aktarabilir. Bu son “dolaylı” karşılaşmalarda yapay zeka tarafından oluşturulan içeriklerin şeffaflığını hangi mekanizmalar garanti edebilir?