2025 yılının sonlarına gelirken Instagram yöneticisi Adam Mosseri, yapay zeka hakkında karamsar bir paylaşımda bulundu. “Gerçeklik sonsuz bir şekilde yeniden üretilebilir hale geliyor,” diyen Mosseri, yaratıcıların önemini kaybettiğini ifade etti. “Gerçek olanla bağ kurma yeteneği artık herkesin erişebileceği bir şey,” diye ekledi. Ancak Mosseri, insanların hala “gerçek hissi veren içerikler” istediğini ve bu nedenle gerçek medyayı etiketlemenin bir yolunu bulmaları gerektiğini savundu. “Kamera üreticileri görüntüleri çekim anında kriptografik olarak imzalayacak, böylece bir mülkiyet zinciri oluşturacak,” dedi. Sonuç olarak, yapay zeka olmayan içeriklerin tespit edilmesinde güvenilir bir sistem oluşturulmuş olacak.
İyi haber şu ki, Mosseri’nin önerdiği çözüm zaten mevcut: C2PA. Kötü haber ise Instagram’ın bunu kullanıyor olması ve aslında bir fayda sağlamaması. Hatta, Instagram’ın üretken yapay zeka araçları geliştirmeye devam etmesiyle birlikte bu durum, gerçek bir eylemin yerini alıyormuş gibi görünüyor.
Yapay zeka, gerçekliği taklit etme konusunda oldukça başarılı bir hale geliyor, bu da birçok sosyal medya platformunun içerik üreticileri etrafında geliştirdiği kültür ve işletme modellerini tehdit ediyor. Yapay zeka, dans trendlerini ve fotoğraf çekimlerini kopyalayabilir, var olmayan sanatçılar ve influencer’lar yaratabilir ve genel olarak sosyal medyada zaten fazlasıyla bulunan benzer içerikleri yeniden üretebilir. Yaratıcılar, daha ham ve kusurlu görünen estetiklere yönelerek bu duruma karşı çıkmaya çalışıyor; ancak yapay zeka bu konuda da oldukça yetenekli. Daha da endişe verici olanı, önemli olaylar hakkında yanlış bilgilerin hızla yayılmasında kullanılabilmesi.
Son birkaç yılda, teknoloji dünyasının en büyük isimleri, “İçerik Kredisi” veya C2PA adı verilen bir sistemi benimseyerek bu duruma karşı çıkmaya çalışıyor. C2PA, içerik kökeni ve doğruluğu için bir standarttır ve 2021 yılında Adobe, Intel, Microsoft, ARM, Truepic ve BBC tarafından oluşturulmuştur. Mosseri’nin önerdiği gibi, C2PA sahte içerikleri doğrudan etiketlemek yerine, yapay zeka ile üretilmemiş medyayı doğrulamaktadır. Bu işlem, görüntülerin, videoların ve seslerin yaratım veya düzenleme anında görünmeyen meta veriler eklenmesiyle mümkün olmaktadır; böylece, içeriklerin kimler tarafından, nasıl ve ne zaman yaratıldığını doğrulamak mümkündür. Meta, Eylül 2024’te C2PA İcra Komitesine katıldı ve dijital içeriği anlamanın “dijital ekosistemin sağlığını korumak için kritik” olduğunu belirtti.
C2PA, Microsoft, Meta, Google, OpenAI, TikTok, Qualcomm ve diğer büyük teknoloji firmaları tarafından desteklenirken, sahte ile gerçeği ayırt etmeye çalıştığı biliniyor. Ancak sistemin uygulanışı, insanları yapay zekanın sahte içeriklerinden veya yanıltıcı derin sahtekarlıklardan korumaya gerçekten yardımcı olmuyor. Daha fazla yapay içerik C2PA bilgileriyle gömülse de, günlük kullanıcıların bunun peşinden koşması bekleniyor, ki çoğu C2PA’nın varlığından bile haberdar olmuyor.
Şirketler, C2PA ve Google’ın SynthID su izi sistemi gibi köken tabanlı çözümleri destekleme konusunda büyük çabalar sarf ediyor. Çeşitli teknik çözümler mevcut; bunlar yapay kaynaklı içeriklerin subtile işaretlerini tarayanlar gibi; ancak bunlar sadece yapay zekanın kullanılıp kullanılmadığını belirlemenin olasılığını değerlendirebiliyor. Fakat köken tabanlı çözümler de bazı engellerle karşı karşıya. Medyanın her aşamasında yer alan herkesin onayının alınması gerekmektedir ki bu pratikte oldukça zor. Örneğin C2PA henüz Canon, Nikon, Sony, FujiFilm ve Leica gibi kamera şirketleri tarafından ancak yavaş bir hızda benimsenmektedir, destek miktarı ise genellikle sınırlıdır.
Leica Kamera USA sözcüsü Nathan Kellum-Pathe, “C2PA desteklemeyen eski kameralar, önemli ve geçerli fotoğraflar üretmeye devam edecekler,” dedi. “Bu görüntüler için güven, hâlâ bağlam, itibar ve edebi sorumluluk gibi unsurlara dayanacaktır.”
C2PA’nın köken verileri o kadar zayıf ki, OpenAI, C2PA’nın “kolayca kazara veya kasıtlı olarak kaldırılabileceğini” belirtiyor. LinkedIn ve TikTok, geçmişte C2PA bilgileri taşıyan içerikleri güvenilir bir şekilde etiketleme konusunda hala başarılı olamadı. YouTube, C2PA’yı, Google’ın SynthID sistemini ve diğer sistemleri proaktif yapay zeka etiketleme amacıyla kullanıyor; ancak bu etiketler de tutarsız ve fark edilmesi zor. Şu anda herkesin gerçek ya da sahte fotoğrafların ne olduğuna dair kesin bir tanım yapamadığı bir ortamda, neyin gerçekte ne olduğunu ayırt etmek hayli zor.
Meta, C2PA etiketlerini “Yapay Zeka Bilgisi” olarak yeniden adlandırdı ve bu bilgileri bulmayı oldukça zor hale getirdi. Bu etiket, Instagram uygulamasında yapay zeka tarafından üretilen veya manipüle edilmiş içerikleri incelerken birinin hesap adı altında küçük bir metin olarak görünmeli; ancak zaman zaman şarkı isimleri veya gönderiyle ilgili diğer bilgilerle yer değiştirebiliyor. Eğer etiketler veya C2PA görsel işaretleri yoksa, kullanıcıların şüpheli içeriği bir Chrome tarayıcı uzantısı kullanarak taramaları veya resmi C2PA kontrol sitelerinden birine manuel olarak yüklemeleri bekleniyor.
C2PA’yı bir yapay zeka etiketleme çözümü olarak eleştirdiğimde, standardın benimsenmesi yavaş bir şekilde artıyor; iyi bir sistem eninde sonunda uygulanıyor, ancak bu dahili neticelerle ilgili global bir ölçekte derin sahtekarlığın tespitinde çalışacak şekilde tasarlanmamıştır. Adobe’un İçerik Doğruluğu Kıdemli Direktörü Andy Parsons, yapay zekanın gerçekten zararlı sorunlar yarattığını ve C2PA’nın tüm bu problemleri çözebileceği inancının yanlış olduğunu belirtti.
“Bu bir gümüş mermi değil,” diyen Parsons, “belirli bir sorunlar sınıfını çözmektedir” dedi. X’in C2PA’daki belirtilen eksikliği, bu standardın şu anki yapay zeka ve özgünlük sorunlarını çözmeyeceğini gösteriyor. Twitter, C2PA’nın kurucu üyelerinden biri olmasına rağmen, Musk bunu satın alıp X olarak adlandırdığında inisiyatifi sürmekten vazgeçti. Parsons, X’in şu anda C2PA ile ilgili olmadığını ve “X’in aktif olarak katılım sağlamasını bekliyoruz,” dedi. Bu platform, haberlerin hızla yayılmasını sağlıyor ve birçok marka, duyurularını hayranlarıyla paylaşmak için bu platformu tercih ediyor. Ancak Grok’ın kadına, erkeğe ve çocuklara yönelik şiddet içeren materyaller yaratma tartışmaları ve Musk’ın yanıltıcı derin sahtekarlıkları paylaşması arasında, X’in günlük 270 milyon kullanıcısını yapay zeka sahtekarlıklarından veya yanlış bilgilerden koruma isteğinin olmadığı anlaşılıyor. Yine de birçok insan X’i önemli bir haber kaynağı olarak kullanıyor.
Reality Defender CEO’su Ben Colman, “Eğer C2PA yalnızca geçerli bir çözüm olsaydı, hiçbirimiz yapay sahtekarlıkların etiketsiz yayılmasına tanık olmazdık,” diyor ve etiketleme veya su izi çözümlerine tamamen güvenmenin sahtekarlık yapay içeriğin yalnızca birkaç belirli araçla yaratıldığı varsayımını varsaymak olduğu belirtmiş. “Bu fazlasıyla yanlış bir varsayım, ancak şu anda dünyanın en büyük sosyal medya platformlarının modere edilmesi için bunu sağlıyor,” dedi Colman.
Etkili bir etiketleme sistemi bile sorunu çözmekte etkili olmayabilir. Bir çalışma, şeffaflık uyarılarının yapay zeka tarafından üretilmiş derin sahtekarlıklara karşı korunma sağlamada yetersiz olduğunu ortaya koydu ve yapay zeka şeffaflığının etkililiği için yeterli empirik kanıt olmadığını aktardı.
Ancak, bu herkesin bir yandan “C2PA’nın derin sahtekarlık tespit sistemi geliştirmede önemli bir adım olduğu” ve bir ilerleme kaydedildiği şeklindeki yaygın ifadelerini tekrar etmesini engellemiyor. Parsons, “daha fazlasının ve daha hızlı bir şekilde olabileceği konusundaki potansiyel hayal kırıklığını anlıyorum,” diyor ve “C2PA’nın online platformlarda görünürlüğünü arttırmanın yolda olduğunu” belirtiyor.
Eğer Meta ve Google gibi yapay zeka sağlayıcıları, insanları aldatmaktan veya yanıltmaktan gerçekten korumak isteselerdi, muhtemelen bu sorunları artırana kadar yeni araçlar üretmeyi durdururlardı; eğer bir çözüm bulunursa. Mosseri’nin gerçekliği koruma konusundaki endişeleri, Meta aktif olarak yapay zeka ile üretilmiş içerikleri teşvik ederken pek de ikna edici görünmüyor. OpenAI, telif haklarını ihlal eden ve gerçek insanları izinsiz taklit eden yapay zeka üretimi videolarla dolu bir TikTok klonu çıkardı. YouTube, platformda daha fazla çöplük içeriğiyle mücadele etmeyi taahhüt ediyor fakat içerik üreticilerini video üretiminde Google’ın yapay zeka modellerini kullanmalarını teşvik ediyor.
Bütün bunlar, yapay zeka sağlayıcılarının C2PA’yı yönetme çabasıyla, yararlı olmayan sahtekarlıklarını kontrol etmeye yönelik sorumluluktan kaçındıklarını gösteriyor.
Tüm bunlar, yapay zeka sağlayıcılarının, bilgi yanlışlığı makinelerini kontrol etme konusunda sorumluluktan kaçındıklarını ve bu makinelerin onlara para kazandırdığını gösteriyor. OpenAI, ChatGPT ve Sora kullanıcılarından daha yüksek görüntü ve video üretim sınırlarını açmak için abone ücreti alarak büyük gelir elde ediyor. YouTube’da yapay zeka içeriği, 2024 Temmuz’da platformun en hızlı büyüyen kanallarının %10’unu oluşturdu. Meta, Instagram, Facebook ve WhatsApp için bazı yapay zekâ özelliklerini premium aboneliklerin arkasında kilitlemeye hazırlanıyor ve CEO Mark Zuckerberg, yapay zekayı sosyal medyanın kaçınılmaz geleceği olarak tanıtıyor.
“Platformlar, derin sahtekarlıklar ve yapay zeka içeriklerini doğru korumaya yönelik önlemleri bir kenara bırakmaya gönül rahatlığıyla yaklaşmış durumda, çünkü öfke yaratmak, tartışma başlatmak ve bu şekilde etkileşim sağlamak için var olan diğer zararlı içeriklerin bir türü olarak daha fazla kullanıcıyı platformda tutup onlara daha fazla reklam gösteriyorlar,” diyor Colman.
Bu içerik bazen zararlı değil, daha çok tuhaf ve rahatsız edici olabiliyor; Facebook’ta viral olan shrimp Jesus tarzı görüntüler gibi. Üretken yapay zeka araçları, görsel içerik oluşturmak için gereken beceri ve zaman engellerini büyük ölçüde azaltarak geleneksel medya ile mücadele eden bir içerik seli yaratıyor.
C2PA, aslen tam anlamıyla “derin sahtecilik” çözümü olarak “başarıya ulaşması” pek olası olmayan övülen bir onur sistemidir.
Olayların çevresinde güçlü bir içerik yaratma çabaları, çözülmekten çok daha karmaşık hale geliyor. Evet, sürekli ilerlemeler ve genişleme yaşanmakta; ancak C2PA, yalnızca “başarılı” bir derin sahtecilik çözümü olabilecek bir onur sistemidir. Bazı platformlar artık yaratıcılara odaklanmayı ve yalnızca paylaştıkları içerikleri değil, kendilerini analiz etmeyi keşfediyor. Mosseri, Instagram’ın “söyleyenin kim olduğu”na odaklanması gerektiğini belirtiyor.
YouTube, Alex Pretti ve Renee Nicole Good’un öldürülmeleri sonrası hangi videoların öne çıkacağını denetlemek için bu yaklaşımı benimsedi. Google sözcüsü Boot Bullwinkle, bu olayların çoğunun “kamu yararına değer taşıdığını ve platformda kalmaya devam edeceğini” belirtti ve önemli olaylar sırasında kullanıcıları resmi haber kaynaklarına yönlendirdiğini aktardı.
“Olaylar gelişirken yüksek kaliteli videolar üretmek zaman alabilir, bu nedenle sürüm sonuçlarında metin tabanlı haber makalelerinin kısa önizlemelerini sağlıyoruz ve aşırı olmayan haberlerin hızla değişebileceği hatırlatması yapıyoruz,” dedi Bullwinkle. Bu arada YouTube’un ana kuruluşu Google, haber başlıklarını sahte ve çoğunlukla yanlış yapay zeka özetleri ile değiştirmeye devam ediyor.
Aslında, sentetik materyallerin insan yapımı olanlardan ayırt edilmemesi, yapay zeka için para harcayan tüm şirketlerin iş çıkarlarına aykırı bir durumdur. Böyle bir çıkar çatışmasıyla ne kadar sorumluluk alabilirsiniz ki?
Her halükarda, Mosseri, yapay zekanın gerçeklik savaşını çoktan kazandığını düşünüyor. O, Instagram yaratıcılarının “gerçek, şeffaf ve tutarlı” olmaları gerektiğini belirtiyor. Yoksa, “sonsuz bolluk ve sonsuz şüphe dünyasında” nasıl öne çıkacaklar? Eğer yapay zeka sahtekarlığının bu kadar kolay yönetimi varsa, topluluk notları ve “robot değilim” doğrulaması çoktan çözüm oluşturmuş olurdu.
