Google, derin sahte içeriklerin ve yapay zeka tarafından üretilen içeriklerin tespitini kolaylaştırmak amacıyla geliştirilen sistemlerin ne kadar etkili olduğunu test etme aşamasında. SynthID ve C2PA İçerik Kimlikleri, görüntü, video ve ses dosyalarını köken bilgileriyle görünmez bir şekilde etiketlemek için tasarlanmış iki farklı teknoloji, bu alandaki en büyük genişlemesini yaşıyor. Bu gelişme, çevrimiçi ortamda insanları yanıltan etiketlenmemiş yapay zeka sahte içeriklerine karşı bir mücadele şansı sunuyor.
Google, I/O konferansı sırasında, SynthID etiketlerinin (Google’ın AI modelleri tarafından üretilen içeriğe uygulanan görünmez filigran sistemi) doğrulanma yeteneğinin Chrome ve Arama’ya geleceğini duyurdu. Bu, Chrome’un web tarayıcıları ve arama motorları pazarındaki baskın konumu göz önünde bulundurulduğunda oldukça önemli. Artık yapay zeka doğrulama araçları daha fazla kullanıcıya ulaşacak. Ayrıca, kontrol sürecini de kolaylaştırıyor; mevcut durumda bir resmi kontrol etmek için Gemini uygulamasına yüklemek gerekiyor.
Bununla birlikte, Google’ın doğrulama arayüzleri artık bu dosyaların C2PA bilgisini de kontrol edecek. C2PA, içeriğin oluşturulması sırasında gömülen köken verisi sağlayarak, nasıl yapıldığı veya manipüle edildiği ile ilgili bilgi veriyor. Bu C2PA benimsemesi, kullanıcıların şüpheli görüntüleri tek bir arayüz üzerinden kontrol etmelerini sağlıyor; böylece dosyalar sadece bir tür etikete sahip olabileceği veya hiç etiket içermeyebileceği için, Gemini uygulaması ile özel C2PA doğrulama portalı arasında geçiş yapmak zorunda kalmıyorlar.
Bu, beklenen bir iş birliği örneği. Her iki sistem de farklı çalışmasına rağmen, hem Google hem de İçerik Otantikliği İnisiyatifi (C2PA standartını teşvik etmek amacıyla var) benzer iddialarda bulundu: herkesin katılması lazım. Bu, daha fazla yapay zeka modelinin bu verileri gömmesi ve yapay zeka sahteciliklerinin en çok paylaşıldığı çevrimiçi platformların bu bilgiyi açıkça göstermesi gerektiği anlamına geliyor. Bunun için geçerli olan, web tarayıcısına entegre edilen doğrulama araçları, kullanıcıların AI verilerini kontrol edip sunmadığı web sitelerinde alternatif bir yol sunabilir.
OpenAI da bu genişlemeden faydalanmak için devrede. Dün, SynthID’yi ChatGPT, Codex ve OpenAI API tarafından üretilen görüntülere entegre edeceğini duyurdu. Şirket, üretilen içerikte C2PA verilerini içerse de, bunun sıklıkla diğer platformlara yüklendiğinde çıkarıldığını buldum. OpenAI, C2PA’nın beklenilen etkisini azaltmak istediğini belirtmesine rağmen, C2PA’nın yönlendiren üyelerinden biri ve şu anda standartlara olan bağlılığını yinelemesi dikkat çekici.
“C2PA gibi metadatalar, köken sorunlarını çözmek için sihirli bir çözüm değildir. Kolaylıkla kazara veya kasıtlı olarak çıkarılabilir. Örneğin, günümüzde çoğu sosyal medya platformu yüklenen görüntülerden metadataları çıkarıyor, screenshot almak gibi eylemler de bunu ortadan kaldırır. Dolayısıyla, bu metadata eksik olan bir görüntü, ChatGPT veya API’mizle üretilmiş olup olmadığını göstermez.”
İçerik otantikliğinde en iyi standartlardan biri olarak değerlendirilen C2PA’nın, neden bu kadar kırılgan olduğu anlaşılmıyor. Google, C2PA’yı “sektör standardı” olarak tanımlarken, dünya genelindeki hükümetlere yapay zeka şeffaflığı ve etiketleme gerekliliklerini yerine getirmek amacıyla bir çözüm olarak sunuluyor. Ancak, AI, donanım ve yazılım sağlayıcıları tarafından benimsenmesine rağmen, bunu gerçekten sahte yapay zeka içeriklerini doğrulamak için kullanmakta sık sık başarılı olunmuyor. SynthID, sağladığı sınırlı erişime rağmen, çevrimiçi ortamda derin sahte içerikleri çürütmek için çeşitli medya kuruluşları tarafından belirtilmiş durumda.
C2PA ve SynthID, iş birliği yaparak daha geniş bir güvenlik ağı oluşturabilir. Bu sektörde bir doğrulama standardı savaşının faydalı olacağını düşünmüyorum; ancak Google, sisteminin daha güvenilir olduğunu ispatlamaya ve C2PA’nın sahip olduğu ilgiyi üzerine çekmeye bir fırsata sahip. Bunu önlemek için C2PA’nın, çevrimiçi gördüğümüz içeriğin nereden geldiğini açıklamak için gerçekten kullanılabilir olduğunu kanıtlaması gerekiyor.
Bu fırsat zaten ortaya çıktı: Google dün, Meta’nın Instagram’da bir kamera ile çekilen görüntüler için C2PA metadata’sını kullanmaya başlayacağını duyurdu. Meta’nın bu uygulamanın nasıl işleyeceği ya da hangi kameraların destekleneceği konusundaki sorularımıza yanıt vermedi, ancak bunun “Pixel 10 ile çekilen” gibi etiketleri içereceğini varsayıyorum. Bu uygulama, Instagram kullanıcılarının “gerçek” fotoğrafları sahte yapay zeka içeriklerinden ayırt etmelerine yardımcı olacaktır ve Instagram yöneticisi Adam Mosseri’nin, gördüğümüzün gerçek olduğunu varsaymaktan uzaklaşma gerekçesini destekliyor.
Etiketleme işe yararsa elbette. Instagram zaten görüntülerde C2PA bilgilerini kontrol ediyor ve AI tarafından üretilen içeriklere etiketler eklemeye yönelik denemeleri geçmişte sıkıntılı durumlara soktuğu için, bu etiketlerin yalnızca fotoğrafçıların kendi çekimleri olduğunu iddia ettiği görüntülere eklenmesi sıkıntılı bir durum yaratıyor.
Google’ı bu iş birliği için hemen övmemek gerek. Şirket, yapay zeka şeffaflığının ve dijital derin sahteciliklerle mücadele etmenin önemini vurgularken, yanıltıcı içerikler için kullanılan teknolojiyi de geliştiriyor. Hem tedarikçi hem de çözüm sağlayıcı durumda. Eğer SynthID, derin sahtecilikle mücadelede belirgin bir fark yaratırsa bunu affedebilirim; ancak sorunların ölçeği göz önüne alındığında, umutlarım pek yüksek değil.
SynthID ve C2PA, yalnızca su işaretlerini eklediği sürece etkili olabiliyor. Kötü niyetli derin sahte içeriklerin üretilmesinde kullanılan birçok açık kaynak modelinin bu sistemleri benimseyeceğini düşünmüyorum. Köken sorunları, mükemmel bir çözüm olarak asla değerlendirilemez, ancak Google ve C2PA’nın bunun zaman kaybı olmadığını kanıtlama fırsatı var.
