Meta, Mart ayında Denetim Kurulu’nu, yanıltıcı yapay zeka içeriklerinin yayılmasını engellemek için “kamusal taahhütlerini yerine getirmesi ve kendi araçlarını kullanması” çağrısında bulundu. Şirket, Temmuz ayında Content Seal’i tanıttı; bu yeni teknoloji, Meta’nın yapay zeka modelinden üretilen görüntüleri işaretleyen görünmez bir su zeminini içeriyor. Ancak bu, aslında, Muse görüntü ve video oluşturma araçlarına dair duyurunun bir kenar notu gibi görünüyordu.
AI etiketleme sistemlerini detaylı bir şekilde inceleyen biri olarak, Content Seal beni pek güven verici hissettirmiyor. Meta’nın, daha önce C2PA İçerik Kimlik Bilgileri ve Google’ın SynthID gibi daha köklü çözümleri tercih edebilirdi. Meta’nın kendi sistemini neden geliştirdiğini anlamaya çalıştıkça, bu konuyla ilgili yeterince düşünmemiş olduğuna ikna oluyorum.
Meta’nın tanımına göre, Content Seal, SynthID ile benzer bir şekilde çalışıyor. Gözle görülmeyen su zeminleri, AI tarafından üretilmiş görüntülerde gömülü bir “gizli köken sinyali” sağlıyor. Bu sinyal, tarama ve işaretleme yapılmasını sağlayan tespit araçlarıyla, kullanıcıların derin sahtekarlıklar ile gerçek içerikler arasında ayrım yapmasına yardımcı oluyor. Meta, söz konusu su zeminlerinin, görüntüler kırpılsa, sıkıştırılsa, boyutlandırılsa veya ekran alıntısı alınsa bile korunacağını belirtiyor.
Peki, Content Seal fonksiyonel olarak aynı işi yapıyorsa… neden sadece SynthID’yi benimsemiyor? Meta, Google ile birlikte İçerik İtibarı ve Kimlik Koalisyonu’nun bir yönlendirme komite üyesi. Bu, çözümleri bir araya getirme konusundaki istekliliklerini gösteriyor. SynthID zaten OpenAI tarafından benimsenmiş durumda, dolayısıyla Google da şeffaflığı artırma adına rakip AI sağlayıcılarına teknoloji açmaya istekli.
Content Seal, mevcut haliyle Google’ın sistemine benzer birçok sınırlamaya sahip. Kullanıcılar, Content Seal su zeminlerini yalnızca Meta’nın test ettiği özel bir web aracı aracılığıyla tespit edebiliyor. Meta, bu özellikleri Meta AI sohbet robotuna entegre etmeyi planlıyor gibi görünse de, henüz bunu gerçekleştirmiş değil.
Su zeminleri, yalnızca Meta’nın AI uygulamasında ve Meta.ai web sitesinde oluşturulan görüntülere uygulanıyor, bu da kullanıcıların Meta’nın eski AI modelleri tarafından üretilen içerikleri tespit etmesine olanak tanımıyor. Üretilen video desteği de mevcut değilken, Meta’nın bunun “yakında” geleceğini belirttiği biliniyor.
Meta, kullanıcıların tespit aracı aracılığıyla Content Seal ile görüntüleri kontrol edebileceği günde belirli bir sınır koydu. Eischen, bu sınırın “normal kullanım” desteği sağlamak amacıyla konulduğunu belirtti. Daha önceden Google ve OpenAI’nin de benzer limitleri olduğunu belirtelim. C2PA, kullanıcılara içerik kontrolü yapmaları için herhangi bir sınırlama getirmeyen tek sistem olarak öne çıkıyor.
Meta’nın kendi platformları olan Facebook ve Instagram’da AI etiketleri uygulanırken, belirtilmemiş meta verilerin “Content Seal su zeminlerinin yanı sıra” kullanıcıların AI üretimi içerikleri tanımasına yardımcı olmak için kullanıldığı ifade ediliyor. Meta, diğer çevrimiçi platformlarla işbirliği yapma konusunda kararlı olduğunu belirtiyor. Ancak Content Seal uygulaması, Meta’nın kendine ait platformları dışında etkili bir şekilde etiketlemeyi engelleyebilir.
Content Seal’in yalnızca yeni AI modeli tarafından üretilen görüntüleri tespit edebilmesi nedeniyle, Meta’nın bu süre zarfında neler yaptığını sorgulamak kaçınılmaz. AI görüntü üretim araçlarını 2023 yılından beri sağlayan Meta, hali hazırda kendi tespit sistemiyle gösterilemeyecek birçok içerik üretti. Aynı zamanda Instagram ve Facebook’ta AI etiketlerini tanıttığında, birçok fotoğrafçının kızdığı iddiaları ortalığa çıkmıştı.
Meta, AI içeriğinin hem üreticisi hem de onu tanımlayan çözümü olarak kendisini konumlandırmakta zorlanıyor gibi görünüyor. Instagram başkanı Adam Mosseri, AI tarafından üretilen içerikten hoşlanmayanların sosyal medya akışlarında bu içeriği görmemesi gerektiğini belirtse de, bu durum güvenilir bir AI etiketleme sistemi gerektiriyor. “Sahte medya yerine gerçek medyanın parmak izi çıkarılmasının daha pratik olabileceğini düşünüyorum” ifadesi, Meta’nın kendi geliştirdiği etiketleme sistemine olan güveninin sorgulanmasına yol açıyor.
Meta, daha önceki AI içeriği etiketleme sisteminin yetersiz kalmasıyla birlikte, aynı zamanda şeffaflık ve güvenilirlik konusunda da büyük bir adım atması gerekecek. Content Seal’in kurbanı olacağı ve kullanıcıların AI içeriklerini doğrulamak için ek bir engel olarak çıkacağı anlaşılıyor. Meta’nın daha önce Google’ın sistemine benzer bir watermarking standardı benimsemesinin daha avantajlı olup olmadığı sorusu akıllarda kalıyor.
Meta, AI içeriklerinin şeffaflığı ve doğruluğu konusunda daha fazla ilgi gösterip göstermediği artık merak ediliyor. Özellikle rasgele içerik yükleyen bir platform gibi görünen Meta, kaçınılmaz olarak kullanıcılarına daha fazla güven sağlamalı ve bunun gerçekçi bir şekilde yapılabilip yapılamayacağı sorgulanmaktadır.
Content Seal’in sadece Meta’nın en yeni yapay zeka modelini kullanarak üretilen görüntüleri algılayabiliyor olması, kullanıcıların yalnızca Meta’nın içeriklerini tanımaları için yeterli bir çözüm sunuyor mu? Bu yeni teknoloji, diğer yapay zeka sistemleriyle entegrasyon halinde bir kazanım mı sağlayacak, yoksa kendi içinde bir kayıptan mı başka bir şey? Siz bu konuda ne düşünüyorsunuz?
