AI görüntü üreticileri artık çevrimiçi olarak yaygın ve daha sofistike hale geldiği için, bir görüntünün gerçek olup olmadığını anlamak hiç bu kadar zor olmamıştı. Ancak OpenAI, bu sorunu çözmek için Salı günü iki yeni önlem açıkladı.
Şirket, görüntülerin AI tarafından üretildiğini gösteren net bir sinyal ekleyen açık bir standart olan C2PA’ya bağlı olduğunu belirtti. OpenAI, aynı zamanda, kötü niyetli kimselerin izlerini kapatmaya çalıştıklarında algılaması zor ama silinmesi de zor olan SynthID adlı görünmez bir filigran eklemek için Google ile iş birliği yapıyor.
Yeni koruma önlemleri yalnızca OpenAI ürünleri tarafından üretilen görüntülere uygulanıyor; bu nedenle, daha az itibarlı AI araçlarından gelen görüntülerin akışını etkilemeyecek. Ancak, OpenAI’nin sorun olmasını engellemeye yardımcı olabilir.
OpenAI ayrıca, kullanıcıların bir görüntünün AI tarafından üretilip üretilmediğini kolaylıkla test etmelerini sağlayacak, her iki sinyali de kontrol edecek bir halkaya açık doğrulama aracını ön izliyor. Başlangıçta bu araç yalnızca OpenAI ürünleri tarafından üretilen görüntülerle sınırlı olacak; şirket, zamanla diğer araçları da kapsayacak şekilde genişletmeyi umuyor.
2021 yılında kurulan İçerik Kökeni ve Gerçeklik Koalisyonu (C2PA), AI görüntülerinin kamu tartışmaları üzerindeki zararlı etkilerini azaltmaya adanmış kâr amacı gütmeyen bir kuruluş. C2PA standardı, çeşitli Google ürünleri tarafından benimsenmiştir, ancak endüstri genelinde benimseme tutarsız kalmaktadır. C2PA sinyali, her dosyanın meta verilerinde açıkça erişilebilir olduğundan, manipülasyona açıktır ve en çok güvenilir kullanıcılar arasında faydalıdır.
SynthID ise müdahalelere karşı daha sağlam bir önlem olarak tasarlanmış daha yeni bir çabadır. Google tarafından geliştirilen SynthID filigranı, kötü niyetli kişilerin onu kaldırmaya çalıştıklarında bile (screenshot alma, boyutlandırma veya dijital manipülasyon yoluyla) devam etmesi için tasarlanmıştır.
Bu iki sistem, birbirinin zayıf noktalarını ele alacak şekilde tamamlayıcı olarak geliştirilmiştir.
OpenAI, duyurusunda, “Filigran, ekran görüntüleri gibi dönüşümler sırasında daha dayanıklı olabilirken, meta veriler yalnızca bir filigrandan daha fazla bilgi sağlayabilir.” belirtti. “Birlikte, köken bilgisinin kendi başlarına olabileceklerinden daha dayanıklı hale gelmesini sağlıyorlar.”
Makalelerimizdeki bağlantılar üzerinden alışveriş yaptığınızda, küçük bir komisyon kazanabiliriz. Bu, editoryal bağımsızlığımızı etkilemez.
