Yapay zeka gelişmeye devam ederken şirketler de yapay zekanın gücünden yararlanmak ve aynı zamanda yanlış bilgilerin yayılmasını önlemek için çalışıyor. GoogleŞirketin AI kolu DeepMind, dezenformasyonla mücadele amacıyla yapay zeka tarafından oluşturulan görüntüleri tespit etmek amacıyla dijital bir filigranı test ediyor.
Şu anda beta aşamasında olan SynthID adlı yeni araç, Google tarafından Midjourney ve Dall-E’ye benzer şekilde geliştirilen bir metinden görüntüye yayılma modeli olan Imagen’i kullanan seçkin bir grup Vertex AI müşterisinin kullanımına sunuluyor.
Yapay zeka tarafından oluşturulan görseller için Google’ın filigranı SynthID nasıl çalışır?
SynthID, bir görüntünün piksellerine yerleştirilmiş dijital bir filigrandır ve insan gözünün algılamasını imkansız hale getirir ancak tanımlama amacıyla mümkün kılar.
Üç güven düzeyi vardır: “Dijital filigran algılandı”, “Dijital filigran algılanmadı” ve “Dijital filigran muhtemelen algılandı.” İlk iki seçenek, çalışmanın Imagen tarafından oluşturulma olasılığını gösterir. DeepMind, potansiyel olarak üretilebileceği için son seçeneğe dikkatle yaklaşılması gerektiği konusunda uyarıyor. Ancak bu seçeneklerin hiçbirinin tam güveni garanti etmediğini unutmamak önemlidir.
Google, dahili testlerin birçok yaygın görüntü manipülasyonuna karşı doğru olduğunu gösterdiğini söylüyor. SynthID’nin birleşik yaklaşımı filigranlama ve tanımlamayı içerir. SynthID, Imagen tarafından üretilen sentetik görüntülere görünmez bir filigran verebilir. SynthID, bir fikri dijital filigranı için tarayarak, bunun Imagen tarafından oluşturulma olasılığını değerlendirebilir.
SynthID, içeriği kimin ve ne zaman oluşturduğu gibi bilgileri sağlayan, en yaygın kullanılan yöntemlerden biri olan tanımlama için meta verileri kullanır. Bu bilgiler görüntü dosyasında saklanır ve meta verilere eklenen dijital imzalar, görüntünün değiştirilip değiştirilmediğini gösterebilir. SynthID’nin filigranı görüntünün piksellerine gömülür ve meta veriler kaybolduğunda bile algılanabilir hale gelir.
Google’ın SynthID’sinin geleneksel filigrandan farkı nedir?
Geleneksel filigranlar, kolayca düzenlenebildiklerinden yapay zeka tarafından oluşturulan görüntüleri tanımlamada etkili değildir. Bu arada SynthID, filigranın değişikliklerden sonra bile tespit edilebilir kalmasına izin veriyor ve filigran ekleme ve tanımlama için derin öğrenme modellerini kullanıyor.
Google’ın SynthID’si kullanıcılar için ne anlama geliyor?
Bu yılın başında Çin, yapay zeka tarafından oluşturulan, filigran içermeyen görsellere yasak getirdi. Alibaba gibi şirketler, yaratımlarına filigran uygulamak için bulut bölümlerinden bir metin-görüntü aracı olan Tongyi Wanxiang’ı kullanıyor.
Temmuz ayında Google, aralarında OpenAI’nin de bulunduğu yapay zeka alanında faaliyet gösteren yedi şirket arasında yer aldı. MicrosoftAmerika Birleşik Devletleri’nde gönüllü bir anlaşmaya imza attı. Anlaşma yapay zekanın güvenli bir şekilde geliştirilmesini ve kullanılmasını garanti etmeyi amaçlıyordu. Buna, insanların bilgisayar tarafından oluşturulan görüntüleri tanımlamasına yardımcı olmak için filigranların uygulanması da dahildir.
SynthID filigranları çıplak gözle görülmese de, bir görüntünün gerçek mi yoksa sahte mi olduğunu belirlemek için bir sistem tarafından tespit edilebilir. Bu, kullanıcılar arasındaki yanlış bilgilerin azaltılmasına yardımcı olacaktır.
FacebookheyecanLinkedIn
makalenin sonu