Google’ın yapay zeka araştırma bölümü olan Google Deepmind, Google Cloud ile ortaklaşa çalışmaktadır. fırlatma AI tarafından oluşturulan görüntülere filigran eklemek ve tanımlamak için bir araç. Ancak yalnızca Google’ın kendi görsel oluşturma modeli tarafından oluşturulan görseller.
SnythID adı verilen ve Google’ın yapay zeka uygulamaları ve modelleri oluşturmaya yönelik platformu Vertex AI’nin belirli kullanıcıları için beta sürümünde sunulan araç, bir görüntünün piksellerine doğrudan bir dijital filigran yerleştiriyor; bu, onu görünüşte insan gözüyle algılanamaz ancak bir algoritma tarafından algılanabilir hale getiriyor. . SynthID yalnızca Google’ın metinden resme modeli olan ve yalnızca Vertex AI’de bulunan Imagen’i destekler.
Google önceden üretken yapay zeka modelleri tarafından oluşturulan görsel medyayı işaret etmek için meta verileri yerleştireceğini söyledi. SynthID açıkçası bunun bir adım ötesine geçiyor.
DeepMind bir blog yazısında şöyle yazıyor: “Üretken yapay zeka, büyük yaratıcı potansiyelin kilidini açabilirken aynı zamanda yaratıcıların kasıtlı veya kasıtsız olarak yanlış bilgi yaymasına olanak sağlamak gibi yeni riskler de sunuyor.” “Yapay zeka tarafından oluşturulan içeriği tanımlayabilmek, insanları oluşturulan medyayla ne zaman etkileşimde bulundukları konusunda bilgi sahibi kılmak ve yanlış bilgilerin yayılmasını önlemeye yardımcı olmak açısından kritik öneme sahiptir.”
DeepMind, geliştirmek için Google’ın Ar-Ge ekibi olan Google Research ile ortaklık kurduğu ve geliştirdiği SynthID’nin, filtre ekleme, görsellerin renklerini değiştirme ve yüksek oranda sıkıştırma gibi değişikliklerden sonra bile yerinde kaldığını iddia ediyor. DeepMind, aracın “çeşitli” bir dizi görüntü üzerinde birlikte eğitilen, biri filigran ve diğeri tanımlama için olmak üzere iki AI modelinden yararlandığını söylüyor.
Resim Kredisi: Derin Düşünce
SynthID, filigranlı görüntüleri %100 güvenle tanımlayamaz. Ancak araç, bir görüntünün belki bir görüntüye karşı filigran içerir büyük olasılıkla birini içermek.
DeepMind blog yazısında şöyle yazıyor: “SynthID, aşırı görüntü manipülasyonlarına karşı kusursuz değildir, ancak insanların ve kuruluşların yapay zeka tarafından oluşturulan içerikle sorumlu bir şekilde çalışmasını desteklemek için umut verici bir teknik yaklaşım sağlar.” “Bu araç aynı zamanda ses, video ve metin gibi görselliğin ötesinde diğer AI modelleri ve yöntemleriyle birlikte gelişebilir.”
Üretken sanat için filigranlama teknikleri yeni değil. 2020’de piyasaya sürülen Fransız startup Imatag, SynthID’ye benzer şekilde görüntülerin yeniden boyutlandırılmasından, kırpılmasından, düzenlenmesinden veya sıkıştırılmasından etkilenmediğini iddia ettiği bir filigran aracı sunuyor. Başka bir firma olan Steg.AI, yeniden boyutlandırma ve diğer düzenlemelerde hayatta kalan filigranları uygulamak için bir yapay zeka modeli kullanıyor.
Ancak teknoloji şirketlerinin üzerindeki, çalışmaların yapay zeka tarafından üretildiğini açıkça ortaya koyacak bir yol sağlama yönündeki baskı artıyor.
Son zamanlarda Çin Siber Uzay İdaresi, üretken yapay zeka satıcılarının, metin ve resim oluşturucular da dahil olmak üzere oluşturulan içeriği kullanıcı kullanımını etkilemeden işaretlemesini gerektiren düzenlemeler yayınladı. Ve son ABD Senatosu komite oturumlarında Senatör Kyrsten Sinema (I-AZ) vurgulandı filigran kullanımı da dahil olmak üzere üretken yapay zekada şeffaflığa duyulan ihtiyaç.
Mayıs ayında yıllık Build konferansında Microsoft, yapay zeka tarafından oluşturulan görsellere ve videolara “kriptografik yöntemler kullanarak” filigran eklemeyi taahhüt etti. Başka yerlerde, Shutterstock ve üretken yapay zeka girişimi Midjourney benimsendi yönergeler içeriğin üretken bir yapay zeka aracı tarafından oluşturulduğunu gösteren bir işaret yerleştirmek. Ve OpenAI’nin bir metin-görüntü aracı olan DALL-E 2, oluşturduğu görüntülerin sağ alt kısmına küçük bir filigran ekler.
Ancak şu ana kadar hem filigran oluşturmaya hem de filigranları tespit etmeye yönelik ortak bir filigran standardının bulunmasının zor olduğu kanıtlandı.
SynthID, önerilen diğer teknolojiler gibi, herhangi bir görüntü oluşturucu için kullanışlı olmayacaktır. değil Imagen – en azından şu anki haliyle değil. DeepMind, yakın gelecekte SynthID’yi üçüncü tarafların kullanımına sunmayı düşündüğünü söylüyor. Ancak üçüncü tarafların, özellikle de bir API arkasına bağlanan jeneratörlerdeki korkulukların çoğundan yoksun olan açık kaynaklı yapay zeka görüntü oluşturucularını geliştiren üçüncü tarafların, teknolojiyi benimseyip benimsemeyecekleri tamamen başka bir konudur.