Google duyurdu Kullanıcıların “belirli bir içerik parçasının nasıl oluşturulduğunu ve değiştirildiğini daha iyi anlamalarına” yardımcı olacak yeni bir özelliğin kullanıma sunulmaya başlanacağı bildirildi.
Bu, şirketin katılmasından sonra geldi İçerik Kaynağı ve Özgünlük Koalisyonu (C2PA) – çevrimiçi ortamda yanıltıcı bilgilerin yayılmasını engellemeye çalışan büyük markalardan oluşan bir grup – ve en son teknolojiyi geliştirmeye yardımcı oldu İçerik Kimlik Bilgileri standart. Amazon, Adobe ve Microsoft da komite üyeleri arasında yer alıyor.
Önümüzdeki aylarda yayınlanması planlanan Google, AI tarafından oluşturulan veya düzenlenen görsellere bir etiket eklemek için Arama parametrelerinde mevcut İçerik Kimlik Bilgileri yönergelerini (yani bir görselin meta verilerini) kullanacağını ve kullanıcılara daha fazla şeffaflık sağlayacağını söylüyor. Bu meta veriler, görselin kökeni ve ne zaman, nerede ve nasıl oluşturulduğu gibi bilgileri içerir.
Ancak kullanıcılara farklı medya türlerinin kökenini izleme olanağı tanıyan C2PA standardı, X’in (eski adıyla Twitter) Grok’un görüntü üretimi için kullandığı Flux modelinin arkasındaki şirket olan Black Forrest Labs gibi birçok yapay zeka geliştiricisi tarafından reddedildi.
Bu AI işaretlemesi Google’ın mevcut Bu Görsel Hakkında penceresi, yani Google Lens ve Android’in ‘Aramak İçin Çember’ özelliği aracılığıyla da kullanıcılara sunulacağı anlamına geliyor. Canlı yayında, kullanıcılar bir görselin üzerindeki üç noktaya tıklayıp “Bu görsel hakkında” seçeneğini seçerek görselin yapay zeka tarafından oluşturulup oluşturulmadığını kontrol edebilecekler; bu nedenle umduğumuz kadar belirgin olmayacak.
Bu yeterli mi?
Google’ın yapması gereken şey bir şey Arama sonuçlarında AI görselleri hakkında, gizli bir etiketin yeterli olup olmadığı sorusu kalır. Özellik belirtildiği gibi çalışırsa, kullanıcıların Google onaylamadan önce bir görselin AI kullanılarak oluşturulup oluşturulmadığını doğrulamak için ek adımlar gerçekleştirmesi gerekecektir. About This Image özelliğinin varlığından henüz haberdar olmayanlar, kendileri için yeni bir aracın mevcut olduğunu fark etmeyebilirler bile.
Video deepfake’lerin bu yılın başlarında olduğu gibi bazı örnekleri görüldü finans çalışanı 25 milyon dolar ödemeye dolandırıldı CFO’su gibi davranan bir grup için, yapay zeka tarafından üretilen görüntüler neredeyse aynı derecede sorunludur. Donald Trump yakın zamanda Taylor Swift ve hayranlarının dijital olarak işlenmiş görüntülerini yayınladı Başkanlık kampanyasını yanlış bir şekilde destekleyen Swift, görüntüye dayalı cinsel tacizin kurbanı oldu. Yapay zeka tarafından oluşturulan çıplak fotoğrafları viral oldu.
Google’ın yeterince şey yapmadığından şikayet etmek kolay olsa da, Meta bile kediyi çantadan çıkarmaya pek istekli değil. Sosyal medya devi yakın zamanda güncellendi Etiketleri daha az görünür hale getirme ve ilgili bilgileri gönderinin menüsüne taşıma politikası.
‘Bu görüntü hakkında’ aracına yapılan bu yükseltme olumlu bir ilk adım olsa da, kullanıcıları bilgilendirmek ve korumak için ek agresif önlemler gerekecektir. Kamera üreticileri ve AI araçları geliştiricileri gibi daha fazla şirketin de Google’ın bu verilere bağımlı olacağı için bu sistemin olabildiğince etkili olmasını sağlamak için C2PA’nın filigranlarını kabul etmesi ve kullanması gerekecektir. Leica M-11P ve Nikon Z9 gibi birkaç kamera modeli yerleşik İçerik Kimlik Bilgileri özelliğine sahipken, Adobe hem Photoshop hem de Lightroom’da bir beta sürümü uyguladı. Ancak yine de özellikleri kullanmak ve doğru bilgileri sağlamak kullanıcıya bağlıdır.
Birinde Waterloo Üniversitesi tarafından yapılan çalışmainsanların yalnızca %61’i AI tarafından oluşturulan ve gerçek görüntüler arasındaki farkı anlayabiliyordu. Bu sayılar doğruysa, Google’ın etiketleme sistemi insanların üçte birinden fazlasına ek bir şeffaflık sunmayacaktır. Yine de, Google’ın çevrimiçi yanlış bilgiyi azaltma mücadelesine karşı olumlu bir adım, ancak teknoloji devlerinin bu etiketleri çok daha erişilebilir hale getirmesi iyi olurdu.
