Meta, Facebook, Threads ve Instagram da dahil olmak üzere tüm platformlarında yapay zeka (AI) tarafından oluşturulan görselleri etiketlemeye başlayacağını duyurdu. 6 Şubat’ta yapılan duyuru, şirketin denetim kurulunun, ABD Başkanı Joe Biden’ın kararıyla ilgili şikayete yanıt vererek Meta’nın yapay zeka tarafından oluşturulan içerikle ilgili politikasını değiştirme ve bunun neden olabileceği zararları önlemeye odaklanma ihtiyacını vurgulamasından sadece bir gün sonra geldi. internette ortaya çıkan dijital olarak değiştirilmiş video. Meta, kendi yapay zeka modelleri tarafından oluşturulan fotogerçekçi görüntüleri etiketlerken artık platformlarında paylaşılan yapay zeka tarafından oluşturulan tüm görüntüleri etiketlemek için diğer şirketlerle birlikte çalışacağını söyledi.
Bir haber odasında postalamak Salı günü Meta’nın Küresel İlişkiler Başkanı Nick Clegg, kullanıcıları korumak ve dezenformasyonu durdurmak için yapay zeka tarafından oluşturulan içeriği etiketleme ihtiyacının altını çizdi ve bir çözüm geliştirmek için sektör oyuncularıyla çalışmaya başladığını paylaştı. “Yapay zeka kullanılarak bir içerik parçası oluşturulduğunda sinyal veren ortak teknik standartlara uyum sağlamak için endüstri ortaklarıyla birlikte çalışıyoruz” dedi. Sosyal medya devi ayrıca şu anda Google, OpenAI, Microsoft, Adobe, Midjourney ve Shutterstock’tan görselleri etiketleyebildiğini de açıkladı. Meta’nın kendi yapay zeka modelleri tarafından oluşturulan görselleri “Yapay zeka ile hayal edildi” olarak etiketliyor.
Yapay zeka tarafından oluşturulan görüntüleri doğru bir şekilde tanımlamak için algılama araçları, bu tür görüntülerin tümünde ortak bir tanımlayıcı gerektirir. Yapay zeka ile çalışan birçok firma, görsellerin insanlar tarafından yaratılmadığını veya yakalanmadığını açıkça göstermenin bir yolu olarak, görsellerin meta verilerine görünmez filigranlar eklemeye ve bilgi yerleştirmeye başladı. Meta, endüstri tarafından onaylanmış teknik standartları takip ettiği için öne çıkan şirketlerin yapay zeka görüntülerini tespit edebildiğini söyledi.
Ancak bununla ilgili birkaç sorun var. Öncelikle, her yapay zeka görüntü oluşturucu, görüntülerin gerçek olmadığını açıkça ortaya koymak için bu tür araçları kullanmaz. İkincisi Meta, görünmez filigranı kaldırmanın yolları olduğunu fark etti. Bunun için şirket, filigranlama için kolayca kaldırılamayan birleşik bir teknoloji oluşturmak üzere endüstri ortaklarıyla birlikte çalıştığını açıkladı. Geçtiğimiz yıl, Meta’nın yapay zeka araştırma kanadı Temel Yapay Zeka Araştırması (FAIR), duyuruldu İşaretleyiciyi doğrudan görüntü oluşturma sürecine yerleştiren Kararlı İmza adı verilen bir filigranlama mekanizması geliştirdiğini söyledi. Google’ın DeepMind’ı da SynthID adında benzer bir araç yayınladı.
Ancak bu sadece görüntüleri kapsıyor. Yapay zeka tarafından üretilen ses ve videolar da günümüzde sıradan hale geldi. Bu konuya değinen Meta, ses ve video için benzer bir algılama teknolojisinin henüz oluşturulmadığını ancak geliştirme çalışmalarının devam ettiğini kabul etti. Bu tür içerikleri otomatik olarak tespit edip tanımlamanın bir yolu ortaya çıkana kadar teknoloji devi, platformuna kullanıcıların yapay zeka tarafından oluşturulan video veya sesi paylaştıklarında bunu ifşa etmeleri için bir özellik ekledi. Açıklandıktan sonra platform buna bir etiket ekleyecektir.
Clegg ayrıca, kişilerin bu tür içerikleri açıklamaması ve Meta’nın bu içeriğin dijital olarak değiştirildiğini veya oluşturulduğunu öğrenmesi durumunda kullanıcıya ceza uygulayabileceğinin altını çizdi. Ayrıca, paylaşılan içerik yüksek riskli nitelikteyse ve önemli konularda halkı yanıltabiliyorsa, kullanıcıların bağlam kazanmasına yardımcı olmak için daha da belirgin bir etiket eklenebilir.
