OpenAI Salı günü yeni yapay zeka (AI) görüntü tanımlama ve tespit aracını tanıttı. Yapay zeka firması, yapay zeka tarafından oluşturulan içeriğin kimliğini doğrulama ve bu konuda farkındalık yaratma ihtiyacını vurgulayan yeni aracı duyurdu. Şirket ayrıca, yapay zeka tarafından oluşturulan içeriği etiketlemek için açık bir standart oluşturan İçerik Kanıtlanması ve Orijinallik Koalisyonu (C2PA) komitesine de resmi olarak katıldı. OpenAI’nin Şubat 2024’ten bu yana Dall-E tarafından oluşturulan görüntülerinde bu standardı kullandığı ve görüntülerin meta verilerine yapay zeka ile ilgili bilgiler eklemeye devam ettiği dikkat çekiyor.
İçinde Blog yazısıOpenAI, yapay zeka tarafından oluşturulan içeriğin başlamasıyla ortaya çıkan yeni zorlukların altını çizdi. Şirket şunları söyledi: “Oluşturulan görsel-işitsel içerik daha yaygın hale geldikçe, insanların çevrimiçi buldukları içeriği oluşturmak için kullanılan araçları anlamalarına yardımcı olacak yeni teknoloji ve standartları benimsemenin bir bütün olarak toplum için giderek daha önemli olacağına inanıyoruz.” Ayrıca ChatGPT yapımcısı, yapay zeka içerik kimlik doğrulamasına katkıda bulunmak için iki farklı önlem aldığını söyledi.
OpenAI, ilk adımında resmi olarak C2PA komitesine katıldı ve bunu dijital içerik sertifikasyonu için yaygın olarak kullanılan bir standart olarak nitelendirdi. Şirket ayrıca standardın çok çeşitli yazılım şirketleri, kamera üreticileri ve çevrimiçi platformlar tarafından takip edildiğinin altını çizdi. Basitçe söylemek gerekirse, C2PA, görsellerin ve diğer dosya türlerinin meta verilerine, bunların nasıl oluşturulduğunu ortaya çıkarmak için bilgi eklenmesini savunur. Bir kamera tarafından çekilen bir görüntü, kameranın adını ve özelliklerini içerirken, yapay zeka tarafından oluşturulan bir görüntü, yapay zeka modelinin adını içerecektir.
Bu tür kimlik doğrulama yöntemi, bir görüntüden meta verileri kaldırmanın veya değiştirmenin zor olması ve görüntü paylaşılsa, kırpılsa veya herhangi bir şekilde veya biçimde değiştirilse bile kalmaya devam etmesi nedeniyle kullanılır.
İkinci adımının altını çizen OpenAI, yapay zeka tarafından oluşturulan görüntüleri tanımlayabilen yeni bir araç üzerinde çalıştığını söyledi. Şirket, araca isim vermeden “OpenAI’nin görüntü algılama sınıflandırıcısı” adını verdi. Araç, bir görüntünün Dall-E tarafından oluşturulma olasılığını tahmin ediyor. Gönderiye göre araç, filtreler kullanılmasına veya görüntünün kırpılmasına rağmen, gerçek görüntülerle karşılaştırıldığında Dall-E tarafından oluşturulan görüntülerin yüzde 98’ini doğru bir şekilde etiketlemeyi başardı. Ancak araç, Dall-E’nin yapay zeka görüntüleri diğer yapay zeka modelleriyle karşılaştırıldığında zorluk yaşıyor. AI firması, bu durumlarda aracın numunenin yaklaşık yüzde 5-10’unda hata yaptığını söyledi.
Ancak OpenAI, aracı artık sınırlı sayıda halka açık test için açtı ve araştırma laboratuvarlarını ve araştırma odaklı gazetecilik kar amacı gütmeyen kuruluşlarını AI firmasına kaydolmaya ve araca erişmeye davet etti.
