Ne bilmek istiyorsun
- OpenAI kısa süre önce, ChatGPT veya DALL-E 3 teknolojisine hizmet eden API kullanılarak oluşturulan görüntülere filigran ekleyeceğini duyurdu.
- Bu, kullanıcıların bu yapay zeka araçları kullanılarak oluşturulan görüntüleri tanımlamasına yardımcı olacak ve bunları gerçek/gerçek resimlerden açıkça arındıracaktır.
- Bu değişiklik yalnızca görseller için geçerlidir; AI tarafından oluşturulan sesi veya metni etkilemez.
Yapay zekanın derin sahtekarlıklarının ve internetteki yanlış bilgilerin yaygın olduğu bir ortamda, OpenAI duyuruldu Bu sorunla mücadele için adımlar atılıyor. ChatGPT veya DALL-E 3 teknolojisine hizmet eden API kullanılarak oluşturulan görüntülerde artık filigranlar yer alacak. Bu, filigranın insanları bir görüntünün yapay zeka tarafından oluşturulduğu konusunda bilgilendireceği için şirketin daha fazla şeffaflığı teşvik etme teklifidir.
Filigran, görüntünün ne zaman oluşturulduğu ve C2PA logosu dahil olmak üzere ayrıntılı bilgileri içerecektir. Ancak OpenAI, İçerik Kaynağı ve Orijinallik Koalisyonu’nu (C2PA) DALL-E 3 teknolojisine ve ChatGPT’ye dahil etmenin “kaynak sorunlarını çözecek sihirli bir çözüm” olmadığını kabul ediyor. Şirket daha da vurgulanmış O:
“C2PA gibi meta veriler, kaynak sorunlarını çözecek sihirli bir değnek değildir. Kazara veya kasıtlı olarak kolaylıkla kaldırılabilirler. Örneğin, günümüzde çoğu sosyal medya platformu, meta verileri yüklenen görsellerden kaldırmaktadır ve ekran görüntüsü alma gibi eylemler de onu kaldırabilmektedir. Bu nedenle, bu meta veriyi içermeyen bir görüntü ChatGPT veya bizim API’mızla oluşturulmuş veya oluşturulmamış olabilir.”
Bu değişikliğin, bu araçlar kullanılarak oluşturulan görsellerin dosya boyutlarını biraz etkileyebileceğini belirtmekte fayda var. Ancak bu, resimlerin kalitesini etkilemez. C2PA meta verilerinin yapay zeka tarafından oluşturulan görsellerin boyutunu nasıl etkileyebileceği aşağıda açıklanmıştır:
- API aracılığıyla PNG için 3,1 MB → 3,2 MB (%3 artış)
- API aracılığıyla WebP için 287 bin → 302 bin (%5 artış)
- ChatGPT aracılığıyla WebP için 287 bin → 381 bin (%32 artış)
Değişikliğin önümüzdeki hafta 12 Şubat 2024’te mobil kullanıcılara sunulması bekleniyor.
Filigran eklemek doğru yönde atılmış bir adımdır ancak yeterli midir?
Üretken yapay zeka konusunda beni büyüleyen şeylerden biri, metin tabanlı istemleri kullanarak saniyeler içinde gerçeğe yakın görüntüler oluşturmak için teknolojiden yararlanma yeteneğidir. Designer’dan Image Creator (eski adıyla Bing Image Creator) ve ChatGPT gibi bu özel amaç için tasarlanan yapay zeka destekli araçlar yalnızca zamanla gelişti.
Ancak her şey eğlenceli ve gösterişli olmadı. Microsoft’un Designer’dan Image Creator’ın avantajları OpenAI’nin DALL-E 3 teknolojisi, görüntü oluşturma yeteneklerini bir sonraki seviyeye taşıdı. Kuşkusuz, AI aracı önceki sürümlere kıyasla daha iyi görünen görüntüler üretiyor.
Ne yazık ki, aracın rahatsız edici ve müstehcen içerik oluşturmak için kullanıldığı örnekleri öne süren, internette ortaya çıkan raporların sayısının artması nedeniyle bu heyecan kısa sürdü. Bu, Microsoft’u, kötüye kullanımı önlemek için korkuluklar yerleştirmeye ve görüntü oluşturma aracı üzerindeki sansürü artırmaya zorladı.
Bu önlemler araç üzerinde kontrol sağlanmasında çok önemli bir rol oynasa da, bazı kullanıcılar Microsoft’un sansürü biraz abarttığını ve sonuçta onu lobotomize ettiğini hissetti.
İLGİLİ: Google’ın yeni görsel oluşturma aracı, çıktılarda ince ayar yapmanızı sağlar
Birkaç hafta önce, tanınmış pop yıldızı Taylor Swift’in açık görselleri sosyal medya platformlarında viral oldu, ancak gerçek daha sonra gün ışığına çıktı ve bunların Microsoft Designer kullanılarak oluşturulduğuna inanılan yapay zeka deepfake’leri olduğu ortaya çıktı.
Görünüşe göre bu araçlar ne kadar çok sansüre maruz kalırsa, yeteneklerini tam olarak keşfetmek ve bunlardan yararlanmak o kadar zorlaşıyor.
