yeni Samsung Galaxy S24 Her şey AI ile ilgili, öyle ki telefon üreticisi, yeni AI filigranının, kullanıcıları AI tarafından değiştirilmiş veya tamamen sahte görüntüleri çevrimiçi olarak yaymaktan nasıl caydıracağı konusunda büyük bir anlaşma yaptı. Sorun şu ki S24 o kadar çok yapay zeka özelliğine sahiptir ki, Magic Eraser benzeri basit bir araç aynı filigranı çok az uğraşla kaldırabilir.
onun yerinde Galaxy Ambalajsız Geçtiğimiz Çarşamba günü gerçekleşen etkinlikte Samsung, şirketin üretim yeteneklerini kullanan her görselin filigranla birlikte geldiğini duyurdu. Bu, her resmin sol alt tarafında Samsung “ışıltı” logosu olarak görünür.
Gizmodo, Samsung’un kendi AI tabanlı nesne silme aracının (bir fotoğrafın istenmeyen kısımlarını ortadan kaldırabilen ve değiştirebilen, reklamı yapılan özellik) bir görüntünün AI tarafından oluşturulmuş olup olmadığını işaretlemesi gereken filigranı kaldırabildiğini doğruladı. Bu üzerinde çalıştı Galaxy S24 Ultra test modeli ve diğer birkaç kişi de, sahte görsellerin interneti olduğundan daha da yaşanmaz hale getirmesini engellemeyi amaçlayan oldukça büyük bir gözetime dikkat çekti.
Ama durum daha da kafa karıştırıcı oluyor. Gizmodo’nun testlerinde, nesne silme aracını kullandığımız bazı görüntüler filigranla görünmezken, yapay zekayla değiştirilmiş duvar kağıdı da dahil olmak üzere diğerleri filigranla göründü. Samsung’da Unpacked konferansının kaydını yeniden yayınladı, filigran, Bay Canavar, vincini devasa (kötü tadı olan) çikolatasından kurtarmak için nesne silme aracını kullandığında ortaya çıkıyor. Aynı klibin alt kısmında bulunan metinde Samsung, herhangi bir yanlış derin sahtekarlığın suçunu üstlenmediğini açıkça belirtti.
“Geratif Düzenleme bir ağ bağlantısı ve Samsung Hesabında oturum açmayı gerektirir. Üretken Düzenleme ile düzenleme, fotoğrafın 12 MP’ye kadar yeniden boyutlandırılmasıyla sonuçlanır. Görüntünün yapay zeka tarafından oluşturulduğunu belirtmek için, kaydetme sonrasında görüntü çıktısının üzerine görünür bir filigran eklenir. Üretilen çıktının doğruluğu ve güvenilirliği garanti edilmez.”
Samsung, bu sorunların farkında olup olmadığı ve bir düzeltme üzerinde çalışıp çalışmadığı konusunda Gizmodo’nun yorum talebine hemen yanıt vermedi. Nesne silme aracı, tıpkı kendisinden önceki Google’ın Sihirli Silgisi gibi, bir görüntüdeki istenmeyen nesnelerin piksellerini arka planla harmanlayacak şekilde değiştirir. Sistemin neden yeni görüntüde yalnızca aynı filigranı değiştirmediği belirsizliğini koruyor.
Büyük yapay zeka şirketleri şunu seviyor: Adobe Ve Beyaz Saray bile Çevrimiçi yapay zeka derin sahtelerinin akışıyla başa çıkmanın bir yolu olarak filigranı teşvik ettik. Samsung’un filigranları da dahil olmak üzere bu filigranlar, her görüntüye meta veriler ekleyerek resmin değiştirildiğini bildirir. Ancak, bir görselin meta verilerini biraz bilgi birikimiyle düzenlemek çok kolaydır. Instagram gibi uygulamalara yüklenen görseller, gramlarını akılsızca çeviren kullanıcılara herhangi bir meta veri göstermeyecek.
Sonra tekrardan, Yapay zeka uzun süredir filigranları kaldırabildiğini kanıtladı. Samsung sorunu çözerse ve filigranları daha su geçirmez hale getirirse, bu durum kullanıcıların aynı fotoğrafı başka benzer uygulamalara götürüp kaldırmasını engellemeyecektir. Google’ın DeepMind’ı daha önce bunun bir yolu olduğunu açıklamıştı. piksellerin içine daha kalıcı bir filigran yerleştirme bir görüntünün. DeepMind, bunun nasıl çalıştığına veya insanların bu değiştirilmiş görüntüleri tanımlamak için hangi araçları kullanabileceğine dair hiçbir fikir sunmadı, ancak şirket, özelliğin yalnızca Google’ın kendi araçlarıyla değiştirilen resimler üzerinde çalışacağını belirtti.
Geri kalanımız için yarım tedbirlerle yetinmek zorunda kalacağız.