Meta, dünya çapında seçim sezonu arttıkça önümüzdeki aylarda Facebook, Instagram ve Threads’e yüklenen yapay zeka tarafından oluşturulan fotoğrafları etiketlemeye başlayacak. Şirket ayrıca yapay zeka ile gerçekçi bir video veya ses parçasının yapılıp yapılmadığını açıklamayan kullanıcıları da cezalandırmaya başlayacak.
Meta’nın küresel ilişkilerden sorumlu başkanı Nick Clegg, bir röportajda, yapay zeka tarafından üretilen medyanın gerçeklikten ayırt edilmesinin giderek zorlaşması nedeniyle bu adımların teknoloji endüstrisini “hareketlendirmeyi” amaçladığını söyledi. Beyaz Saray, şirketlerin yapay zeka tarafından oluşturulan içeriğe filigran eklemesi konusunda yoğun baskı yaptı. Bu arada Clegg’e göre Meta, yapay zekanın yaratılmasındaki rolünü gizlemek için meta verileri değiştirilmiş olsa bile sentetik medyayı tespit edecek araçlar geliştiriyor.
Meta zaten kendi yazılımıyla oluşturulan görsellere “Imagined with AI” filigranı uyguluyor Yapay zeka jeneratörünü hayal edinve şirket aynısını Google, OpenAI, Microsoft, Adobe, Midjourney ve Shutterstock araçlarıyla oluşturulan yapay zeka tarafından oluşturulan fotoğraflara da yapmaya başlayacak. Clegg, sektörün yapay zeka tarafından oluşturulan video ve sesi tanımlamaya yönelik standartlar oluşturma konusunda çok geride olduğunu söyledi. ve Meta bu tür medyanın aldatmak için nasıl kullanılabileceği konusunda yüksek düzeyde tetikte olsa da, şirketin her şeyi kendi başına yakalayamayacağı belirtiliyor.
“Seçim öncesinde siyasi öneme sahip bir konuda halkı maddi olarak aldatmak amacıyla tasarlanan video ve ses içeriklerinden endişe duyanlar için oldukça dikkatli olacağız” dedi. “Ne kadar çabuk tespit edilirse edilsin veya ne kadar çabuk etiketlenirse etiketlensin, yine de bir şekilde topu düşürmekle suçlandığımız bir şeyin olma ihtimali olduğunu düşünüyor muyum? Evet, muhtemel olmasa da bunun mümkün olduğunu düşünüyorum.”
Clegg, Meta’nın yakında kullanıcılarından yapay zeka ile gerçekçi video veya ses paylaşımları yapıldığında açıklama yapmalarını talep etmeye başlayacağını söyledi. Aksi takdirde, “uygulanacak cezaların kapsamı, uyarılardan, rahatsız edici gönderinin kaldırılmasına kadar tüm kapsamı kapsayacaktır” dedi.
Halihazırda politikacıların viral, yapay zeka tarafından oluşturulan gönderilerine ilişkin pek çok örnek mevcut ancak Clegg, bu fenomenin bir seçim yılında Meta’nın platformunu aşma olasılığını küçümsedi. “Çok çabuk göremeyeceğimiz, çok önemli siyasi öneme sahip, tamamen sentetik bir video veya ses elde etmenizin pek mümkün olmadığını düşünüyorum” dedi. “Bunun bu şekilde sonuçlanacağını düşünmüyorum.”
Meta aynı zamanda Topluluk Standartlarına göre eğitilmiş büyük dil modellerinin (LLM’ler) kullanımını dahili olarak test etmeye başlıyor ve bunu on binlerce insan moderatörü için etkili bir “öncelik belirleme mekanizması” olarak nitelendiriyor. “Bu, insan incelemecilerimize iletilen şeyin gerçekten de insan yargısı gerektiren uç vakalar olduğundan emin olmanın son derece etkili ve oldukça kesin bir yolu gibi görünüyor.”