Hindistan, sosyal medya platformlarının yasa dışı yapay zeka (YZ) tarafından üretilen içerikleri daha hızlı kaldırmasını zorunlu hale getiren yeni düzenlemeleri duyurdu. Bu kurallar, 20 Şubat’tan itibaren yürürlüğe girecek ve YZ ile oluşturulan tüm içeriklerin açıkça etiketlenmesini gerektirecek.
Hindistan, 1 milyardan fazla internet kullanıcısıyla dünyanın en önemli büyüme pazarlarından biri olarak öne çıkıyor. Bu yolla, derin sahtecilik moderasyon çabaları global ölçekte etkilenebilir; yani YZ destekli tespitlerin geliştirilmesi gerekecek.
Gözden geçirilen Bilgi Teknolojisi Kuralları çerçevesinde, dijital platformların kullanıcıların yasa dışı YZ tarafından üretilen ses ve görsel içerikleri yapmasını veya paylaşmasını önlemek adına “makul ve uygun teknik önlemler” alması bekleniyor. Engellenemeyen her tür YZ içerik, “kalıcı metadata veya uygun teknik temel mekanizmaları” ile etiketlenmeli.
Bu uygulamalar, mevcut durumda YZ tespit ve etiketleme sistemlerinin oldukça yetersiz olduğunu göz önünde bulundurursak, oldukça zorlu bir süreç olarak karşımıza çıkıyor. C2PA (içerik kimlik bilgileri olarak da bilinir) bu süreçte kendini gösteren en iyi sistemlerden biri. Bu sistem, görüntü, video ve ses dosyalarına yaratım veya düzenleme anında ayrıntılı metadata ekleyerek, nasıl yapıldığı veya değiştirildiği hakkında bilgi verir.
Meta, Google, Microsoft gibi büyük teknoloji şirketlerinin zaten C2PA sistemini kullanıyor olması, bu sistemin etkinliğini sorgulatıyor. Bazı platformlar, C2PA tarafından işaretlenen içeriklere etiket ekliyorsa da, bu etiketlerin görünürlüğü zayıf. Ayrıca, açık kaynak YZ modelleri tarafından üretilmiş olan içerikler gibi metadata içermeyen materyaller de etiketlenemiyor.
Hindistan’da, sosyal medya kullanıcılarının 500 milyon olduğu tahmin ediliyor. Bu kullanıcı dağılımı şöyle: 500 milyon YouTube kullanıcısı, 481 milyon Instagram kullanıcısı, 403 milyon Facebook kullanıcısı ve 213 milyon Snapchat kullanıcısı bulunuyor.
C2PA’nın karşılaştığı en büyük sorunlardan biri de birlikte çalışabilirlik. Yeni düzenlemeler, bu metadata ve etiketlerin değiştirilemeyeceğini veya gizlenemeyeceğini zorunlu kılıyor. Ancak, platformların bu kurallara uyacak şekilde ne yapılacağına dair fazla zamanı yok.
Bu baskının yanı sıra, sosyal medya şirketleri, yasadışı materyalleri tespit ettiklerinden itibaren üç saat içinde kaldırmak zorunda kalacaklar; mevcut 36 saatlik sürenin yerine. Bu durum, derin sahtecilikleri ve diğer zararlı yapay zeka içeriğini de kapsıyor.
İnternet Özgürlüğü Fonu (IFF), bu zorunlu değişikliklerin platformları “hızlı ateş sansürcüleri” haline getirme riski taşıdığını belirtiyor. Böyle kısa zaman dilimleri, anlamlı insan incelemesi yapılmasını engellerken, otomatik aşırı kaldırma uygulamalarını teşvik ediyor.
Hindistan’ın talimatını destekleyen yetkililerin, mevcut YZ tespit ve etiketleme teknolojisinin henüz hazır olmadığının farkında olduğu anlaşılıyor. C2PA’yı destekleyen kuruluşlar, daha fazla kişi bu sistemi kullanırsa işlevselliğinin artacağına söz veriyor. Bu yeni düzenlemeler, bunu kanıtlama fırsatı mı sunuyor?
