Hükümet, BT ve Telekom Bakanı Ashwini Vaishaw’un “demokrasiye yönelik bir tehdit” olarak tanımladığı durumu kısıtlamak için hem yaratıcılara hem de deepfake barındıran platformlara ceza uygulayabilecek yeni düzenlemeler planlıyor.
Bazı ünlülerin yüzlerinin başka bir videoda manipüle edildiğini bildirmesiyle birlikte, yeni koruma düzenlemeleri dikkate alınarak yapay zeka tarafından oluşturulan içeriğe filigran ekleme, derin sahte algılama, veri yanlılığı kuralları, mahremiyet ve konsantrasyona karşı korumalar gibi önlemler ele alınacak.
Vaishnaw, sosyal medya platformları, Nasscom ve yapay zeka (AI) alanındaki diğer profesörler de dahil olmak üzere çeşitli paydaşlarla görüştükten sonra şunları söyledi: “Deepfake’ler demokrasiye yönelik yeni bir tehdit olarak ortaya çıktı. Bunlar topluma ve kurumlarına olan güveni zayıflatabilir.” .
“Yönetmeliklerin taslağını bugün bizzat hazırlamaya başlayacağız ve çok kısa bir süre içinde deepfake’ler için ayrı bir düzenlemeye sahip olacağız” dedi.
Hükümetin 10 gün içinde dört sütun üzerinde eyleme dönüştürülebilir maddeler bulacağını söyledi: Deepfake’lerin tespiti, bu tür içeriklerin yayılmasının önlenmesi, raporlama mekanizmalarının güçlendirilmesi ve konuyla ilgili farkındalığın yayılması.
Toplantıya katılan tüm paydaşların deepfake ile ilgili benzer endişeleri paylaştığını söyledi. “Tüm sosyal medya platformları, deepfake’leri tespit edecek kapsamlı teknolojiye sahip olma konusunda anlaştı.” Hindistan’da 80’den fazla crore internet kullanıcısı var ve bu sayının iki yıl içinde 120 crore’yi geçmesi bekleniyor. Deepfake, bir kişinin görünümünü, sesini veya eylemlerini gerçekçi ve orijinal, değiştirilmemiş içerikten ayırt edilmesi zor olacak şekilde değiştirmek için yapay zekadan yararlanan bir teknoloji parçasıdır. Son zamanlardaki deepfake’ler, yeni Dijital Hindistan yasasında yapay zekaya yönelik düzenleyici bir çerçevenin aciliyetini ön plana çıkardı.
Vaishnaw, derin sahte reklamların veya yanıltıcı tanıtımların Hint toplumunun şu anda karşı karşıya olduğu bir tehdit olduğunu söyledi.
Burada gazetecilere verdiği demeçte, “Sosyal medyanın kullanılması, deepfake’lerin herhangi bir kontrol olmadan daha hızlı ve önemli bir şekilde yayılmasını ve viral hale gelmesini sağlıyor. Bu nedenle topluma ve demokrasimize olan güveni güçlendirmek için acil adımlar atmamız gerekiyor.”
Aktör Rashmika Mandanna’nın yüzünün bu ayın başlarında utanç verici bir videoda kullanıldığı ortaya çıktıktan sonra Deepfakes ön plana çıktı. Katrina Kaif ve Kajol gibi diğer bazı ünlülerin de deepfake kurbanı olduğu bildirildi.
Geçen hafta Başbakan Narendra Modi de deepfake’lerin oluşturduğu tehdit konusunda uyardı.
Cumartesi günü Vaishnaw, sosyal medya platformlarının deepfake’lere karşı önlem almamaları halinde Bilgi ve Teknoloji Yasası’nın ‘güvenli liman’ maddesi kapsamında sahip oldukları dokunulmazlığı kaybedecekleri konusunda uyardı. Maddede, çevrimiçi bir platformun kullanıcılar tarafından paylaşılan içerikten sorumlu tutulamayacağı belirtiliyor.
Perşembe günü paydaşlarla yapılan toplantının ardından, deepfake video yaratıcılarının etiketleme ve filigranları bile kırmanın yollarını bulduğunu söyledi. “Dolayısıyla bundan kurtulmanın bir yolunu bulan bir şey olmalı.” Konuyla ilgili bir sonraki toplantı Aralık ayının ilk haftasında yapılacak.
Önümüzdeki 10 gün içinde hükümet, dört sütun üzerinde eyleme dönüştürülebilir net maddeler sunacak: Tespit (derin sahtekarlıkların ve yanlış bilgilerin), yanlış bilgilerin yayılmasının nasıl önleneceği, raporlama mekanizmalarının nasıl güçlendirileceği (uygulama içi raporlama mekanizmalarının güçlendirilmesi gerekmektedir) ) ve farkındalığın arttığını söyledi bakan.
“Bütün şirketler endişemizi paylaştı. Bunun ifade özgürlüğü olmadığını, çok zararlı bir şey olduğunu anladılar… Çok daha ağır düzenlemelerin gerekliliğini anladılar” diye ekledi. “Sosyal medyanın kullanımı, deepfake’lerin hiçbir kontrole gerek kalmadan önemli ölçüde daha hızlı yayılmasını sağlıyor ve yüklemeden birkaç dakika sonra viral hale geliyor.
Bakan, toplumda güveni güçlendirmek ve demokrasimizi korumak için atılması gereken çok acil adımlar olduğunu söyledi. “Bu konuda bir an önce adım atılması gerekiyor, ister hukuki, ister düzenleyici, ister teknik olsun her türlü adımı atmamız gerekiyor.
Mevcut kuralda değişiklik olur mu, yeni kanun getirilip getirilmeyeceği yönündeki soruya ise, “Bunu mevcut kurallarda değişiklik yapmak şeklinde getirebiliriz veya yeni bir düzenleme seti getirebiliriz.
“Ayrıca filigran ve etiketlemeyi de tartıştık. Herkes bunu yapmamız gerektiği konusunda hemfikirdi; bu herkesin yapması gereken temel minimum miktardır” dedi. “Yönetmeliği hazırlarken hem platformu yükleyen hem de oluşturan kişiye verilecek cezalara da bakacağız. Tespit, önleme, raporlama mekanizmasının güçlendirilmesi ve farkındalık yaratılmasına yönelik düzenlemeyi hükümetin getireceğini söylüyoruz. topluma zararlı olabilecek deepfake ve yapay zeka tarafından oluşturulan içeriklere yönelik teknolojilerin kullanılması.
Düzenleme yapılana kadar sosyal medya platformları ve şirketler, deepfake’lerin yayılmasını önlemek için mümkün olan her türlü önlemi alacaklarının sözünü verdi. “Hepsi içeriden adım attıklarını ve bu adımların yoğunluğunu artırmak istediklerini söyledi” dedi.
İfade özgürlüğünün ve mahremiyetin hükümet için önemli olduğunu belirterek, her iki yapının da deepfake ile baltalandığını söyledi. “Dolayısıyla yeni düzenleme derin sahteliğe yöneliktir ve yapay zeka tarafından oluşturulan içerik topluma zararlı değildir.” Deepfake örnekleri veren bakan, Madhya Pradesh’teki seçim çalışmaları sırasında başbakanın bir nevi karşı partiye oy verin dediği bir videonun ortaya çıktığını söyledi.
“Bu tamamen yanlış bilgi, derin sahte ve derin yanlış bilgiydi. Bunu ele almalıyız, ayrıca bunları yaratan kişilerin tespit edilmesini ve bu içeriğin yayınlandığı platformlar olan platformlarla aynı anda kendi cezalarına sahip olmalarını sağlamalıyız. yayılıyorlar, aynı zamanda platformlarında nelerin yayınlanmasına izin verdikleri konusunda da sorumluluk almak zorundalar.
“Deepfake’i tespit etmek çok önemli. Sentetik ve deepfake içerik arasında ayrım yapmak çok önemli” diye ekledi.