Endonezya, rızasız cinselleştirilmiş deepfake’leri engelledi

İndonezya, xAI’nin Grok Chatbot’una Erişimi Geçici Olarak Engelledi

İndonezya hükümeti, xAI tarafından geliştirilen Grok chatbot’una erişimi geçici olarak engelledi. Bu adım, yapay zeka tarafından üretilen cinsel içeriklere karşı alınan en sert önlemlerden biri olarak öne çıkıyor. Grok’un, sosyal medya platformu X üzerinden kullanıcı isteklerine yanıt olarak paylaştığı bu tür içeriklerin çoğu, gerçek kadınları ve hatta çocukları hedef alıyor.

Hükümetin Cinsiyet Temelli Derin Sahtecilik Konusundaki Kararlılığı

İndonezya’nın iletişim ve dijitalleşme bakanı Meutya Hafid, yaptığı açıklamada, “Rızaya dayanmayan cinsel derin sahtecilik uygulamalarının insan hakları, onur ve dijital alandaki yurttaş güvenliği açısından ciddi bir ihlal olduğunu” vurguladı. Hükümet ayrıca, konu hakkında X yetkililerini çağırarak durumun ciddiyetini gözler önüne serdi.

Dünya genelinde pek çok hükümet, benzer içeriklerin yayılmasını engellemek için harekete geçti. Hindistan’ın IT bakanlığı, xAI’ye Grok’un müstehcen içerik üretmesini önlemek amacıyla harekete geçmesi için bir talimat verirken, Avrupa Komisyonu da Grok ile ilgili tüm belgelerin saklanmasını istedi. Birleşik Krallık’taki Ofcom, potansiyel uyum sorunları hakkında hızlı bir değerlendirme yapacağını duyurdu.

Amerika Birleşik Devletleri’nde ise, Trump yönetimi konuda sessiz kalmayı tercih ederken, Demokrat senatörler Apple ve Google’a Grok’u uygulama mağazalarından kaldırmaları için baskı yapıyor. xAI, bu gelişmelerin ardından bir özür mesajı yayımlayarak, çocuğa yönelik cinsel istismar materyalleri ile ilgili etik standartları ihlal eden bir paylaşımda bulunduklarını kabul etti.

Grok’un yapay zeka görüntü oluşturma özelliği, ilk başta tüm kullanıcılara açıktı ancak sonrasında yalnızca ücretli abonelere kısıtlandı. Ancak bu değişiklik, Grok uygulamasını etkilemedi; uygulama hâlâ herkesin görüntü oluşturmasına izin veriyor. xAI’nin CEO’su Elon Musk, bu durumla ilgili eleştiriler geldiğinde “Sansür için her türlü bahaneyi arıyorlar” ifadelerini kullandı.