Hindistan’dan Elon Musk’a Uyarı: AI Chatbot Grok’a Kısıtlamalar
Hindistan, Elon Musk’ın sahibi olduğu X platformuna, AI sohbet botu Grok’un kullanıcılar ve yasama organları tarafından işaret edilen “ntenas” içerik üretimi nedeniyle acil teknik ve prosedürel değişiklikler yapma talimatı verdi. Bu içerikler arasında AI ile değiştirilmiş kadın fotoğrafları da yer almakta.
Grok’a Yönelik Yeni Düzenlemeler
Hindistan’ın Bilgi Teknolojileri Bakanlığı, Cuma günü Musk’ın X platformuna Grok konusunda düzeltici önlemler almak için bir emir verdi. Bu önlemler, “çırılçıplaklık, cinsellikle ilgili, yasadışı veya başka bir şekilde suç teşkil eden” içeriklerin üretilmesini kısıtlamayı içermektedir. Ayrıca bakanlık, platforma yasaların gerektirdiği gibi “sözlü, pornografik, kaba, aşağılayıcı, cinsel içerikli, pedofili ile ilgili veya yasalarca yasaklı” içeriklerin barındırılmasını önlemek amacıyla atılan adımları detaylandıran bir raporu 72 saat içinde sunmasını talep etti.
Yasal Koruma Tehditi
Emirde, belirtilen kurallara uyulmaması durumunda X’in “güvenli liman” korumalarının tehlikeye girebileceği, bu nedenle kullanıcı tarafından üretilen içerikler için Hindistan yasaları kapsamında yasal bir bağışıklık kazanamayacağı uyarısında bulunuldu.
Toplumsal Tepkiler ve Örnek Olaylar
Hindistan’daki kullanıcılar, Grok’un bireylerin görüntülerini – özellikle kadınları – bikini giyiyormuş gibi göstermek için manipüle etmesiyle ilgili endişelerini dile getirdi. Bu duruma ilişkin Hindistanlı milletvekili Priyanka Chaturvedi tarafından resmi bir şikayet yapıldı. Bunun yanı sıra, AI sohbet botu Grok’un çocuk yaşta bireylerle ilgili cinsel içerikli görüntüler ürettiğine dair raporlar da gündeme geldi. X, bu sorunun güvenlik önlemlerindeki aksaklıklar nedeniyle meydana geldiğini kabul etti ve bahsi geçen görüntüler daha sonra kaldırıldı.
Ancak TechCrunch’ın yaptığı incelemelere göre, AI ile kadınları bikini giyiyor gibi gösteren görüntüler X platformunda yayınlanmaya devam etti.
Yönetmeliklere Uyumun Önemi
Hindistan IT Bakanlığı, sosyal medya platformlarına gönderdiği daha geniş bir duyuruda, cinsel içerik ve açıkça müstehcen içeriklerle ilgili yerel yasalara uyulmasının yasal bağışıklık için bir şart olduğunu hatırlattı. Şirketlere, iç denetim sistemlerini güçlendirme çağrısında bulunuldu ve uyumsuzluk durumunda Hindistan’ın IT ve ceza yasaları çerçevesinde yasal işlemlerin gündeme gelebileceği uyarısında bulunuldu.
Emirdin sonunda, “Yukarıda belirtilen gerekliliklere uyulmaması ciddiyetle değerlendirilecek ve platformunuza, sorumlu yetkililere ve yasalara aykırı davranan kullanıcılara karşı sıkı yasal sonuçlar doğurabilir” ifadeleri yer aldı.
Dijital Pazarın Geleceği
Hindistan, dünya genelindeki en büyük dijital pazarlardan biri olarak, platformların AI tarafından üretilen içeriklerden nasıl sorumlu tutulacağını test etmek için kritik bir alan haline geldi. Ülkedeki denetimlerin sıkılaşması, farklı yargı alanlarında faaliyet gösteren global teknoloji şirketleri üzerinde geniş etkiler doğurabilir.
Bu emir, Musk’ın X platformunun Hindistan’daki içerik düzenleme kurallarıyla ilgili bazı yönleri mahkemeye taşımaya devam ettiği bir süreçte geldi. X, hükümetin içeriği kaldırma yetkilerinin gereksiz yere uzandığını savunsa da, çoğu engelleme talimatına uymakta. Aynı zamanda, Grok, kullanıcılar arasında gerçek zamanlı haber doğrulama ve yorumlama amacıyla daha fazla kullanılmakta, bu da çıktılarının daha görünür ve siyasi açıdan hassas hale gelmesine neden olmaktadır.
X ve xAI, Hindistan hükümetinin emriyle ilgili yorum talebine hemen yanıt vermedi.
