Hükümet, Danışma Raporunda Hindistan’daki Yapay Zeka Modellerinin MeitY Onayını Gerektireceğini Söyledi: Rapor

Herhangi bir test aşamasında olan veya herhangi bir şekilde güvenilmez olan yapay zeka (AI) modelleri ve üretken yapay zeka modellerinin, Hindistan’da, Hindistan Elektronik ve Bilgi Teknolojileri Bakanlığı’nda konuşlandırılmadan önce “Hindistan hükümetinin açık iznini” alması gerekecektir ( MeitY) raporlara göre bir tavsiye niteliğinde yayınlandı. Uyarı, bazı kullanıcıların Google’ın Gemini AI sohbet robotunun ülkenin Başbakanı hakkında yanlış ve yanıltıcı bilgilerle yanıt verdiğini tespit etmesinden birkaç gün sonra geldi.

Bir göre rapor The Economic Times tarafından, tavsiye kararı 1 Mart’ta yayınlandı ve şirketlerden bundan sonra buna uymaları istendi. Danışman, ülkede halihazırda bir yapay zeka platformu kurmuş olan firmalardan “bilgisayar kaynaklarının herhangi bir önyargıya veya ayrımcılığa izin vermemesini veya seçim sürecinin bütünlüğünü tehdit etmemesini” sağlamalarını istedi. Ayrıca MeitY’nin, yapay zeka tarafından oluşturulan içeriğin yanlış bilgi yaymak veya derin sahtekarlıklar oluşturmak için kullanılabileceği ihtimaline karşı yapay zeka platformlarından meta veriler eklemesini istediği de bildirildi.

Platformun güvenilmez bir şekilde davranması ve yanlış bilgi üretmesi durumunda şirketlerden açık sorumluluk reddi beyanları eklemeleri de istendi. Ayrıca rapora göre platformlar, kullanıcıları derin sahtekarlıklar veya seçimleri herhangi bir şekilde etkileyebilecek herhangi bir içerik oluşturmak için yapay zekayı kullanmamaları konusunda uyarmak zorunda kalacak. Tavsiye belgesi şu anda yasal olarak bağlayıcı olmasa da Hindistan’daki yapay zeka düzenlemesinin geleceğinin bu olduğunu belirtiyor.

Güvenilmezlik sorunu ilk olarak bazı kullanıcıların Başbakan Narendra Modi hakkında yanlış bilgiler yayınlayan Google Gemini’nin ekran görüntülerini yayınlamasıyla ortaya çıktı. 23 Şubat’ta Birliğin Elektronik ve Bilgi Teknolojilerinden Sorumlu Devlet Bakanı Rajeev Chandrasekhar yanıt verdi X’e (eski adıyla Twitter) şunları söyledi: “Bunlar, BT Kanununun Ara Kurallarının (BT kuralları) 3(1)(b) Kuralının doğrudan ihlali ve Ceza Kanununun çeşitli hükümlerinin ihlalidir.”

Danışmanlığın yayınlanması girişimcilerden ve teknoloji alanından karışık tepkiler aldı. Bazıları bu hareketi takdir ederken, bunu yanlış bilgilerin azaltılmasının bir gerekliliği olarak nitelendirirken, diğerleri düzenlemenin gelişmekte olan sektörün büyümesi üzerinde olumsuz bir etkisi olabileceğini vurguladı. Perplexity AI’nin Kurucu Ortağı ve CEO’su Aravind Srinivas isminde bir gönderide “Hindistan’ın kötü hamlesi”.

Aynı doğrultuda KissanAI’nin kurucusu Pratik Desai de söz konusu, “GenAI’yi SF’den Hint Tarımına getirmek için çalışacağımı düşünerek o kadar aptalmışım ki. Çok modlu, düşük maliyetli zararlı ve hastalık modelini eğitiyorduk ve bu konuda çok heyecanlıydık. Yapay zekayı Hindistan’daki bu alana getirmek için 4 yıl boyunca tam zamanlı çalıştıktan sonra bu durum korkunç ve motivasyonumuzu düşürüyor.”

Eleştirilere bir dizi gönderiyle yanıt veren Chandrasekhar vurgulanmış Tavsiye kararının, platformların yasa dışı içerik oluşturmasını veya etkinleştirmesini yasaklayan ülkedeki mevcut yasalar dikkate alınarak yayınlandığı belirtildi. “[..]platformların BT ve ceza hukuku kapsamında mevcut yükümlülükleri bulunmaktadır. Dolayısıyla kendinizi korumanın en iyi yolu, etiketleme ve açık onay kullanmak ve büyük bir platformsanız, hataya açık platformları dağıtmadan önce devletten izin almaktır” diye ekledi.

Birlik Bakanı da açıkladı tavsiyenin “önemli platformlara” yönelik olduğunu ve yalnızca “büyük platformların” MeitY’den izin alması gerekeceğini söyledi. Bu tavsiye startuplar için geçerli değildir. Ayrıca, tavsiye niteliğindeki talimatlara uymanın, aksi takdirde platforma karşı dava açabilecek kullanıcılara karşı sigorta oluşturduğu için şirketlerin çıkarına olduğunu da sözlerine ekledi. “Hindistan’ın İnternetinin Güvenliği ve Güveni Hükümet, kullanıcılar ve Platformlar için ortak ve ortak bir hedeftir” dedi.