Elon Musk, xAI’nin Grok isimli chatbot’u ile ilgili olarak “Çıplak, küçük yaşta görüntüler hakkında hiç bir bilgiye sahip değilim” açıklamasında bulundu. Bu açıklama, Kaliforniya Başsavcısı’nın Grok hakkında “rızaya dayanmayan cinsel içeriklerin yayılması” konusuyla ilgili bir soruşturma başlatmasının hemen öncesinde geldi.
Dünyanın dört bir yanındaki hükümetlerin baskısı artarken, X platformunda kullanıcılar Grok’tan gerçek kadınlara ait fotoğrafları rızaları olmaksızın cinsel içeriklere dönüştürmesini istemeye başladı. AI tespit ve içerik yönetim platformu Copyleaks, her dakikada yaklaşık bir cinsel içerikli görüntü paylaşıldığını tahmin ediyor. Ayrı bir örnekte, 5-6 Ocak tarihleri arasında yapılan bir analiz, 24 saatlik bir süre boyunca saatte 6,700 cinsel içerikli görüntü üretilmiş olduğunu ortaya koydu. (X ve xAI aynı şirketin parçasıdır.)
Kaliforniya Başsavcısı Rob Bonta, “Bu materyal, internet üzerinde insanları rahatsız etmek için kullanılmıştır. xAI’yi derhal harekete geçmeye davet ediyorum” dedi. Başsavcılığın ofisi, xAI’nin yasalara nasıl ve ne şekilde aykırı hareket ettiğini araştıracak.
Rızaya dayanmayan cinsel görüntüler ve çocuk cinsel istismar materyali (CSAM) hedeflerini korumak için çeşitli yasalar mevcuttur. Geçen yıl, rızaya dayanmayan yakın görüntülerin – derin sahte görseller dahil – dağıtımını cezalandıran Take It Down Yasası yürürlüğe girdi ve X gibi platformların, bu tür içerikleri 48 saat içinde kaldırmasını gerektirdi. Kaliforniya ayrıca, cinsel içerikli derin sahte görüntüleri sıkı bir şekilde kontrol eden bir dizi yasa çıkardı.
Grok, yılın sonlarına doğru kullanıcı talebine bağlı olarak kadınların ve çocukların cinsel içerikli fotoğraflarını üretmeye başladı. Bu trend, bazı yetişkin içerik üreticilerinin kendilerine cinsel içerikler oluşturma isteğiyle başlamıştı ki bu da diğer kullanıcıların benzer talepler oluşturmasına yol açtı. Millie Bobby Brown gibi tanınmış kişilerin de dahil olduğu birçok kamu davasında, Grok gerçek kadınların fotoğraflarını cinsel içeriklere dönüştüren taleplere yanıt verdi.
Bazı raporlara göre, xAI bu sorunu ele almak amacıyla güvenlik önlemleri almaya başladı. Grok, artık belirli görüntü üretim taleplerine yanıt vermeden önce premium bir abonelik gerektiriyor; bu durumda bile görüntü üretilmeyebilir. Copyleaks’in pazarlama müdürü April Kozen, Grok’ın talepleri daha genel veya yatıştırılmış bir biçimde yerine getirebileceğini de belirtti.
Musk, bu sorunla doğrudan yüzleşmemiş olsa da, birkaç gün sonra Grok’tan kendisiyle bikini içinde bir görüntü üretmesini istedi. 3 Ocak’ta X’in güvenlik hesapları, yasal olmayan içeriklere karşı aksiyon alındığına dair bir açıklama yaptı, ancak bu açıklama Grok’ın görünür tedbirlerine ya da kadınların cinsel içerikli görüntülerinin üretilmesine doğrudan değinmedi.
Musk, “Grok tarafından üretilmiş hiçbir çıplak, küçük yaşta görüntü hakkında bilgim yok. Kesinlikle sıfır” diyerek, bikini fotoğraflarının ya da daha genel cinsel içerikli düzenlemelerin varlığını inkâr etmedi. New York Hukuk Okulu’ndan Michael Goodyear, Musk’ın muhtemelen CSAM üzerine odaklandığını, çünkü çocuklara yönelik yapılan cinsel içerikler için ceza yasalarının daha ağır olduğunu ifade etti.
Musk, “Grok rastgele görüntüler üretmez. Kullanıcı taleplerine göre hareket eder” diye yazdı. “Görüntü taleplerinde bulunulduğunda, yasadışı bir şey üretmeyi reddedecektir, çünkü Grok’ın çalışma prensibi herhangi bir ülkenin veya eyaletin yasalarına uymaktır.”
Musk, bu olayları nadir, kullanıcı taleplerine veya karşıt yönlendirmelere dayalı olarak ortaya çıkan teknik sorunlar olarak tanımladı. Öte yandan Grok’ın güvenlik tasarımındaki eksiklikleri kabul etmedi.
Kaliforniya Başsavcısı, xAI’yi bu durumdan sorumlu tutmaya çalışan tek düzenleyici değil. Endonezya ve Malezya, Grok’a erişimi geçici olarak engelledi; Hindistan ise X’ten Grok üzerinde derhal teknik ve idari değişiklikler talep etti. Avrupa Komisyonu, xAI’den Grok ile ilgili tüm belgeleri 2026’nın sonuna kadar saklamasını istedi ve Birleşik Krallık’ın çevrimiçi güvenlik denetleyicisi Ofcom, resmi bir soruşturma başlattı.
Grok’ın daha önce ürettiği cinsel içerik ciddi eleştirilere neden oldu. Başsavcı Bonta, Grok’ın “tahriş edici modunun” açık içerik üretmekte olduğunu belirtti. Ekim ayındaki bir güncelleme, güvenlik kurallarının aşılmasını daha da kolaylaştırdı ve birçok kullanıcı Grok ile sert pornografi ve grafik cinsel görüntüler yaratmaya başladı.
Grok’ın ürettiği daha pornografik görüntülerin çoğu, yapay zeka tarafından oluşturulmuş insanlara aittir ve bu durum etik olarak tartışmalı olsa da, belki de görüntülerdeki bireyler için daha az zararlıdır. Copyleaks’in CEO’su Alon Yamin, “Yasalara uygun izin olmaksızın gerçek insanların görüntülerinin manipüle edilmesi, sonuçları hemen ve derin bir kişisel etki yaratabilir” dedi. AI yeteneklerinin hızla yükseldiğini ve bu nedenle tespit ve yönetimin her zamankinden daha fazla gerekli hale geldiğini ifade etti.
Sizce bu tür teknolojik gelişmelere karşı nasıl bir düzenleme yapılmalı?
