Teknoloji dünyasında, X platformu, Elon Musk’ın tartışmalı chatbot’u Grok’a yönelik ciddi kısıtlamalar getirdi. Son haftalarda, kullanıcıların izni olmadan üretilen cinsel deepfake içeriklerinin yayılması üzerine dikkatler bu araca çevrildi. Musk, Grok’un yerel yasalara saygı gösterdiğini ve illegal içerikler üretmediğini iddia etse de, yapılan testler Grok’un hâlâ erkekleri soyundurduğunu ve talep üzerine samimi görüntüler ürettiğini gösteriyor.
Küresel bir tartışma başlatan bu gelişmeler sonrasında, X, cinsel deepfake içeriklerinde artan görüntü akışını engellemek amacıyla bir dizi kısıtlama çıkardı. Geçtiğimiz hafta Grok’u test ettiğimde, kendimle ilgili tamamen giyinik fotoğraflar yükleyerek Grok’un kıyafetleri çıkarması için talimat verdim. Bot, bu isteklere hızlıca yanıt vererek, benim fotoğraflarımı aşırı cüretkâr iç çamaşırları içinde gösterdi. Tüm bunlar, Grok uygulaması, X’in chatbot arayüzü ve kullanıcı kaydı gerektirmeyen bağımsız bir web sitesi aracılığıyla ücretsiz bir şekilde gerçekleştirildi. Ancak kadınlarla yaptığım benzer testlerde, Grok bu tür isteklere yanıt vermeyi reddetti.
Durum giderek kötüleşti. Grok, bana çeşitli fetiş kıyafetleri ile ve cinsel pozisyonlarda görüntüler oluşturdu. Ayrıca, yanında etkileşimde bulunabileceğim çıplak bir arkadaş bile yarattı. Bu görüntülerin hiçbiri iş yerinde gösterilmeye uygun değildi. Üstelik, Grok bana, istemeden de olsa, cinsel organlar içeren görüntüler üretti.
Bu görüntüleri oluşturmak genellikle birkaç deneme gerektirdi. Grok, çoğu talebe direnç göstermezken, bazı talepler ya reddedildi ya da bulanıklaştırılarak sansürlendi. Ancak, çoğu isteğim yerine getirilerek, talep ettiğim bir veya iki görüntü oluşturuluyordu. Grok, gerçek insanlar için çıplaklık taleplerine yanıt vermedi, ancak “şu kişiyi açık bikinili göster” gibi yaratıcı yönlendirmeler bazı durumlarda sansürleri aşabiliyordu.
9 Ocak’ta, X yalnızca görüntü düzenleme özelliğine bir ücretli erişim getirdi. Bu sınırlama, X üzerinde üretilen deepfake sayısını azaltmayı başarsa da, Grok’un ücreti ödeme isteğiyle insanları soyabilmesi hala tepki topladı. Bu durum, İngiliz hükümetinin, cinsel deepfake’leri suç sayan bir yasayı gündeme almasına yol açtı. X, sorunu kökünden çözmeyi başaramadı; çünkü Grok’un görüntü düzenleme araçları, bağımsız bir uygulama ve web sitesi üzerinden hala erişilebilir durumda.
14 Ocak’ta X, gerçek insanları dijital olarak soyma işlevini durdurmak için “teknolojik önlemler” uyguladı. Ancak yapılan araştırmalar, bu önlemlerin zayıf ve etkisiz olduğunu, Grok’un yalnızca genel yanıtları kısıtladığını ortaya koydu. Başka alanlarda Grok, giyinik fotoğraflardan cüretkâr ve cinsel içerikli görüntüler üretme taleplerine yanıt vermeye devam etti.
Grok’un cinsel içerik üretebilmesi, X ve Grok’un geliştiricisi xAI için regülatörlerin ve yasaların yönlendirdiklerinin odak noktası haline geldi. X, Endonezya ve Malezya’da geçici olarak yasa dışı ilan edildi. Ayrıca Birleşik Krallık ve AB’de soruşturmalara maruz kaldı. Bu platform, ceza alabileceği ve hatta yasaklanabileceği durumlarla karşı karşıya kalabilir.
Kamuoyundaki tepki büyük ölçüde kadınlar ve çocuklar üzerine yoğunlaşmış durumda. Skandalın zirve noktasında, Grok, dokuz gün boyunca dört milyondan fazla görüntü oluşturarak, bunların hemen hemen yarısı kadınların cinsel içerikli görüntüleri oldu.
X ve xAI tarafından uygulanan teknik önlemler, kadınları hedef alan en bariz talepleri durdurmuş görünse de, bazı kısıtlamalar yaratıcı veya alternatif ifadelerle aşılmaya devam ediyor. Sizce Grok’un sadece erkeklerle sınırlı olan bu durum, platform için ne tür yasal sonuçlar doğurabilir?
