İki yıldan fazla bir süredir, ClothOff adlı bir uygulama genç kadınları çevrimiçi olarak tehdit ediyor. Uygulama, iki büyük uygulama mağazasından kaldırıldı ve çoğu sosyal platformdan yasaklandı, ancak hala web üzerinde ve Telegram botu aracılığıyla mevcut. Ekim ayında, Yale Hukuk Fakültesi’nde bir klinik, uygulamanın tamamen kapatılmasına yönelik bir dava açtı ve sahiplerini tüm görüntüleri silmeye ve tamamen faaliyetlerini durdurmaya zorlamayı hedefliyor. Ancak sanıkları bulmak oldukça zorlayıcı oldu.
Dava sözcülerinden Profesör John Langford, “Şirket, Britanya Virgin Adaları’nda kurulmuş,” diyor, “ancak bunun Belarus’ta bir kardeş ve kız kardeş tarafından yönetildiğini düşünüyoruz. Belki de bu, dünya genelinde daha büyük bir ağın parçası.” şeklinde açıklıyor.
Bu durum, Elon Musk’ın xAI tarafından üretilen rızasız pornografi patlamasının ardından gelen acı bir ders. Bu videoların çoğunda birçok reşit olmayan mağdur bulunuyor. Çocuk cinsel istismarı materyalleri, internetteki en yasal olarak zehirli içerik. Üretimi, iletimi veya saklanması yasak; her büyük bulut hizmetinde düzenli olarak taranmaktadır. Ancak bu yoğun yasal engellere rağmen, ClothOff gibi görüntü üreticileriyle başa çıkmanın pek az yolu var, bu da adalet arayan mağdurlar için oldukça sınırlı seçenekler sunuyor.
Klinik tarafından yapılan şikayet, çevrimiçi olarak mevcut olup, endişe verici bir tablo çiziyor. Davacı, ClothOff’u Instagram fotoğraflarını değiştirmek için kullanan New Jersey’li anonim bir lise öğrencisi. Orijinal Instagram fotoğrafları çekildiğinde 14 yaşındaydı, bu da yapay zeka ile değiştirilmiş versiyonların yasal olarak çocuk istismarı görüntüsü olarak sınıflandırıldığı anlamına geliyor. Ancak değiştirilmiş görüntülerin tamamen yasa dışı olmasına rağmen, yerel makamlar, şüphelilerin cihazlarından kanıt elde etmenin zorluğunu gerekçe göstererek davayı savcılığa taşımayı reddetti.
“Ne okul ne de suç soruşturma merkəzi, Jane Doe ve diğer kızların cinsel istismar materyalinin ne kadar yaygın şekilde dağıtıldığını belirleyebildi,” şeklinde belirtiliyor.
Yine de, dava süreci yavaş ilerliyor. Şikayet Ekim ayında yapıldı ve o zamandan bu yana Langford ve ekibi, sanıklara bildirimde bulunmaya çalışıyor — bu, işin küresel niteliği göz önüne alındığında oldukça zor bir görev. Bildirimde bulunduktan sonra, klinik mahkeme duruşması talep edebilir ve nihayetinde bir hüküm alabilir, ancak bu süreçte hukuki sistem, ClothOff’un mağdurlarına pek rahatlık sunmuyor.
Grok davası daha basit bir sorun olarak görünebilir. Elon Musk’ın xAI gizlenmiyor ve avukatlar için önemli bir kazanç kapısı açık. Ancak Grok, genel amaçlı bir araç olduğundan, mahkemede hesap sorulması daha zordur.
“ClothOff, özellikle derin sahteçilik pornografisi görüntü ve video üreticisi olarak tasarlandı ve pazarlanıyor,” diyor Langford. “Kullanıcıların her türlü şey için sorgulama yapabileceği genel bir sistemi dava ettiğinizde, durum oldukça karmaşık hale geliyor.”
Birçok ABD yasası, derin sahte pornografisini yasaklamıştır — özellikle Take It Down Act ile. Ancak belirli kullanıcılar bu yasaları ihlal etse de, tüm platformu sorumlu tutmak oldukça zordur. Mevcut yasalar, zarar verme niyetinin açık bir kanıtını gerektirir; bu, xAI’nin aracının rızaya dayanmayan pornografi üretmek için kullanılacağını bildiğini kanıtlamayı gerektirir. Bu tür bir kanıt olmadan, xAI’nin temel Birinci Değişiklik hakları önemli yasal koruma sağlar.
“Birinci Değişiklik açısından, çocuk cinsel istismarı materyalinin korunan ifade olmadığı açıktır,” diyor Langford. “Bu tür içerik yaratmaya yönelik bir sistem tasarladığınızda, açıkça Birinci Değişiklik’ten korunan alanın dışında işletim yapıyorsunuz. Ancak kullanıcıların her türlü içerik için sorgulama yapabileceği genel bir sistem olduğunda, durum o kadar da net değildir.”
Bu sorunların üstesinden gelmenin en kolay yolu, xAI’nin sorunu kasıtlı olarak görmezden geldiğini kanıtlamaktır. Bu, Musk’ın çalışanlarını Grok’ın güvenlik önlemlerini gevşetmeleri için yönlendirdiğine dair son raporlarla göz önüne alındığında gerçek bir olasılıktır. Ancak bu bile, üstlenilmesi daha riskli bir dava olacaktır.
“Makul insanlar şunları söyleyebilir: ‘Bu sorunu yıllar önce biliyorduk.’ Bu durumun olmaması için daha sıkı kontrollerin neden mevcut olmadığını sorgulamak gerekiyor. Bu, bir tür dikkatsizlik veya bilgi, ama daha karmaşık bir dava.”
Bu Birinci Değişiklik sorunları nedeniyle, xAI’nin en büyük itirazı, özgürlükleri korumak için sağlam yasalar olmayan mahkemelerden geldi. Hem Endonezya hem de Malezya, Grok sohbet botuna erişimi engelleme adımları attı; Birleşik Krallık’taki düzenleyiciler, benzer bir yasak getirebilecek bir soruşturma başlattı. Avrupa Komisyonu, Fransa, İrlanda, Hindistan ve Brezilya da diğer önleyici adımları attı. Buna karşın, hiçbir ABD düzenleyici kurumu resmi bir yanıt vermemiştir.
Soruşturmanın sonuçlanıp sonuçlanmayacağını bilmek imkânsız, ancak en azından görüntü akını, düzenleyicilerin araştırması gereken birçok soruyu gündeme getiriyor — ve yanıtlar damga vurgulayıcı olabilir.
“Eğer çocuk istismarı materyalini yayıyor, dağıtıyor veya iletiyorsanız, suç yasağını ihlal ediyorsunuz ve yargılanabilirsiniz,” diyor Langford. “Zor olan soru şu: X ne biliyordu? X ne yaptı veya yapmadı? Şu anda ne yapıyorlar?”
