Davacılar arasında iki reşit olmayan birey ve dava olaylarının gerçekleştiği dönemde reşit olmayan bir yetişkin bulunuyor. “Jane Doe 1” olarak tanımlanan mağdur, geçen Aralık ayında, kendisinin ve en az 18 başka reşit olmayan bireyin açık, yapay zeka tarafından üretilmiş görüntülerinin Discord’da bulunduğunu öğrendiğini iddia ediyor. Dava, bu dosyalardan en az beşinin, bir video ve dört görüntünün, onun gerçek yüzünü ve bedenini tanıdık ortamlarda cinsel içerikli pozlarla gösterdiğini öne sürüyor.
Mağdurun, tutuklanan failin, Jane Doe 1’in yapay zeka tarafından üretilen cinsel istismar materyalini Telegram grup sohbetlerinde yüzlerce başka kullanıcıyla takas aracı olarak kullandığı iddia ediliyor. Dava, failin, Jane Doe 1 ve diğer iki mağdurun açık görüntülerini Grok kullanarak oluşturduğunu öne sürüyor. Ayrıca, xAI’nın geliştirdiği özelliklerin güvenliğini test etmediği ve Grok’ın “tasarım hatalı” olduğu iddialarına yer veriliyor.
X, kullanıcıların Grok ile görüntüleri düzenlemesini zorlaştırmaya çalışmış olsa da, The Verge, platforma yüklenen görüntülerin hâlâ manipüle edilebildiğini tespit etti. X, “Grok’ı kullanarak yasa dışı içerik oluşturan veya bunu teşvik eden herkesin, yasa dışı içerik yüklemiş gibi aynı sonuçlarla karşılaşacağını” iddia ediyor. X, The Verge’in yorum talebine hemen yanıt vermedi.
“Bu çocukların okul fotoğrafları ve aile resimleri, milyarlarca dolarlık bir şirketin yapay zeka aracı tarafından cinsel istismar materyaline dönüştürüldü ve sonra avcılar arasında elden ele dolaşmaya başladı,” mağdurlardan birinin avukatı Annika K. Martin, bir açıklamada bulunarak belirtti. “Bu şekilde zarar verdiği her çocuk için xAI’yi sorumlu tutmayı amaçlıyoruz.”
Dava, Grok’ın “yasadışı görüntülerinden” etkilenen mağdurlar için tazminat talep ediyor. Ayrıca, xAI’nin iddia edilen yapay zeka tarafından üretilen cinsel istismar materyalini üretmesini ve yaymasını engellemesi için mahkemeden karar çıkarmak istiyor.
