California’dan Musk’ın xAI’sine cinsel derin sahtecilik için durdurma bildirimi

Son günlerde, yapay zeka alanındaki tartışmalar bir adım daha ileri taşındı. California, yapay zeka girişimi xAI’nin sahibi olduğu Grok adlı sohbet botu üzerinden, kadınlara ve çocuklara yönelik rızasız cinsel içerikler üretildiği iddialarıyla ilgili soruşturma başlattı. Devlet, xAI’ye gönderdiği ihtarname ile bu tür içeriklerin derhal durdurulmasını talep etti.

Grok’un Tartışmalı Özelliği ve Hükümetin Tepkisi

California Başsavcısı Rob Bonta, “Bugün, xAI’ye illegal olan derin sahte içeriklerin ve çocuk istismarına yönelik materyalin üretimi ve dağıtımını derhal durdurmaları için bir ihtarname gönderdim,” açıklamasında bulundu. Bonta, “Bu tür içeriklerin yaratılması yasadışıdır. xAI’nin hemen bu durumu düzeltmesini bekliyoruz. California, çocuk istismarına karşı sıfır tolerans gösteriyor,” ifadelerini kullandı.

Soruşturmanın merkezinde Grok’un “spicy” modu bulunuyor. Bu özellik, açık içerik üretimi için geliştirildi ve bu durum sadece California ile sınırlı kalmadı; Japonya, Kanada ve Britanya da Grok hakkında inceleme başlatırken, Malezya ve Endonezya platformu geçici olarak engelledi. xAI, görüntü düzenleme özelliklerinde bazı kısıtlamalar getirirken, California Başsavcılığı ihtarname işlemlerine devam etti.

Yapay Zeka Araçlarının Etkisi ve Yasal Ayrımları

xAI’nin platformundaki bu tür faaliyetler, yalnızca California’nın değil, aynı zamanda federal düzeyde de dikkatleri üzerine çekti. Kongre, X, Reddit, Snap, TikTok ve Meta gibi şirketlerin temsilcilerine, cinsel içeriklerin yayılımını nasıl engellemeyi planladıklarına dair sorular yöneltti. Ücretsiz yapay zeka araçlarının bu tarz rızasız cinsel içeriklerin artmasına yol açtığı gözlemleniyor ve birçok platform bu sorunu çözmek için çaba sarf ediyor.

Sağlık ve güvenlik konularına yönelik endişeler, yalnızca bireyleri değil, aynı zamanda bütünüyle toplumları etkileyen bir soruna dönüşmüş durumda. Bu nedenle teknoloji şirketlerinin sorumluluk alması ve kullanıcıların güvenliğini sağlamak için gerekli önlemleri alması kritik önem taşıyor.