Wisconsin’li bir yazılım mühendisi Pazartesi günü tutuklandı AI tarafından oluşturulan binlerce çocuk cinsel istismarı materyali (CSAM) görseli oluşturup dağıttığı iddiasıyla.
Mahkeme belgeleri Steven Anderegg’i “teknolojik açıdan son derece bilgili”, bilgisayar bilimleri alanında geçmişi olan ve “yazılım mühendisliğinde onlarca yıllık deneyime sahip” olarak tanımlıyor. 42 yaşındaki Anderegg, Instagram DM aracılığıyla 15 yaşındaki bir çocuğa yapay zeka tarafından oluşturulan çıplak reşit olmayan görüntüleri göndermekle suçlanıyor. Anderegg, Ekim 2023’te gönderdiği iddia edilen mesajların Ulusal Kayıp ve İstismara Uğramış Çocuklar Merkezi tarafından işaretlenmesinin ardından kolluk kuvvetlerinin radarına girdi.
Kolluk kuvvetlerinin Instagram’dan edindiği bilgiye göre Anderegg, 2023’te “BDSM temalı deri kıyafetler giyen küçüklerin gerçekçi bir GenAI imajından oluşan” bir Instagram hikayesi yayınladı ve diğerlerini Telegram’da neyi kaçırdıklarını “kontrol etmeye” teşvik etti. Diğer Instagram kullanıcılarıyla olan özel mesajlarında Anderegg’in “ergenlik öncesi erkeklerle seks yapma arzusunu tartıştığı” ve bir Instagram kullanıcısına Telegram’ında yapay zeka tarafından üretilen “tonlarca” başka CSAM görselinin bulunduğunu söylediği iddia edildi.
Anderegg’in henüz 15 yaşında olduğunu öğrendikten sonra bu görüntüleri başka bir Instagram kullanıcısına göndermeye başladığı iddia ediliyor. “Bu reşit olmayan kişi yaşını açıkladığında sanık onu reddetmedi veya daha fazla araştırma yapmadı. Bunun yerine, reşit olmayan bu çocuğa cinsel içerikli GenAI görsellerini nasıl oluşturduğunu ve çocuğa özel olarak hazırlanmış içeriği nasıl gönderdiğini anlatmak için hiç vakit kaybetmedi,” diye iddia ediyor suçlama belgeleri.
Kolluk kuvvetleri Anderegg’in bilgisayarını aradığında, savcılara göre “yüzlerce – binlerce olmasa da – bu görüntülerin çıplak veya yarı giyinik ergenlik öncesi küçükleri tasvir ettiği” 13.000’den fazla görüntü buldu. Ücretlendirme belgelerinde, Anderegg’in görüntüleri Stability AI tarafından oluşturulan bir ürün olan metinden görüntüye modeli Stable Diffusion üzerinde oluşturduğu ve “bu görüntüleri oluşturmak için son derece spesifik ve açık istemler” kullandığı belirtiliyor. Anderegg’in ayrıca yetişkinleri tasvir eden resimler oluşturmaktan kaçınmak için “olumsuz yönlendirmeler” kullandığı ve “cinsel organ üretiminde uzmanlaşmış” üçüncü taraf Stable Diffusion eklentilerini kullandığı iddia ediliyor.
Geçtiğimiz ay aralarında Google, Meta, OpenAI, Microsoft ve Amazon’un da bulunduğu birçok büyük teknoloji şirketi CSAM için AI eğitim verilerini gözden geçireceklerini açıklamıştı. Şirketler, CSAM oluşturmadıklarından emin olmak için “stres testi” modellerini de içeren yeni bir dizi ilkeye bağlı kaldı. Stabilite Yapay Zekası da ilkelere imza attı.
Savcılara göre bu, Anderegg’in eşler arası bir ağ aracılığıyla CSAM’ye sahip olduğu iddiasıyla kolluk kuvvetleriyle ilk teması değil. Savcılar, 2020 yılında Anderegg’in Wisconsin’deki evinde interneti kullanan birinin bilinen CSAM’a ait birden fazla dosyayı indirmeye çalıştığını iddia ediyor. Kolluk kuvvetleri 2020’de evini aradı ve Anderegg, bilgisayarında eşler arası ağ bulunduğunu ve modemini sık sık sıfırladığını itiraf etti, ancak kendisi suçlanmadı.
Anderegg’in duruşma öncesi tutukluluğunu destekleyen kısa bir özette hükümet, Anderegg’in 20 yıldan fazla bir süredir yazılım mühendisi olarak çalıştığını ve özgeçmişinde “yapay zeka modellerini formüle etmede mükemmel teknik anlayışını” kullandığı yeni bir startup şirketindeki işini de içerdiğini belirtti.
Anderegg suçlu bulunması halinde 70 yıla kadar hapis cezasıyla karşı karşıya kalacak, ancak savcılar “önerilen ceza aralığının ömür boyu hapis kadar yüksek olabileceğini” söylüyor.