Gençler, resimlerinin bir mobil uygulama kullanılarak değiştirildiğini ve ardından okullarının WhatsApp gruplarına dağıtıldığını keşfetti. Resimleri değiştirilen en küçük kız sadece 11 yaşındaydı
İspanya’da 20’den fazla kız, cep telefonlarında kendilerinin yapay zeka tarafından oluşturulan çıplak resimlerini aldıkları üzücü bir olayı bildirdi.
Ancak şu soru ortaya çıkıyor: Bu tür deepfake içeriklerin oluşturulmasına ve dağıtımına karşı yasal işlem başlatılabilir mi?
Yapay zekanın ürettiği derin sahtekarlıkların peşini bırakmıyor
İspanya’nın güneyindeki bir kasaba olan Almendralejo’da yirmiden fazla kız, mobil cihazlarında kendi çıplak fotoğraflarını gördüklerinde şok oldular. Daha da kötüsü, bu kızlardan hiçbirinin bu fotoğrafları çekmemiş olmasıydı ama yine de korkutucu derecede gerçekçi görünüyorlardı.
İlgili Makaleler
Dolandırıcılar, Reddit’te erkekleri yayınlayıp yapay zeka tarafından üretilen bir kadının çıplak fotoğrafları için onları kandırmak için yapay zekayı kullanıyor
Yapay zeka şirketleri ABD federal mahkemesinden sanatçıların telif hakkı ihlali davasını reddetmesini istedi
Bu görüntüler yasa dışı bir şekilde Instagram hesaplarından alınmış, yapay zeka kullanılarak değiştirilmiş ve ardından okulun WhatsApp gruplarında dağıtılmıştı.
Gerçek fotoğraflarında gençler tamamen giyinikti ancak uygulama onları ustalıkla çıplak göstermişti. Sonuç olarak, söz konusu görüntüler teknik olarak gerçek olmasa bile, endişeli ebeveynler ve adli makamlar, bir suçun işlenip işlenmediğini merak ediyor. Bu görüntüler çocuk pornografisi olarak değerlendirilebilir mi?
Kızların annelerinden Miriam Al Adib, Instagram hesabından duyduğu rahatsızlığı dile getirerek, “Montajlar süper gerçekçi, çok rahatsız edici ve gerçek bir rezalet.” Kızının bu çileden derinden rahatsız olduğunu sözlerine ekledi.
Al Adib, bu fotoğrafların OnlyFans gibi internet platformlarında veya yetişkinlere yönelik web sitelerinde yer almış olabileceğine dair endişelerini dile getirirken, kızlar akranlarının incitici yorumlarına maruz kalıyordu. Hatta kızlardan birine “Şikayet etmeyin, kızlar neredeyse mahrem yerlerini gösteren fotoğraflar yüklüyor” denmiş. Kurbanların en küçüğünün henüz 11 yaşında olması ve henüz liseye bile başlamamış olması dikkat çekiyor.
Bu sıkıntılı duruma çözüm bulmak için anneler bir araya gelerek endişelerini dile getirdi. Ulusal Polis bir soruşturma başlattı ve bu olaya karıştığı iddia edilen, bazıları etkilenen kızların sınıf arkadaşları olan birkaç reşit olmayan kişiyi tespit etti.
Dava Çocuk Savcılığı’na havale edildi ve kasabanın belediye başkanı sert bir uyarıda bulundu: “Şaka olarak başlamış olabilir, ancak sonuçları çok daha büyük ve bu fotoğrafları çekenler için ciddi sonuçlar doğurabilir.”
Sorunlu Uygulama
ClothOff uygulamasıyla oluşturulan hiper gerçekçi deepfake görüntüler alarma geçti. “Herkesi soyun, kızları bedavaya soyun” sloganıyla pazarlanan bu uygulama, kullanıcıların telefonlarının resim galerisinde tasvir edilen kişilerin kıyafetlerini 10 € ücret karşılığında dijital olarak çıkarmasına olanak tanıyor ve sonuçta 25 çıplak resim ortaya çıkıyor.
Bu görüntülerde tasvir edilen çıplaklık gerçek olmasa da anneler, kızlarının yaşadığı duygusal sıkıntının son derece gerçek olduğunu vurguluyor. Miriam Al Adib, Instagram hesabından fotoğrafları paylaşanlara yönelik sert bir mesaj yayınladı: “Siz bu kızlara verdiğiniz zararın farkında değilsiniz, işlediğiniz suçun da farkında değilsiniz.”
AB’nin dişsiz yasaları
Hukuk uzmanları, bu suçun ağır cezalar gerektiren çocuk pornografisi dağıtımı olarak sınıflandırılıp sınıflandırılamayacağı veya daha temkinli bir yaklaşımın gerekli olup olmadığı sorusuyla boğuşuyor.
Audens hukuk firmasında yeni teknolojiler konusunda uzman avukat Leandro Nunez, kritik faktörün fotoğrafın yüzde 100 orijinal olup olmadığı değil, öyle görünüp görünmediği olduğunu vurguluyor. Bunun potansiyel olarak çocuk pornografisi, ahlaki bütünlüğe karşı suçlar veya rıza dışı cinsel içerik içeren görüntülerin dağıtımı olarak görülebileceğini ve ikincisinin altı aydan iki yıla kadar daha az hapis cezasıyla sonuçlanabileceğini öne sürüyor.
Ancak dijital hukuk alanında uzmanlaşmış bir hukuk firması olan Font Advocats’ın avukatı Eloi Font, bunun küçüklerin cinsel görüntülerinin çoğaltılmasına benzer bir suç olarak sınıflandırılabileceğini ve beş ile dokuz yıl arasında hapis cezası gerektirebileceğini ileri sürüyor.