FBI bir açıklama yayınladı danışma yapay zeka düzenleme araçlarının yardımıyla oluşturulan sahte çıplak fotoğrafları içeren gasp planlarında bir “yükselme” uyarısı.
Teşkilat, bu yılın Nisan ayı itibariyle, bu tür “gasp” tertiplerine ilişkin giderek artan sayıda ihbar aldığını söylüyor. Kötü niyetli aktörler, sosyal medyada bir kurbanın zararsız görüntülerini bulur ve gerçekçi ve müstehcen içerik oluşturmak için yapay zeka kullanarak bunları düzenler.
Ajans, “Fotoğraflar daha sonra kötü niyetli aktörler tarafından şantaj veya taciz için doğrudan kurbanlara gönderiliyor” diye yazıyor. “Bir kez dağıtıldıktan sonra, mağdurlar, manipüle edilmiş içeriğin sürekli olarak paylaşılmasını veya internetten kaldırılmasını önlemede önemli zorluklarla karşılaşabilir.”
“Bunun başlıca motivasyonları, daha fazla yasa dışı içerik, mali kazanç veya başkalarını zorbalık ve taciz etme arzusudur”
FBI, şantajcıların bu tür materyalleri genellikle bir kurbandan gerçek çıplak görüntüler veya bir tür ödeme talep etmek için kullandıklarını söylüyor. Ajans şöyle diyor: “Bunun için temel motivasyon kaynakları, daha fazla yasa dışı içerik, mali kazanç veya başkalarını zorbalık ve taciz etme arzusudur.”
Ajans, halka kendi görüntülerini çevrimiçi paylaşırken “dikkatli davranmalarını” tavsiye ediyor, ancak bu, takip edilmesi zor bir tavsiye. Deepfake oluşturmak için sadece birkaç resim veya video yeterlidir ve hiç kimse bu tür şantaj planlarına karşı tamamen güvende olamaz. Tümü web’den kendilerinin görüntüleri. O zaman bile, bireyler hedeflerini kişisel olarak biliyorlarsa, gerçek hayatta gizlice fotoğraf çekebilirler.
Çıplak deepfake’ler ilk olarak 2017’de, Reddit gibi forumlardaki kullanıcıların kadın ünlülerin müstehcen içeriklerini oluşturmak için yeni AI araştırma yöntemlerini kullanmaya başlamasıyla çevrimiçi olarak yayılmaya başladı. Bu içeriğin çevrimiçi olarak yayılmasını engellemek için bazı girişimlerde bulunulmasına rağmen, derin sahte çıplaklar oluşturmaya yönelik araçlara ve sitelere kolayca erişilebilir.
FBI, bu tür gasp planlarının “birkaç federal ceza kanununu ihlal edebileceğini” belirtiyor. Ayrıca, bu tür rıza dışı sahte görüntülerin oluşturulmasını suç sayan sınırlı sayıda küresel yasa vardır. Örneğin ABD’de Virginia’da deepfake’ler bir “intikam pornosu” türü olarak yasaklanırken, Birleşik Krallık şu anda yaklaşan Çevrimiçi Güvenlik Yasası’nda bu tür görüntülerin paylaşımını yasadışı hale getirmeyi planlıyor.