Çıplak fotoğraflar Reddit forumunda satıldı – ancak çıplak insanların gerçek fotoğrafları değil. Bunlar bir yapay zeka tarafından oluşturulan görüntülerdir. Bu şimdi tartışmaya neden oluyor.
Reddit’te “F19 Feeling Pretty Today” (İng. “Feel Pretty Today”) başlığı altında bir kadının sözde imajını bulabilirsiniz. Görünüşe göre, “Claudia” büyük gri-yeşil gözleri, orta uzunlukta siyah saçları ve çok kusursuz bir cildi olan, oturma odası olabilecek bir yerde selfie için poz veren genç bir esmer. Sadece: Claudia gerçek bir insan değil. Görüntü bir yapay zeka (AI) tarafından oluşturuldu ve ardından, diğerleri gibi Reddit platformunda satıldı. Bu arada, ilgili hesap şikayet edildi – ancak fotoğraflar hala mevcut. Ayrıca konuşacak çok şey var.
Reddit’te KI’nin çıplak fotoğrafları
Bu hikayenin temel taşı aslında iki bilgisayar bilimi öğrencisinin bir projesiyle atıldı. Birlikte “Kararlı Difüzyon” adlı bir yapay zeka programı başlatmışlardı. Amaç, bir yapay zekanın yardımıyla ve metin girişi temelinde – görünüşe göre başarılı bir şekilde – mümkün olduğunca gerçekçi görünen görüntüler oluşturmaktı.
Çünkü iki dem gibi Rolling Stone dergisi bildirdi, aslında “Claudia” nın çıplak fotoğraflarından 100 doların biraz üzerinde para kazandılar. bu Reddit Hesabı muhtemelen “şaka olarak” kastedilmiştir. Çift, “Dürüst olmak gerekirse, bu kadar popüler olacağını düşünmemiştik” dedi. “Temyiz” e ek olarak, prosedüre yönelik eleştiriler de yüksek sesle.
AI çıplak resimleri hakkında tartışma
Yapay zeka tarafından üretilen görüntü tartışmasında yeniden alevlenen tartışmanın bir kısmı, yapay zekanın eğitmek için gerçek insanların görüntülerine ihtiyaç duyduğudur – muhtemelen bu kullanıma açıkça izin vermemiş kişiler. Ayrıca yapay zeka, gerçek insanların görüntülerini Photoshop gibi programlardan daha gerçekçi bir şekilde değiştirmek için de kullanılabilir. Örneğin, Megastar Keanu Reeves’in, oyuncunun her türlü komik şeyi yapıyor gibi göründüğü kurgusal bir Instagram hesabı var. Bu içerik de gerçek değil.
Başka bir güncel örnek, sözde sanal etkileyiciler tarafından sağlanmaktadır. Hayali “Imma”yı Instagram’da 400.000 hesap takip ediyor. Profil açıklamalarından ve her şeyden önce videolarından, yapay zeka tarafından üretilmiş bir kişi oldukları görülebilir. Ancak, bu resimlerde daha az net. Ek olarak, genellikle yapay zeka tarafından oluşturulan kişiyle etkileşime giriyor gibi görünen gerçek insanları da içerirler.
“Imma” reklam veriyor, görünüşe göre düşüncelerini ve duygularını takipçileriyle paylaşıyor. Bir gönderi şöyle diyor: “Birinin gerçek beni tanıması zor değil mi? Samimi duygularım kimseye ulaşıyor mu? Gerçek beni anlamanı istiyorum…” Hesabın arkasındaki şirket, pembe bob’lu sanal genç kadının etrafında eksiksiz bir hikaye yaratıyor. Etkinliklere gidiyor, abisiyle tartışıyor, işi var.
Stuttgart Dijital Etik Enstitüsü’nden medya uzmanı Oliver Zöllner’e göre, bu tür temsil ve duygusallıkla ilgili bir sorun genellikle şeffaflığın olmamasıdır. Arkasındaki programların nasıl çalıştığı her zaman net değildir. Zöllner dpa haber ajansına verdiği demeçte, bunların gerçek insanlar olmadığının da herkes tarafından hemen anlaşılmadığını söyledi. Uzmana göre, oldukça şeffaf olmayan “veri toplama ve kullanma iş modeli” de ihmal edilmemeli. Reddit’teki AI çıplak fotoğrafları söz konusu olduğunda, alıcılar görünüşe göre görüntülerin gerçek insanlara ait olmadığından habersizdi.
AI porno endüstrisini değiştirebilir
Yapay zeka çıplaklarıyla ilgili bir başka sorun da genellikle “derin sahte görüntülerin” daha yaygın olduğu porno endüstrisiyle bağlantılıdır. Bir kişinin yüzünü rızası olmadan pornografik içeriğe eklemek için AI kullanır. Kurbanlar çoğunlukla kadınlar. Ancak tamamen yapay zeka tarafından oluşturulan çıplak insan fotoğrafları da bir değişikliği tetikleyebilir. Hayali “Claudia”yı yaratan iki öğrenci de bunu böyle görüyor. “Fotoğrafları satın alan kişi porno araması yaptığı için sonuçtan memnun (…). Asla gerçek bir kişinin resimleri olduklarını söylemedik ve alıcılar asla onları gerçekten istemedi. Hemen kabul ettiler.”
Şimdi farklı. Claudia’nın gönderileri şikayet edildiğinden beri gönderileri buna göre işaretlendi. Forumun bir moderatörü ayrıca, yapay zeka tarafından oluşturulan bu tür içeriğin platformun kurallarını ihlal etmeyeceğine açıkça işaret ediyor. Ve AI’nın çıplak fotoğraflarından herkes rahatsız değil.
Aslında, artık açıkça yapay zekalardan gelen pornografik içerik için topluluklar bile var. Bu, diğer şeylerin yanı sıra, kullanıcının kişisel tercihlerine farklı şekilde hizmet verilebilmesi avantajını sunar. Bu, “Claudia” örneğinde görülebilir. Buradaki metin girişi şuydu: “Makyajsız, siyah saç, omuz hizasında saç, düz arka plan, düz saç, kakül”. Karşılık gelen bir görüntünün oluşturulması için daha fazlasına gerek yoktu.