Kızıl saçlı bir kadın Ayın üzerinde duruyor, yüzü belirsiz. Çıplak vücudu, hormonal bir gencin yatak odasının duvarında bulacağınız bir postere aitmiş gibi görünüyor – yani, omuzlarından üç kolun çıktığı gövdesine ulaşana kadar.
Metin istemlerini resimlere çeviren Stable Diffusion gibi yapay zeka destekli sistemler, markalar ve sanatçılar tarafından konsept görseller oluşturmak için kullanıldı, ödüllü (her ne kadar çekişmeli) baskılar ve eksiksiz pazarlama kampanyaları.
Ancak, sistemlerin daha karanlık tarafını keşfetmeye niyetli bazı kullanıcılar, onları farklı bir kullanım durumu için test ediyor: porno.
AI porno, beklediğiniz kadar rahatsız edici ve kusurludur (aydaki o kızıl kafa, muhtemelen fazladan bir kol fetişi olan biri tarafından üretilmemiştir). Ancak teknoloji gelişmeye devam ettikçe, hem yapay zeka etik uzmanları hem de seks işçileri için zorlu soruları gündeme getirecek.
En son görüntü oluşturma sistemleri kullanılarak oluşturulan pornografi, ilk olarak 4chan ve Reddit tartışma panoları aracılığıyla bu ayın başlarında, 4chan üyesi bir üyenin açık kaynaklı Stabil Difüzyon sistemini resmi sürümünden önce sızdırmasının ardından sahneye çıktı. Ardından, geçen hafta, yüksek kaliteli AI porno üretimine adanmış ilk web sitelerinden biri başlatıldı.
Porn Pen olarak adlandırılan web sitesi, kullanıcıların “babe”, “iç çamaşırı modeli”, “chubby”, etnik kökenler (ör. Latina”) ve arka planlar (örn. “yatak odası”, “duş” ve “ay” gibi joker karakterler). Düğmeler modelleri önden, arkadan veya yandan yakalar ve oluşturulan fotoğrafın görünümünü değiştirir (örn. “film fotoğrafı”, “ayna özçekimi”). Yine de ayna özçekimlerinde bir hata olmalı, çünkü kullanıcı tarafından oluşturulan görüntülerin akışında bazı aynalar aslında bir kişiyi yansıtmıyor – ama elbette bu modeller hiç insan değil. Porno Kalemi şu şekilde çalışır:Bu Kişi Yok” sadece NSFW’dir.
Y Combinator’s Hacker Haberlerinde forum, yaratıcı olduğunu iddia eden bir kullanıcı, Porn Pen’i son teknoloji metinden görüntüye modellerini kullanan bir “deney” olarak tanımlıyor. “Zararlı görüntülerin oluşmasını önlemek için özel metin belirleme özelliğini açıkça kaldırdım” diye yazdılar. “Bilgi istemi mühendisliği algoritmasında daha fazla ince ayar yapıldıktan sonra yeni etiketler eklenecek.” İçerik oluşturucu, TechCrunch’ın yorum isteğine yanıt vermedi.
Ancak Porn Pen, görüntü üreten sistemlerdeki önyargılar ve bunların ortaya çıktığı veri kaynakları gibi bir dizi etik soruyu gündeme getiriyor. Teknik sonuçların ötesinde, yeni teknolojinin kişiselleştirilmiş porno yaratmaya yarayıp yaramayacağı merak ediliyor – yakaladığı varsayılarak – aynı şeyi yaparak geçimini sağlayan yetişkin içerik yaratıcılarına zarar verebilir.
“Bence bunun gerçekleşmesinin bir şekilde kaçınılmaz olduğunu düşünüyorum. [OpenAI’s] DALL-E yaptı,” Seattle Üniversitesi’nde doktora adayı olan Os Keyes, TechCrunch’a e-posta yoluyla söyledi. “Fakat hem seçeneklerin hem de varsayılanların çok heteronormatif ve erkek bakışını tekrarlaması hala iç karartıcı.”
İçerik denetimi içeren davalar üzerinde çalışan bir seks işçisi ve akran düzenleyicisi olan Ashley, Porn Pen tarafından oluşturulan içeriğin mevcut durumunda seks işçileri için bir tehdit olmadığını düşünüyor.
İşlerinden dolayı taciz edilmekten korktuğu için soyadının yayınlanmasını istemeyen Ashley, “Dışarıda sonsuz medya var” dedi. “Fakat insanlar sadece en iyi medyayı yaparak değil, aynı zamanda erişilebilir, ilginç bir insan olarak da kendilerini farklılaştırıyorlar. Yapay zekanın bunun yerini alması uzun zaman alacak.”
OnlyFans ve ManyVids gibi mevcut para kazanılabilir porno sitelerinde, yetişkin içerik oluşturucular, şirketin yetişkinlere rıza gösterdiklerini bilmesi için yaşlarını ve kimliklerini doğrulamalıdır. Yapay zeka tarafından üretilen porno modelleri elbette bunu yapamaz çünkü gerçek değiller.
Ashley, yine de, porno sitelerinin AI pornosunu çökertmesinin, SESTA/FOSTA gibi mevzuattan artan düzenlemelerle karşı karşıya olan seks işçileri için daha sert kısıtlamalara yol açabileceğinden endişe ediyor. Kongre tanıttı Güvenli Seks İşçileri Çalışma Yasası 2019’da çevrimiçi seks işçiliğini zorlaştıran bu mevzuatın etkilerini incelemek. Bu çalışma, “toplum örgütlerinin [had] “online platformlara erişimin sağladığı ekonomik istikrarı” kaybettikten sonra seks işçilerinin evsizliğinin arttığını bildirdi.
Ashley, “SESTA, çocuk seks ticaretiyle mücadele olarak satıldı, ancak fuhuş hakkında yaşla ilgili hiçbir şeyi olmayan yeni bir ceza kanunu yarattı” dedi.
Şu anda, dünya çapında çok az yasa derin sahte porno ile ilgilidir. ABD’de yalnızca Virginia ve Kaliforniya’da sahte ve derin sahte pornografik medyanın belirli kullanımlarını kısıtlayan düzenlemeler vardır.
Stabil Difüzyon gibi sistemler, metinden örnek olarak görüntü oluşturmayı “öğrenir”. İçeriklerini belirten ek açıklamalarla etiketlenmiş milyarlarca resmi (örneğin, “Dachshund, geniş açılı lens” etiketli bir köpeğin resmi) besleyen sistemler, belirli kelimelerin ve ifadelerin belirli sanat stillerine, estetiğe, konumlara vb. atıfta bulunduğunu öğrenir. .
Bu pratikte nispeten iyi çalışıyor. “Van Gogh tarzında bir kuş resmi” gibi bir istem, tahmin edilebileceği gibi, bir kuşu betimleyen Van Gogh-vari bir görüntü verecektir. Ancak istemler daha belirsiz olduğunda, klişelere atıfta bulunduğunda veya sistemlerin aşina olmadığı konularla ilgilenildiğinde daha da zorlaşıyor.
Örneğin, Porn Pen bazen hiç kimse olmadan görüntüler oluşturur – muhtemelen sistemin istemi anlamaması. Diğer zamanlarda, daha önce de belirtildiği gibi, fiziksel olarak gösterir. olasılık dışı tipik olarak ekstra uzuvları, alışılmadık yerlerde meme uçları ve çarpık eti olan modeller.
“Tanım olarak [these systems are] Ana akım toplumda bedenleri kabul edilen ve değer verilenleri temsil edecekler” diyen Keyes, Porn Pen’in yalnızca sisnormatif insanlar için kategorileri olduğunu belirtti. “Örneğin, orantısız bir şekilde yüksek sayıda kadınla sonuçlanmanız benim için şaşırtıcı değil.”
Muhtemelen Porn Pen’i destekleyen sistemlerden biri olan Stable Difusion, eğitim veri kümesinde nispeten az sayıda “NSFW” görüntüsü, Redditors ve 4chan kullanıcılarının ilk deneyleri, ünlülerin pornografik derin sahtelerini oluşturma konusunda oldukça yetkin olduğunu gösteriyor (Porn Pen – belki de tesadüfen değil – bir “ünlü” seçeneğine sahip). Ve açık kaynak olduğu için, Porn Pen’in yaratıcısının sistemde ek çıplak görüntüler üzerinde ince ayar yapmasını engelleyecek hiçbir şey olmazdı.
“Üretmek kesinlikle harika değil [porn] mevcut bir kişinin,” dedi Ashley. “Onları taciz etmek için kullanılabilir.”
Deepfake porno genellikle insanları tehdit etmek ve taciz etmek için oluşturulur. Bu görüntüler neredeyse her zaman öznenin rızası olmadan geliştirilir. kötü niyet. 2019 yılında araştırma şirketi Duyarlılık AI İnternetteki deepfake videolarının %96’sının rıza dışı porno olduğunu buldu.
Knives and Paintbrushes kolektifinin bir parçası olan bir AI araştırmacısı olan Mike Cook, veri setinin, seks işçileri de dahil olmak üzere, imajlarının bu şekilde eğitim için kullanılmasına izin vermeyen insanları içerme olasılığının olduğunu söylüyor.
“Çoğu [the people in the nudes in the training data] Cook, gelirlerini pornografi veya pornografiye bitişik içerik üretmekten elde edebilir ”dedi. “Tıpkı iyi sanatçılar, müzisyenler veya gazeteciler gibi, bu insanların ürettiği eserler, gelecekte hayatlarını kazanma yeteneklerini de azaltan sistemler oluşturmak için kullanılıyor.”
Teoride, bir porno oyuncusu, derin sahte bir görüntünün yaratıcısıyla savaşmak için telif hakkı korumalarını, karalamayı ve hatta potansiyel olarak insan hakları yasalarını kullanabilir. Ancak MIT Technology Review notlarında bir parça olarak, toplama kanıt yasal argümanı desteklemek büyük bir meydan okuma olabilir.
Birkaç yıl önce daha ilkel AI araçları derin sahte pornoları popüler hale getirdiğinde, bir Wired soruşturma rıza dışı derin sahte videoların Pornhub gibi ana akım porno sitelerinde milyonlarca görüntüleme aldığını keşfetti. Diğer deepfake eserler, Porn Pen’e benzer sitelerde kendine yer buldu – Sensity verilerine göre, en iyi dört deepfake porno web sitesi 2018’de 134 milyondan fazla görüntüleme aldı.
Cook, “AI görüntü sentezi artık yaygın ve erişilebilir bir teknoloji ve kimsenin bu yaygınlığın etkilerine gerçekten hazır olduğunu düşünmüyorum” diye devam etti. “Bence, bu teknolojinin etkisine çok az önem vererek, son birkaç yılda bilinmeyene çok ama çok uzaklara koştuk.”
Cook’a göre, en çok popüler AI tarafından oluşturulan porno siteleri, iş ortağı anlaşmaları, yönlendirmeler ve bir API aracılığıyla geçen yılın sonlarında genişledi ve yüzlerce rıza dışı derin sahtekarlığa ev sahipliği yapan hizmetin ödeme altyapısındaki yasaklardan kurtulmasını sağladı. Ve 2020’de araştırmacılar keşfetti Reşit olmayan kızlar da dahil olmak üzere 100.000’den fazla kadının küfürlü derin sahte görüntülerini oluşturan bir Telegram botu.
Cook, “Önümüzdeki on yılda hem teknolojinin hem de toplumun sınırlarının sınırlarını test eden çok daha fazla insan göreceğimizi düşünüyorum” dedi. “Bunun için bir miktar sorumluluk kabul etmeli ve insanları yaptıklarının sonuçları hakkında eğitmek için çalışmalıyız.”