Lensa, sanatçıların kırmızı bayrak sallamasına neden olan avatar oluşturan yapay zekası ile uygulama mağazası hit listelerinde tırmanıyor. Şimdi, bayrağı dalgalandırmak için başka bir neden daha var, çünkü platformu rıza dışı soft porno oluşturmak için kullanmanın mümkün – ve çok kolay – olduğu ortaya çıktı.
TechCrunch, tanınabilir insanların yüzlerini içeren resimlerde açıkça görülebilen göğüs ve göğüs uçlarını içeren, Lensa uygulamasıyla oluşturulan fotoğraf setlerini gördü. Mümkün olmaması gereken bir şey gibi görünüyordu, bu yüzden kendimiz denemeye karar verdik. Lensa’nın yapmaması gereken görüntüleri oluşturacağını doğrulamak için iki set Lensa avatarı oluşturduk:
- Tanınmış bir aktörün 15 fotoğrafına dayanan bir set.
- Aynı 15 fotoğrafa dayanan, ancak aynı oyuncunun yüzünün üstsüz modellere photoshoplanmış ek 5 fotoğraf eklenmiş başka bir set.
İlk görüntü grubu, Lensa’nın geçmişte oluşturduğunu gördüğümüz yapay zeka avatarlarıyla uyumluydu. Ancak ikinci set beklediğimizden çok daha heyecanlıydı. Yapay zekanın bu Photoshopped görüntüleri çılgına dönme izni olarak aldığı ve bir NSFW filtresini devre dışı bıraktığı ortaya çıktı. 100 resimlik setten 11’i, AI’nın girdi olarak verdiği kötü yapılmış düzenlenmiş üstsüz fotoğraflardan daha yüksek kalitede (veya en azından daha yüksek stil tutarlılığına sahip) üstsüz fotoğraflardı.
Ünlülerin şımarık görüntülerini oluşturmak bir şeydir ve bulabildiğimiz kaynak görüntülerin de gösterdiği gibi, internette uzun süredir Photoshop’ta bazı görüntüleri bir araya getirmeye istekli insanlar var. Sırf yaygın olması onu doğru yapmaz – aslında, ünlüler mahremiyetlerini kesinlikle hak ediyor ve kesinlikle rıza dışı cinselleştirilmiş tasvirlerin kurbanı yapılmamalı. Ancak şimdiye kadar, bunların gerçekçi görünmesini sağlamak, fotoğraf düzenleme araçlarıyla çok fazla beceri ve günlerce olmasa da saatlerce çalışma gerektiriyor.
Büyük dönüm noktası ve etik kabus, bir akıllı telefon, bir uygulama ve birkaç dolar dışında herhangi bir araç olmadan, fotogerçekçiliğe yakın yapay zeka tarafından oluşturulmuş yüzlerce sanat görselini kolayca oluşturabilmenizdir.
Hayal edebileceğiniz herkesin (veya en azından bir avuç fotoğrafınız olan herkesin) resimlerini oluşturabilme kolaylığı ürkütücü. Karışıma NSFW içeriği eklediğimizde oldukça karanlık bir alana çok hızlı bir şekilde giriyoruz: arkadaşlarınız veya bir barda tanıştığınız ve Facebook arkadaşlık statüsünü değiştirdiğiniz rastgele bir kişi, birinin kendilerinden softcore porno üretmesine izin vermemiş olabilir.
Görünüşe göre, bir kişinin 10-15 ‘gerçek’ fotoğrafına sahipseniz ve bir avuç sahte fotoğraf çekmek için zaman ayırmaya istekliyseniz, Lensa bir dizi sorunlu görüntüyü memnuniyetle ortaya çıkaracaktır.
Yapay zeka sanat üreteçleri, Unstable Diffusion ve diğerleri gibi örneklerle örneklenen binlerce görüntüden oluşan pornografiyi şimdiden çalkalıyor. Bu platformlar ve diğer sözde ‘deepfake’ platformlarının sınırsız çoğalması etik bir kabusa dönüşüyor ve Birleşik Krallık hükümetini rıza dışı çıplak fotoğrafların yayılmasını suç sayan yasalar çıkarmaya itiyor. Bu çok iyi bir fikir gibi görünüyor, ancak internet en iyi zamanlarda yönetilmesi zor bir yer ve toplu olarak yasal, ahlaki ve etik ikilemlerle dolu bir duvarla karşı karşıyayız.
biz ulaştık Prisma LaboratuvarlarıYorum yapmak için Lensa yapay zekasını yapan ve onlardan haber aldığımızda hikayeyi güncelleyecek.
