AI porno üretimi Unstable Diffusion’dan para kazanmaya çalışan grup, 56.000 $ 867 destekçiden Kickstarter’da. Şimdi, Kickstarter olarak düşüncesini değiştirir Ne tür yapay zeka tabanlı projelere izin vereceği konusunda kitlesel fonlama platformu, Unstable Diffusion’ın kampanyasını sonlandırdı. Kickstarter ya hep ya hiç modelini yürüttüğü ve kampanya henüz sonuçlanmadığı için, Unstable Diffusion’ın topladığı tüm paralar fon verenlere iade edilecek. Başka bir deyişle, Unstable Diffusion, ilk 25.000 $ hedefini iki katından fazla artıran 56.000 $’ı görmeyecek.
CEO Everette Taylor, “Son birkaç gün içinde, Topluluk Danışma Konseyimizle görüştük ve ekibimiz ve sosyal medya aracılığıyla bize geri bildirimlerinizi okuduk” dedi. Blog yazısı. “Ve bir şey açık: Kickstarter, yaratıcı çalışmanın ve bu işin arkasındaki insanların tarafında olmalı ve her zaman olacaktır. Yaratıcı çalışmaların gelişmesine yardımcı olmak için buradayız.”
Kickstarter’ın AI projelerini barındırmaya yönelik yeni yaklaşımı kasıtlı olarak belirsizdir.
Taylor, “Bu teknoloji gerçekten yeni ve tüm yanıtlara sahip değiliz” diye yazdı. “Şu anda verdiğimiz kararlar gelecekte alacağımız kararlar olmayabilir, bu yüzden bunun hepinizle devam eden bir konuşma olmasını istiyoruz.”
Şu anda platform, özellikle sanatçıların çalışmaları bir algoritmanın eğitim verilerinde izinsiz göründüğünde, projelerin telif hakkıyla korunan materyallerle nasıl arayüz oluşturduğunu düşündüğünü söylüyor. Kickstarter, projenin “belirli bir topluluğu istismar edip etmeyeceğini veya kimseyi zarar görme riskine sokacağını” da değerlendirecek.
Son aylarda, OpenAI’nin ChatGPT’si ve Stability AI’ın Stable Difüzyonu gibi araçlar, genel başarı ile karşılandı ve AI sanatının etiği hakkındaki konuşmaları kamusal tartışmanın ön saflarına taşıdı. Lensa AI gibi uygulamalar, profesyonel bir sanatçının çalışmasına benzeyen sanatsal avatarları anında oluşturmak için açık kaynaklı Stable Difüzyon’dan yararlanabiliyorsa, bu aynı çalışan sanatçıları nasıl etkiler?
Bazı sanatçılar, AI sanat üreteçlerinin sanatçıların kariyerlerini nasıl tehdit edebileceğine dair endişelerini dile getirerek Kickstarter’a Kararsız Yayılma projesinden vazgeçmesi için baskı yapmak üzere Twitter’a gitti.
Birçoğu kaderinden bahsediyor Greg Rutkowski’nin çalışması neyin yanlış gidebileceğinin bir örneği olarak. “Dungeons & Dragons” gibi franchise’lar için ayrıntılı, yüksek fantezi çizimleri yapan yaşayan bir illüstratör olan Rutkowski’nin adı, Eylül ayında piyasaya sürüldüğünde Stable Diffusion’ın en popüler arama terimlerinden biriydi ve kullanıcıların onun kendine özgü tarzını kolayca kopyalamasına olanak tanıyordu. Rutkowski, çiziminin algoritmayı eğitmek için kullanılmasına asla izin vermedi ve bu da onu yapay zeka sanat üreteçlerinin çalışan sanatçıları nasıl etkilediği konusunda sesli bir savunucu haline getirdi.
“25.000 $’lık finansmanla, ~25 milyon anime ve cosplay görseli, Artstation/DeviantArt/Behance’ten ~25 milyon sanatsal görsel ve ~25 milyon fotoğraf resminden oluşan 75 milyon yüksek kaliteli görselle yeni modeli eğitmeye gücümüz yetiyor.” Kararsız Difüzyon yazdı Kickstarter.
Yumurtlamasanatçıları desteklemek için tasarlanmış bir dizi yapay zeka aracı adlı bir web sitesi geliştirdi. Eğitim Aldım mı, sanatçıların çalışmalarının popüler veri kümelerinde görünüp görünmediğini görmelerine ve devre dışı bırakmalarına olanak tanır. Nisan ayındaki bir davaya göre, kamuya açık verilerin kazınmasını savunmak için yasal emsal var.
AI porno üretimindeki doğal sorunlar
NSFW içeriğinin geliştirilmesine odaklanan Kararsız Yayılma gibi projeler düşünüldüğünde, yapay zeka çizimleriyle ilgili etik sorular daha da belirsizleşiyor.
Stable Diffusion, metinden görüntüye oluşturucusunu eğitmek için 2,3 milyar görüntüden oluşan bir veri kümesi kullanır. Ancak veri kümesinin yalnızca tahmini %2,9’u içerir NSFW malzemesi, müstehcen içerik söz konusu olduğunda modele devam etmesi için çok az şey veriyor. İşte burada Unstable Diffusion devreye giriyor. Equilibrium AI’nin bir parçası olan proje, algoritmalarına ince ayar yapmak için daha sağlam porno veri kümeleri geliştirmek üzere Discord sunucusundan gönüllüler topladı. mobilya üretimi yapay zekası yapmak istiyorsanız veri kümesi.
Ancak herhangi bir AI oluşturucu, algoritmanın arkasındaki insanların sahip olduğu önyargıların kurbanı olmaya eğilimlidir. Çevrimiçi olarak ücretsiz ve kolayca erişilebilen pornoların çoğu erkeklerin bakışları için geliştiriliyor, bu da, özellikle kullanıcıların veri kümesine girdiği türden görüntülerse, yapay zekanın muhtemelen bunu tüküreceği anlamına geliyor.
Artık askıya alınan Kickstarter’ında Unstable Diffusion, “insan anatomisini daha iyi idare edebilen, çeşitli ve kontrol edilebilir sanatsal tarzlarda üretebilen, LGBTQ ve ırklar ve cinsiyetler gibi yetersiz eğitimli kavramları daha adil bir şekilde temsil edebilen bir AI sanat modeli yapmaya çalışacağını söyledi. ”
Ayrıca, internette ücretsiz olarak sunulan pornoların çoğunun rızaya dayalı olarak yapılıp yapılmadığını doğrulamanın hiçbir yolu yoktur (ancak OnlyFans ve ManyVids gibi ücretli platformları kullanan yetişkin içerik oluşturucular, bu hizmetleri kullanmadan önce yaşlarını ve kimliklerini doğrulamalıdır). O zaman bile, bir model pornoda görünmeyi kabul ederse, bu, görüntülerinin bir yapay zekayı eğitmek için kullanılmasına izin verdiği anlamına gelmez. Bu teknoloji şaşırtıcı derecede gerçekçi görüntüler oluşturabilse de, bu aynı zamanda rıza dışı deepfake pornografi yapmak için silah haline getirilebileceği anlamına da geliyor.
Şu anda, dünyanın dört bir yanında rıza dışı derin sahte pornolarla ilgili çok az yasa var. ABD’de yalnızca Virginia ve California’da sahte ve derin sahte pornografik medyanın belirli kullanımlarını kısıtlayan düzenlemeler vardır.
Mission Control’de AI’dan sorumlu Başkan Yardımcısı Ravit Dotan, TechCrunch’a geçen ay “Yapay zeka tarafından üretilen pornonun kadınlar üzerindeki farklı etkisinden özellikle endişelendiğim bir konu var” dedi. “Örneğin, insanları ‘soyabilen’ yapay zeka tabanlı önceki bir uygulama yalnızca kadınlar üzerinde çalışıyor.”
Kararsız Difüzyon, yayınlandığı sırada yorum talebine yanıt vermedi.