Chicago Üniversitesi’ndeki bir araştırma ekibi, çevrimiçi sanatçıların orijinal çalışmalarına esasen zehirli haplar yerleştirerek “Yapay Zeka şirketlerine karşı savaşmalarına” yardımcı olmayı amaçlayan bir araç geliştirdi.
Toksik bitki ailesinden sonra Nightshade olarak adlandırılan yazılımın, üretken yapay zekaların bunları yorumlama biçimini bozan dijital sanata zehirli pikseller kattığı söyleniyor. Stabil Difüzyon gibi modellerin çalışma şekli, interneti taramaları ve eğitim verileri olarak kullanabilecekleri kadar çok görüntü toplamalarıdır. Nightshade’in yaptığı şey bu “güvenlik açığından” yararlanmaktır. Tarafından açıklandığı gibi MIT Teknoloji İncelemesiBu “zehirli veri örneklerinin modelleri öğrenmeye yönlendirebilmesi” yanlış bir şey. Örneğin bir köpeğin resmini kedi olarak veya bir arabanın resmini inek olarak görebilir.
Zehir taktikleri
Test aşamasının bir parçası olarak ekip, Stable Diffusion’ın bulaştığı içeriği besledi ve “daha sonra onu köpek resimleri oluşturmaya yönlendirdi”. 50 örnek verildikten sonra yapay zeka, altı bacaklı şekilsiz köpeklerin resimlerini oluşturdu. 100’den sonra kediye benzeyen bir şey görmeye başlarsınız. 300 verildikten sonra köpekler tam teşekküllü kedilere dönüştü. Aşağıda diğer denemeleri göreceksiniz.
Rapor, Nightshade’in aynı zamanda “yüzeysel olarak ilişkili” fikirleri de etkilediğini çünkü üretken yapay zekaların “kelimeler arasında bağlantı kurmada” iyi olduğunu söylüyor. “Köpek” kelimesiyle oynamak köpek yavrusu, husky veya kurt gibi benzer kavramları karıştırır. Bu aynı zamanda sanat tarzlarına da yansıyor.
Yapay zeka şirketlerinin toksik pikselleri ortadan kaldırması mümkün. Ancak MİT’in paylaşımında da belirtildiği gibi “bunları kaldırmak çok zor”. Geliştiricilerin “bozuk her örneği bulup silmeleri” gerekecekti. Bunun ne kadar zor olabileceğine dair size bir fikir vermek gerekirse, 1080p görüntüde iki milyonun üzerinde piksel bulunur. Bu yeterince zor değilse, bu modeller “milyarlarca veri örneği üzerinde eğitiliyor.” Yapay zeka motoruyla uğraşan bir avuç pikseli bulmak için bir piksel denizine baktığınızı hayal edin.
En azından fikir bu. Nightshade henüz başlangıç aşamasında. Şu anda teknoloji “görevli incelemesi için şu adreste gönderildi: [the] bilgisayar güvenliği konferansı Usenix.” MIT Technology Review kısa bir göz atmayı başardı.
Gelecekteki çabalar
Ekip lideri olan Chicago Üniversitesi’nden Profesör Ben Y. Zhao’ya çeşitli sorularla ulaştık.
Bize Nightshade’i “halkın kullanımına sunmayı ve yayınlamayı” planladıklarını söyledi. Glaze’in “isteğe bağlı bir özellik” olarak bir parçası olacak. Eğer aşina değilseniz, cila, Zhao’nun ekibinin yarattığı, sanatçılara “kendi kişisel tarzlarını maskeleme” ve bunun yapay zeka tarafından benimsenmesini engelleme yeteneği veren başka bir araçtır. Ayrıca Nightshade’i açık kaynak haline getirmeyi ve başkalarının kendi zehirlerini üretmelerine olanak sağlamayı umuyor.
Ayrıca Profesör Zhao’ya video ve edebiyat için bir Gece Gölgesi yaratma planlarının olup olmadığını sorduk. Şu anda birden fazla edebiyat yazarı var Programı talep eden OpenAI’ye dava açmak “telif hakkıyla korunan eserleri izinsiz kullanmaktır.” Diğer çalışmalar için toksik yazılım geliştirmenin büyük bir çaba olacağını belirtiyor, “çünkü bu alanlar statik görüntülerden oldukça farklı. Takımın “henüz bunlarla başa çıkma planı yok.” Umarım yakında bir gün.
Şu ana kadar Nightshade’e yönelik ilk tepkiler olumlu. Columbia Üniversitesi’nde bilgisayar bilimi profesörü Junfeng Yang, Technology Review’a bunun yapay zeka geliştiricilerinin “sanatçı haklarına daha fazla saygı duymasını” sağlayabileceğini söyledi. Hatta belki telif ücreti ödemeye bile razı olabiliriz.
İllüstrasyonu hobi olarak edinmek istiyorsanız TechRadar’ın 2023’ün en iyi dijital sanat ve çizim yazılımları listesine göz atmayı unutmayın.
