Mac ve Windows ile uyumlu ve Chicago Üniversitesi web sitesinden indirilebilen Nightshade, üretken yapay zekaya karşı savaşta sanatçılar için gerçek bir silahtır. Ve iyi bir nedenden ötürü, “bir yapay zekanın gerçekleştirebileceği bir görüntünün yorumunu çarpıtmayı” amaçlayan “saldırgan bir araç”tır…
Mac ve Windows ile uyumlu ve Chicago Üniversitesi web sitesinden indirilebilen Nightshade, üretken yapay zekaya karşı savaşta sanatçılar için gerçek bir silahtır. Ve araştırmacıların yazdığına göre, bunun, “üretken bir yapay zekanın gerçekleştirebileceği bir görüntünün yorumunu çarpıtmayı” amaçlayan “saldırgan bir araç” olmasının haklı bir nedeni var. İçerik oluşturucular ile üretken yapay zeka tedarikçileri arasındaki gerilimi artırmaya yetecek kadar.
Üretken yapay zeka için bir “zehir”
Nightshade, ışık oyunu ve piksel düzeyindeki bir değişiklikle dönüştürülen öğeleri tanımasını sağlayarak üretken yapay zekayı “zehirleme” yeteneğine sahiptir. Dolayısıyla göreceği şey gerçeklikten tamamen farklı olacaktır: “İnsan gözü, yeşil tarladaki ineğin görüntüsünü görecektir.” […] AI modeli ise çimlerin arasında uzanan büyük bir deri çanta görecek. » Yanıltılan yapay zeka, kullanıcıları için yanlış içerik üretecektir.
Bu yazılım aynı araştırmacılar tarafından tasarlanan Glaze aracının devamı niteliğindedir. Ancak Glaze, eserin tarzını yeniden üretmeyi imkansız kılan görünmez bir bilgi katmanı uygulamakla kendini sınırlıyor. Dolayısıyla daha güçlü ve “yapay zeka modellerini bozabilen” ve “sanatçıların kolektif olarak kullanabileceği” “saldırı amaçlı” bir araç olan Nightshade’den farklı olarak bir “savunma aracı”dır.
Ancak araştırmacılar, eserlerini daha iyi korumak için sanatçılara her iki aracı da kullanmalarını tavsiye ediyor. Ayrıca hem Glaze hem de Nightshade’in katkılarını entegre eden yeni bir yazılım geliştirme üzerinde çalıştıklarını duyurdular.
“Güç asimetrisine” son vermek
Nightshade’in yaratılması, birçok sanatçının ve içerik oluşturucunun, eserleri üzerinde özgürce eğitim veren üretken yapay zekanın yükselişiyle ilgili endişelerini ortaya koyuyor. Özellikle araştırmacıların açıkladığı gibi, “çok az araç, içeriklerinin kendi istekleri dışında üretken bir yapay zeka modeline dahil edilmesini engelleyemez. Hariç tutma listeleri geçmişte yapay zeka eğitmenleri tarafından göz ardı edilmişti ve hiçbir sonuç doğurmadan kolaylıkla göz ardı edilebilir.”
Bu nedenle, üretken yapay zeka sağlayıcılarını yalnızca telif hakkıyla korunmayan içerikten yararlanmaya veya öğrenme modellerinin Nightshade tarafından zehirlendiğini görme riskine girmeye teşvik ederek bu “güç asimetrisine” son vermek istiyorlar. Bu yaklaşım akıllıcadır. Özellikle mevcut Amerikan içtihatlarının yapay zekaların her türlü eser üzerinde eğitim almasına izin verdiğini bildiğimizde. Gerçekten de, Stability AI, Midjourney ve DeviantArt’a karşı olan sanatçılar arasındaki davada gördüğümüz gibi, yargıç yalnızca üretken yapay zekaların korunan bir esere benzer içerik üretmesini yasaklıyor.
Sanatçı olsun ya da olmasın, üretken yapay zeka ile içerik yaratıcıları arasındaki bu “güç asimetrisini” ortadan kaldırmak isteyen yalnızca bu araştırmacılar değil. Şu anda üretken yapay zeka sağlayıcıları ile korunan içeriğin hak sahipleri arasındaki anlaşmazlıkların sayısı giderek artıyor. Son zamanlarda New York Times, OpenAI’ye karşı devasa bir hukuk savaşı bile başlattı. Prestijli Amerikan gazetesi, 27 Aralık 2023’te sunduğu şikayetinde, makalelerinin start-up’ın yapay zekası tarafından kötüye kullanılması nedeniyle uğradığı zararın “birkaç milyar dolar” olduğunu tahmin ediyor.
Bu yapay zeka karşıtı “isyana” karşı koymak için üretken yapay zeka sağlayıcıları tarafından iki ana strateji uygulanıyor. Bunlardan ilki, OpenAI’nin yakın zamanda Alman grup Axel Springer (Bild, Die Welt, Business Insider, Politico) ve Associated haber ajansı Press ile yaptığı gibi, telif hakkıyla korunan içerik sahipleriyle anlaşmalar yapmak. Önemli bir ücret karşılığında, start-up artık içeriklerinin çoğundan yararlanabiliyor. İkincisi, Microsoft, Adobe, Shutterstock, Getty Images ve hatta Google’ın yaptığı gibi, telif hakkı ihlaliyle bağlantılı bir anlaşmazlık durumunda kullanıcıların korunmasını garanti etmektir. Gerginliği gidermeye yetmedi…
