Yapay zekanın, yaratıcılığın sınırlarını genişleterek yeniden şekillendirdiği, ancak aynı zamanda sanat eserlerinin yapay zeka sağlayıcıları tarafından modellerini eğitmek için izinsiz kullanılması açısından da pek çok sorun yarattığı herkes için açıktır. Tam da bu cephede birçok cephede savaş yürütülüyor. Sanat eserinin korunması gibi tartışmalı ve karmaşık bir konuya müdahale etmek ve yasa çıkarmak için gerekli olan yasama organı; OpenAI, Meta, Google ve Stability AI gibi şirketlerin, kendilerini telif hakkıyla korunan materyalleri izinsiz kullanmakla suçlayan sanatçılar tarafından dava edildiği yasal olanı; ve daha da gizlisi, sanat eserlerini kazıma sürecinden korumayı, teknolojiyle teknolojiyle savaşmayı amaçlayan yazılım ve araçların yapay zekaya açtığı teknolojik savaş.
Nightshade ve Glaze örneği: algoritma “rahatsız ediyor”.
Fikri hakların savunulması panoramasında Nightshade sisteminin doğuşunun duyurulması, giderek artan bir şekilde eserlerinin yapay kopyalarıyla hiçbir izin olmaksızın rekabet etmek zorunda kalan sanatçılara yönelik pek çok beklenti yarattı. Chicago Üniversitesi’nde bilgisayar bilimi profesörü Ben Zhao’nun zihni tarafından yaratılan Nightshade, küçük bir devrim vaat ediyor. Bu yılın sonlarında kullanıma sunulduğunda, sanatçıların eserlerinin piksellerine görünmez değişiklikleri çevrimiçi olarak yüklemeden önce eklemelerine olanak tanıyacak. İnsan gözünün algılayamayacağı bu değişiklikler, algoritmayı “kandırarak” görüntülerle eğitilen yapay zeka modellerinde öngörülemeyen arızalara neden olabilir. Buna paralel olarak Zhao’nun ekibi, sanatçıların tarzlarını maskeleyerek üretken yapay zeka tarafından taklit edilmesini önleyen ek bir koruma aracı olan Glaze’i yarattı. Nightshade’e benzer şekilde çalışır ve görüntülerin piksellerini değiştirerek algoritmaların onları gerçekte gösterdiklerinden farklı bir şey olarak yorumlamasını sağlar.
Veri zehirlenmesi teknolojisi nasıl çalışır?
Bu “araçların” amacı, üretken görüntü modellerinin gelecekteki yinelemelerine zarar vermek için algoritmanın öğrenme sürecinde karışıklık yaratmak, çıktılardan bazılarını kaotik ve kullanılamaz hale getirmektir. Daha çok “veri zehirlenmesi” olarak bilinen ve yapay zeka modelini görsel kategorisini yanlış yorumlayacak şekilde kandırmayı amaçlayan bir teknik. Böylece – resimden de görülebileceği gibi – köpekler kedilerle, arabalar ineklerle, şapka kekle ve çanta tost makinesiyle karıştırılabilir. Nightshade’in gücü, algoritmaya beslendiğinde bozuk sonuçlar üretmeye başlayan 50 “kirlenmiş” görüntüden oluşan bir setle Stabil Difüzyon modellerinde olumlu bir şekilde test edildi. Nightshade’in AI eğitim sistemlerine bir tür “dijital zehir” aşılamadaki etkinliğine rağmen, bu tekniğin olası kötü niyetli manipülasyonu konusunda şüpheler devam ediyor. Ancak Zhao, daha büyük kalibreli yapay zeka modellerine somut hasar vermek için binlerce değiştirilmiş görüntünün gerekli olacağı konusunda güvence veriyor. MIT tarafından sorulduğunda Columbia Üniversitesi’nden bilgisayar bilimi profesörü Zao ve Junfeng Yang, “Nightshade ve Glaze aynı zamanda üretken yapay zekalar tarafından fikri mülkiyet uygulama uygulamalarında daha geniş bir dönüşümün katalizörü olabilir” dedi. İstihbarat şirketleri, sanatçıların haklarına daha iyi saygı göstererek onları sanatçılara telif ücreti ödemeye teşvik ediyor Yapay zeka sağlayıcılarının hamleleri Sürekli yasal mücadelelerin ve kurumlar ile ticaret birliklerinin giderek artan endişelerinin damgasını vurduğu bir senaryoda, bazı sağlayıcılar onları teşvik etmeye çalışıyor uzlaşmacı uygulamalar Bu, DALL-E 3’ün güncellenmiş sürümünde sanatçıların eserlerini eğitim sürecinden çıkarmasına ve hala hayatta olan sanatçıların tarzını taklit eden görüntülerin oluşturulmasını önlemek için filtreler kullanmasına olanak tanıyan yeni özellikler sunan OpenAI’nin durumudur. . İleriye doğru bir adım, ancak çoğu analist, halihazırda yayınlanmış ve yapay zekanın dijital arşivlerine alınmış çalışmaları dikkate almadığı göz önüne alındığında, yalnızca bir “tampon” önlem gibi görünüyor.
