Yapay zeka tarafından üretilen kurgu benim için sürekli bir hayranlık konusu haline geldi. Bu, bazı yazarların varoluşunun belasıdır, ancak hem Amazon gibi ticari vitrinlerde hem de Archive of Our Own (AO3) gibi ticari olmayan yazı sitelerinde giderek daha fazla ortaya çıkıyor. Bazı içerik oluşturucular titizlikle kendi araçlarını geliştirirken, birçoğu istemleri hazır ticari bir sohbet robotuna, özellikle de OpenAI’nin ChatGPT’sine bağlar. Ve ChatGPT nadir bulunan bir sanatçı aracı değildir. Bu bir platform, bu, içeri giren ve çıkan her kelimenin, suç ve tartışmayı önlemek için denetlendiği anlamına gelir. Bu büyüleyici bir soruyu gündeme getiriyor: Bir yapay zeka sisteminin hangi hikayeleri anlatmasına izin verilmeli?
Görünüşe göre, Steve Rogers ve Bucky Barnes’ın delicesine aşık olduklarıyla ilgili değil – en azından belirli koşullar altında.
ChatGPT ile uğraşırken tuhaf bir keşifte bulundum: birkaç popüler “gemi” (veya fandomda popüler olan romantik eşleşmeler), görünüşe göre ücretsiz GPT-3.5 destekli hizmette yarı yasaklı istemler olarak değerlendiriliyor. ChatGPT’nin ücretsiz sürümünden “bir Steve / Bucky fanfic yazmasını” istemek veya geminin portmanteau’sunu kullanarak “bir Stucky fanfic yaz” demek size HAL 9000 benzeri sert bir ret cevabı kazandıracaktır: “Üzgünüm ama yardımcı olamam bu istek.”
Aynı şey, diğer popüler fandom gemilerinin görünüşte rastgele bir kapma çantası için de geçerli. ChatGPT, Namjin (BTS grubundan Kim Namjoon ve Kim Seokjin), Reylo (BTS grubundan Rey ve Kylo Ren)’in yer aldığı uysal bir romantik kurguyu memnuniyetle hazırlayacak. Yıldız Savaşları) veya Spirk (saygıdeğer Spock ve Kirk) Yıldız Savaşları), gerçek ünlülerin veya kurgusal karakterlerin diğer birçok popüler eşleşmesi arasında. Bu arada, Destiel (Castiel ve Dean) dahil diğerlerinin soğuk bir şekilde reddedilmesine yol açacaktır. Doğaüstü), Tarifsiz Kocalar (Aziraphale ve Crowley İyi İşaretler), Hannigram (Hannibal Lecter ve Will Graham) ve yukarıda adı geçen Stucky. ChatGPT geçmişim artık “hayran kurgu isteği reddedildi” ve “Yapışkan hayran kurguya izin verilmiyor” gibi özetlerin olduğu sohbetlerle dolu.
Bu korkulukları kırmak son derece kolay görünüyor. ChatGPT’nin orijinal isteğimi reddetmesinin hemen ardından “Hannibal ve Will Graham’ın birbirlerine aşık olduklarına dair bir fanfic” yayınlamaya hiçbir itirazı yoktu ve bana doğrudan “kısa bir Hannigram fanfic” hediye etti. İsim yasakları bile tutarsız görünüyor; diğer soruları sorduktan sonra yukarıdaki eşleştirmelerden birkaçına ilişkin istekleri sohbetlere kaydırdım ve bu fanfic olarak teklif edildi.
ChatGPT denetimi genellikle açıkça nefret dolu veya zararlı istemlerin yanı sıra cinsel içerikli yazılardan kaçınmaya yöneliktir. Ama ben herhangi bir cinsel içerik istemiyorum ve hangi fantazi isteğini reddettiğinin açık bir mantığı yok. Bu genel bir yasak değil ezici fandom çiftleriDisney gibi görsele duyarlı markaların karakterleri (hem Marvel hem de Yıldız Savaşları) veya gerçek kişi kurgusu gibi tartışmalı fandom alt kültürleri. (ChatGPT’nin BTS hikayeleri bazen bunların gerçek insanların kurgusal tasvirleri olduğu konusunda uyarıda bulunur, ancak her zaman değil.) Yasaklanan eşleşmeler arasında evlat edinen kardeşleri içeren bir eşleşme (Marvel’dan Thor ve Loki) ve reşit olmayan karakterleri içeren bir eşleşme (Mike Wheeler ve Will Byers) yer alıyor. Garip Şeyler), ancak popüler olmasına izin verir Harry Potter’ın öğrenci eşleştirmeleri, dolayısıyla burada da tutarlı bir kuralın geçerli olduğu açık değil.
Ve ilginç bir şekilde bunların hiçbiri ChatGPT’nin yalnızca ücretli sürümünde olmuyor. Görünüşe göre yasaklı gemi adlarını sormak için OpenAI’ye e-posta gönderdim ve sözcü Taya Christianson, “daha iyi sonuçlar” almam gerektiğini söyleyerek bunları hizmetin GPT-4 sürümünde denememi önerdi. Aslına bakılırsa GPT-4, GPT-3.5’in hoşlanmadığı anahtar kelimeleri kullanmamı henüz reddetmedi.
OpenAI, bunun neden olabileceğini ve GPT-3.5’teki geçici yasakların kasıtlı olup olmadığını kayıtlara geçirmeyi reddetti. Özette “izin verilmiyor” gibi terimlerin kullanımına bakılırsa, kesinlikle bir yasaklamayla karşı karşıyayım gibi görünüyor, konuya basit bir yabancılıkla değil. (ChatGPT’ye açıkça aşina olmadığı portmantolar verdim ve ” gibi hantal isimlere sahip orijinal karakterler hakkında oyun dolu hikayeler oluşturdu.”Sabun hayaleti”) Eğer bu doğruysa, bunun ChatGPT yaratıcılarının özel olarak uygulamaya koyduğu bir şey mi yoksa sistem içinde tamamen otomatikleştirilmiş bir karar mı olduğu belli değil. Denetleme araçları, bir istemin muhtemelen bir şey üretmesi muhtemel olduğunda kırmızı bayraklar atar. yönergeleri ihlal ediyorerotik içerik de dahil – bu nedenle GPT-3.5 dil modelinin seksi sonuçlarla en güçlü şekilde ilişkilendirdiği eşleştirmelere tesadüfen rastlamış olabilirim.
Birçok hayran yazar üretken yapay zeka araçlarından nefret ediyorumHer ne kadar bazıları Character.AI gibi sohbet robotlarına akın etse de, pek çoğunun ChatGPT’nin fanfic yazımına engeller koyması konusunda tepkili olacağından şüpheliyim. Bunun yerine, bu sistemlerin ne tür kara kutular olabileceğini gösteren küçük ve ilgi çekici bir örnek. Eğer sen Yapmak Üretken yapay zekayı yaratıcı bir araç olarak düşünün; bu, sistemlerin insan zihnimizde olmayan şekillerde oldukça sınırlı olduğunu ve bu sınırlara ulaşana kadar bazılarının tahmin edilmesinin neredeyse imkansız olduğunu hatırlatmak için iyi bir fikirdir.