Hiçbir şey, sonsuza kadaryapay zeka destekli seinfeld Twitch’teki sahte şov, hızla platformdaki bir sonraki büyük şey haline geliyordu. Her zaman açık akış sırasında, bir oyuncu kadrosu seinfeld-bitişik karakterler kafa karıştırıcı konuşmalar yaptı, tuhaf şakalar yaptı ve hepsi bir kahkaha parçasıyla desteklenen ve yapay zeka tarafından yönetilen ham, bloklu grafikler dünyasında hareket etti.
Ancak daha sonra Jerry Seinfeld benzeri karakterin transfobik açıklamalar yapması üzerine iki hafta süreyle askıya alındı. Bu askıya alma Pazartesi günü kaldırılacak ve Mismatch Media’daki içerik oluşturucuları transfobik yorumların bir daha olmayacağından emin olmak için çalışıyor olsalar da bunu garanti edemiyorlar.
Transfobik açıklamalar, Mismatch’in akışı destekleyen yapay zeka modellerini değiştirmesinden sonra gerçekleşti. Bir duyuruya göre, “OpenAI’nin GPT-3 Davinci modelini kullanırken, dizinin hatalı davranışlar sergilemesine neden olan bir kesinti yaşamaya başladık.” Hiçbir şey, sonsuza kadar Anlaşmazlık. “OpenAI’nin daha az karmaşık bir modeli var, Curie, Davinci’nin öncülüydü. Davinci başarısız olmaya başladığında, şovu herhangi bir aksama olmadan devam ettirmek için Curie’ye geçtik. Curie’ye geçiş, uygunsuz metnin üretilmesine neden oldu.
Daha sonraki bir gönderide Mismatch, “yanlışlıkla OpenAI’nin içerik denetleme sistemini metin oluşturma modelleri için kullandığımıza inandık” ve gösteri tekrar yayına girmeden önce OpenAI’nin içerik denetleme API’sini uygulamak için çalışacağını ekledi.
“Tabii ki, yazılımda her zaman değişkenlik vardır”
Mismatch kurucu ortağı Skyler Hartle, o zamandan beri Mismatch’in bu uygulamaya karşı kararlılık testleri yaptığını ve herhangi bir yanlış negatif olmadığından emin olduğunu söyledi. Sınır. “Şimdiye kadar, gerçekten iyi görünüyor,” dedi. Ama sonra, “elbette, yazılımda her zaman değişkenlik vardır” diyerek önlem aldı. Hartle’a Mismatch’in korkuluklarının çalıştığından nasıl emin olduğunu sordum. “Bence üretken yapay zeka ve üretken medya alanında, doğasında var olan bir belirsizlik var.”
İnsanların ChatGPT’ye ve yeni Bing AI chatbot’a zaten alabildiği çılgınca şeylerin çoğuna atıfta bulunarak şunları söyledi: “Bence bu alandaki herkesin endişelenmesi ve bunun hakkında düşünmesi gerekiyor.” Mismatch Media, AI güvenlik önlemlerinin üretken AI parçalarıyla birlikte gelişebilmesi için hafifletme stratejileri bulmaya çalışan bir AI “güvenlik konseyi eğik çizgi ekibi” oluşturarak bununla mücadele ediyor. “Üretken alandaki insanlar olarak bunu mümkün olduğunca güvenli bir şekilde yapmanın bizim görevimiz olduğuna çok güçlü bir şekilde inanıyoruz.”
Mismatch, resmi OpenAI içerik denetleme API’sinden yararlanmanın yanı sıra OpenAI’yi şu amaçlarla kullanmak istiyor: yardım moderasyon sürecinde. Hartle, “İçeriğimizi onlara iletmek ve bir dizi soru ve istem sormak için OpenAI’den gerçekten yararlanan korkuluklar oluşturmak için çalışıyoruz” dedi. Mismatch, “OpenAI’ye sahip olmanın doğru yollarını bulmaktır ve bu büyük dil modelleri bu süreci yönetmeye yardımcı olur. Bu modeller şu anda doğal dili ayrıştırmada en iyi şeyler, bu yüzden onları ikincil bir sistem olarak kullanmaya çalışmak çok mantıklı.”
Hartle tonu beklemiyor Hiçbir şey, sonsuza kadar ek içerik denetleme sistemleriyle değiştirmek için. Bu muhtemelen şovun daha tuhaf ve saygısız anlar yaratmaya devam ettiğini görmeye devam edeceğimiz anlamına geliyor, ancak umarım bu sefer transfobi yoktur.
Hartle, izleyici etkileşim sistemini tanıtmak istiyor
Hartle ayrıca Mismatch’in daha önce oluşturduğu ancak başlatmamaya karar verdiği bir izleyici etkileşim sistemini tanıtmak istediğini söyledi. Hiçbir şey, sonsuza kadar. Hartle’a göre sistem, “hayranların şovla güvenli bir şekilde etkileşime girmesine ve potansiyel olarak şovun yöneldiği yöne masaj yapmasına ve aynı zamanda üretken ruhunu korumasına izin veriyor”. Mismatch, sistemi Twitch süspansiyonunun kaldırılmasıyla birlikte başlatmayı umuyor, ancak “bu noktada hiçbir şey için söz vermek istemiyor”.
Şahsen böyle bir uygulamada izleyici etkileşim aracına şüpheyle yaklaşıyorum. TwitchPlaysPokemon’un altın çağı gibi internet birliğinin büyük bir anında kullanılabilirken, bunun Tay fiyaskosu gibi bir şeye dönüşmesinden endişe ediyorum.
Öte Hiçbir şey, sonsuza kadar, Mismatch Media, içerik oluşturucuların kendi şovlarını yapmaları için bir platform oluşturmak istiyor. Hartle, “Buna giren çok şey var ve çözdüğümüz ve yinelediğimiz çok şey var, ancak plan, gelecek nesil insanları bu tür şeyleri yapmaları için güçlendirmek,” dedi. Amaç, bu platformu önümüzdeki altı ila 12 ay içinde çalışır duruma getirmek.
Ayrıca Hartle’a şovu ilk izlediğimden beri merak ettiğim bir şey sordum: Plan gerçekten onu sonsuza kadar devam ettirmek mi? Hartle, “Umudumuz, gösteriyi ekonomik olarak mantıklı olduğu sürece olabildiğince uzun süre yürütmek çünkü çok pahalı,” dedi. “Ancak bununla birlikte, bunu bir teknoloji platformu olarak inşa ediyoruz. Ve şovlardan daha fazlasını yapmak istiyoruz. Eğer bunda başarılı olursak ve etrafımızda bir iş kurabilirsek, bunun için bir sebep göremiyorum. Hiçbir şey, sonsuza kadar Hayranlar ve topluluk çalışmasını istediği sürece yayınlanmamalı.”