Bugün dünyanın en büyük yapay zeka programı, emsallerinin çoğundan farklı olarak kaynak kodunu yayınlamayan bir şirketten geliyor.
OpenAI tarafından oluşturulan ChatGPT, GitHub’da mevcut değildir. ChatGPT kaynaklarına ve GPT programlarına da kolayca erişilemez. Ve bu hafta Salı günü şirket, motorunun en son versiyonu olan GPT-4’ün teknik ayrıntılarını bile açıklamayı reddederek önemli bir adım attı.
ChatGPT ve GPT-4’ün şeffaf olmaması, Derin Öğrenme alanındaki yaygın uygulamalardan bir sapmadır. Çünkü hem üniversitelerdeki hem de şirketlerdeki AI araştırmacıları şimdiye kadar özgür yazılım geleneğini izleyerek kodlarını yayınlama eğilimindeydiler.
ChatGPT’nin kapalı yapısı yapay zekada standart haline gelebilir
Kanada MILA AI Enstitüsü’nün bilimsel direktörü olan AI öncüsü Yoshua Bengio, ChatGPT’nin kapalı doğasının AI’da norm haline gelebileceği ve etik sonuçları olabileceği konusunda uyarıyor. “Akademideki ve endüstriye geçiş yapan araştırmacıların akademik düşünme biçimi, kültürü daha açık kaynak, paylaşım ve işbirlikçi bir ruh getirecek şekilde değiştirdi” diyor.
“Ancak piyasa baskıları muhtemelen farklı bir yöne, gizliliğe doğru itecek,” diye ekledi. Bu etik nedenlerle olduğu kadar teknolojik ilerleme için de kötü.”
Bay Bengio, bir konferansa katılmaya davet edildi. Kolektif[i] Tahmin etmekkendisini “B2B satışlarını optimize etmek için tasarlanmış bir yapay zeka platformu” olarak tanımlıyor. ChatGPT’nin muazzam ticari potansiyeli göz önüne alındığında, araştırmacıların AI araştırmasında etik bir çerçeveye sahip olmasının hala mümkün olup olmadığı sorulduğunda, Bengio, “modellerinin bir parçası olduğu için açık bilim yapmaya ve çalışmalarını paylaşmaya devam edeceklerini” söyledi.
Araştırma makalelerinin yayınlanması esastır.
Ona göre, endüstriyel araştırmanın buna bağlı kalması gerektiği daha az açıktır. Bengio, bir yandan yapay zekanın kendine gelmesinden önce kurumsal araştırmanın “çok daha gizli” olduğunu söyledi. “ChatGPT’nin başarısının ardından AI’da gerçekleşmesi muhtemel olan altına hücuma baktığımızda, sektördeki bu açık kültürü koruyacak mıyız?”
Bengio, yapay zeka kolektif bir “laboratuarlar arasında çapraz tozlaşma” çabasıyla ilerledikçe, araştırma makalelerini yayınlamanın çok önemli olduğunu söyledi.
Bengio, GPT-4 gibi büyük dil modelleri hakkında “Bunlar karmaşık sistemler” dedi. “Kodumuzu başkalarının kodlarından oluşturuyoruz ve aynı zamanda dünyanın her yerindeki bilimsel makalelerde yazılan ve değerlendirilen fikirlerden de oluşturuyoruz – birbirimizin ilerlemesini temel alıyoruz. Patentler var ama asıl önemli olan içinde ne olduğu. bu makaleler”.
Dünyayı yapay zekanın vaatleri ve risklerinden haberdar edin
Bengio’nun gözlemine göre, küçük işletmeler genellikle test edilmemiş yazılımlarla risk almaya daha isteklidir, çünkü “bu iş dünyasının oyunudur.” ChatGPT gibi bazı durumlarda bazı kullanıcıların “rahatsız edici” bulduğu sonuçlar üreten programlardan bahsediyordu ve bunların tam olarak doğru olmadığını öne sürüyordu.
“Ancak bugün Google, Microsoft ve diğerleri gibi şirketler gizlilik yarışına girmek zorunda hissediyorlar” diye ekledi. “Yani endişelerden biri, ortaya koydukları şeyler konusunda bu kadar dikkatli olup olmayacakları.”
Bengio ile birlikte 2019’da AI üzerine yaptığı çalışmalardan dolayı Turing Ödülü’nü alan Yann LeCun da benzer endişeleri dile getiriyor. 17 Şubat tarihli bir tweette, Meta’da AI baş bilimcisi olan LeCun, Facebook AI Research’ün AI araştırma ve geliştirmeye açılmada önemli bir rol oynadığını yazdı. “Diğerleri izledi” diyor. “En azından bir süreliğine. Bugün OpenAI, DeepMind ve hatta belki Google bile daha az yayın yapıyor ve açık kaynak kullanıyor. Yapay zeka bilimi ve teknolojisindeki ilerlemelerin sonuçları ne olacak?”
Bengio’ya göre ChatGPT’nin piyasaya sürülmesi, dünyayı yapay zekanın vaatleri ve risklerinden haberdar etmede olumlu bir etkiye sahip olabilir. Bengio, “ChatGPT’nin etrafındaki medya sirki hakkında takdir ettiğim şey, bunun bir uyandırma çağrısı olması,” dedi. “Bence insanlar yıllar içinde yapay zekadaki ilerlemeleri gördüler ve birçok şirket ve birçok hükümet bir şeyler döndüğünü düşündü ve teknisyenler farkında olmadan işlerini yapıyorlardı. Çok güçlü sistemlerin ortaya çıkmak üzere olduğunu anladılar.” .
Kaynak : “ZDNet.com”