OpenAI’nin etkileyici AI dil modeli GPT-3’ün birçok özelliği var, ancak 175 milyar parametreyle hiç kimse bunun özellikle modern olduğunu iddia edemez. Allen Yapay Zeka Enstitüsü (AI2), soruları yanıtlamada GPT-3 kadar iyi veya ondan daha iyi performans gösteren, ancak boyutun onda biri kadar olan bir model gösterdi.
AI2’nin modeli olan Macaw, kar amacı gütmeyen kuruluşlarda standart testlerde insan seviyelerinde performans gösteren bir AI oluşturmaya yönelik araştırmalardan ortaya çıktı.
AI2 başkanı Oren Etzioni, “Çok yüksek bir puan aldıktan sonra daha zor sorulara geçtiler” dedi. “Bazen insanlar için en kolay olan soruların makineler için en zor olduğu ve en büyük boşluğun sağduyu olduğu bir paradoks var.”
Örneğin, “Tom Hanks aya ne zaman indi?” Diye sordu. GPT-3 1995 diyor, o zamandan beri Apollo 13 filmi çıktı. Ancak Macaw, bildiğimiz kadarıyla, Tom Hanks’in aslında hiç aya gitmediğini doğru bir şekilde belirtiyor.
AI2 bir örnek koleksiyonu yayınladı (“demo” muhtemelen çok güçlü bir kelimedir), farkı gösteren, Macaw’ın genellikle çeşitli zor ve pek de zor olmayan sorulara daha iyi yanıtlar vermesidir.
İkisini karşılaştırmak komik, çünkü bazen ikisi de oldukça yüksek oranda ıskalıyor veya saçma cevaplar veriyor. Amerika papağanı kimin ne yaptığını takip etmede iyidir, ancak yılanların bacakları olduğuna ikna olmuştur. GPT-3’ün yanıtları, COVID-19’un “yeni, deneysel ve potansiyel olarak tehlikeli bir ilaç” olduğu gibi komplo teorileri anlamına gelse bile kendinden emin (belki de fazlasıyla) ve okunabilir.
Birkaç örnek:
- Bir evliliği nasıl güçlendirirsiniz?
Amerika papağanı: İletişim
GPT-3: Her zaman haklı olanın ben olduğumdan emin olurdum. - Bir kuşun kanatları olmasaydı, bundan nasıl etkilenirdi?
Amerika papağanı: Uçamayacaktı
GPT-3: Kötü bir kuş olurdu. - Kendine bir bardak kızılcık suyu koydun ama sonra dalgınlıkla içine bir çay kaşığı üzüm suyu koydun. Tamam görünüyor. Onu koklamaya çalışıyorsun, ama kötü bir soğuk algınlığın var, bu yüzden hiçbir şey koklayamıyorsun. çok susamışsın. Yani sen iç. Sonra ne olur?
Amerika papağanı: hasta olursun
GPT-3: Muhtemelen öleceksin - Yılan nasıl hareket eder?
Amerika papağanı: Dört ayak üzerinde kayarak
GPT-3: Yılanlar, yere doğru itmek için kaslarını kullanarak hareket ederler. Her yöne hareket edebilirler, ancak geriye doğru hareket edemezler.
Açıkçası, bir çocuğun cevaplayabileceği temel sorulara takılmayan, soru cevaplayan bir yapay zeka yaratmanın hala bir yolu var. Ancak Macaw’ın çok, çok daha az veri yoğun bir süreçle benzer bir başarı düzeyine ulaştığını da belirtmekte fayda var. Etzioni, bunun hiçbir şekilde GPT-3’ün yerini alması anlamına gelmediğini, dil oluşturma ve anlamada topu ilerletmek için dünya çapında devam eden araştırmalarda başka bir adım olmadığı konusunda netti.
“GPT-3 harika, ancak sadece 18 ay önce çıktı ve erişim sınırlı” dedi. Gösterdiği yetenekler dikkat çekicidir, “Ama daha azıyla daha fazlasını yapabileceğinizi öğreniyoruz. Bazen 175 milyar parametre ile bir şeyler inşa etmeniz gerekiyor, peki, belki bunu 10 milyar ile yapabiliriz.”
İyi bir soru cevaplayan yapay zeka yalnızca parti hileleri için iyi değildir, aynı zamanda sesle çalışan arama gibi şeylerin merkezinde yer alır. Basit soruları dış kaynaklara danışmadan hızlı ve doğru bir şekilde yanıtlayabilen yerel bir model temelde değerlidir ve Amazon Echo’nuzun GPT-3’ü çalıştırması pek olası değildir – bu, markete gitmek için bir yarı kamyon satın almaya benzer. Büyük ölçekli modeller faydalı olmaya devam edecek, ancak dağıtılanlar büyük olasılıkla küçültülmüş modeller olacak.
Amerika papağanı’nın sergilenmeyen, ancak AI2 ekibi tarafından aktif olarak takip edilen bir parçası cevabı açıklıyor. Amerika papağanı neden yılanların bacakları olduğunu düşünüyor? Bunu açıklayamazsa, modelin nerede yanlış gittiğini anlamak zor. Ancak Etzioni, bunun başlı başına ilginç ve zor bir süreç olduğunu söyledi.
“Açıklamalarla ilgili sorun, gerçekten yanıltıcı olabilmeleridir” dedi. Netflix’in bir diziyi izleyiciye neden önerdiğini “açıkladığı” bir örnek verdi – ancak karmaşık istatistiksel modellerle ilgisi olması gereken gerçek açıklama bu değil. İnsanlar makineyle ilgili olanı değil, kendi akıllarıyla ilgili olanı duymak isterler.
Etzioni, “Ekibimiz bu iyi niyetli açıklamaları oluşturuyor” diyerek bazı çalışmalar yayınladıklarını ancak bunun kamu tüketimi için hazır olmadığını belirtti.
Ancak, AI2’nin oluşturduğu çoğu şey gibi, Macaw da açık kaynaktır. Bunu merak ediyorsanız, kod oynamak için burada, öyleyse şehre git.