Ne bilmek istiyorsun
- Microsoft yakın zamanda küçük dil modellerine akıl yürütmeyi öğretmeye yönelik çabalarını vurgulayan yeni bir blog yazısı yayınladı.
- ChatGPT ve Bing Chat gibi daha yetenekli LLM’lerin adım adım akıl yürütme izlerini taklit ederek güçlü akıl yürütme yetenekleri sergileyen küçük bir dil modeli olan Orca 2’yi tanıttı.
- Karşılaştırmalara göre Orca 2, karmaşık görevleri yerine getirmek üzere teste tabi tutulduğunda diğer LLMS’lere kıyasla gelişmiş performans yeteneklerine sahiptir.
- Microsoft, LLM’leri kullanarak daha küçük dil modellerini eğitmeyi ve sonuçta yeteneklerini genişletmeyi planlıyor.
Hiç şüphe yok ki Microsoft, özellikle teknolojiye milyarlarca dolarlık bir yatırım yaptıktan ve OpenAI ile ortaklığını daha da genişlettikten sonra tüm bahislerini üretken yapay zeka üzerine koydu.
OpenAI’den bahsetmişken, çoğu kişinin teknoloji firmasının üst yönetimini etkileyen bir paradigma değişikliği olarak adlandırabileceği şeye tanık olduk. OpenAI’nin yönetim kurulu, liderlik becerilerine olan güven eksikliğini gerekçe göstererek Sam Altman’ı görevinden aldı. Kısa bir süre sonra Altman’a, Greg Brockman (Altman’ın devrilmesinden kısa bir süre sonra istifa eden eski OpenAI kurucu ortağı) ile birlikte Microsoft’ta Gelişmiş Yapay Zeka ekibine liderlik etme işi teklif edildi.
Tüm bunlar ortaya çıktıkça Microsoft, bu yöndeki çabalarını vurgulayan yeni bir blog yazısı yayınladı. küçük dil modellerine nasıl akıl yürütüleceğini öğretmek. Birkaç ay önce şirket Orca’yı piyasaya sürdü. “Daha yetenekli LLM’lerin adım adım akıl yürütme izlerini taklit ederek güçlü akıl yürütme yetenekleri sergileyen 13 milyarlık bir dil modeli.”
Ve şimdi, daha küçük LM’lerin yeteneklerinden yararlanma çabalarının bir parçası olarak Orca 2’yi (7 milyar ve 13 milyar parametre olmak üzere iki boyutta geliyor) tanıttı. Microsoft’a göre Orca 2 sporu “gelişmiş eğitim sinyalleri ve yöntemleri, daha küçük dil modellerinin gelişmiş muhakeme yetenekleri elde etmesini sağlayabilir.” Bu yeteneklerin genellikle ChatGPT ve Bing Chat dahil daha büyük dil modellerinde bulunduğu göz önüne alındığında, bu önemli bir başarıdır.
Kuşkusuz, her iki sohbet robotu da bu yıl boyunca çok sayıda aksilikle karşı karşıya kaldı; birçok kullanıcı, OpenAI’nin iflasın eşiğinde olduğu iddiaları arasında ChatGPT’nin daha da aptallaştığını belirtti. Öte yandan bir rapor, Microsoft’un teknolojiye yaptığı büyük yatırıma rağmen Bing’in kullanıcı tabanının art arda üç ay boyunca sabit kaldığını belirtti.
Microsoft ayrıca Orca 2’nin diğer benzer modellerden, hatta orijinal Orca modelinden bile kilometrelerce önde olduğunu belirtiyor. Dahası şirket, “sıfır atış ayarlarında gelişmiş muhakeme yeteneklerini” test eden karmaşık görevleri yerine getirirken diğer büyük modellerle karşılaştırıldığında gelişmiş performans seviyelerine sahip olduğunu belirtti.
GPT-4, PaLm ve diğerleri gibi Sınır Dil Modelleri, örneğin karmaşık soruları yanıtlama, açıklamalar üretme ve hatta çok adımlı akıl yürütme gerektiren sorunları çözme gibi olağanüstü bir akıl yürütme yeteneği sergilemiştir; Bir zamanlar yapay zekanın ulaşamayacağı düşünülen yetenekler. Geleneksel olarak, bu tür yetenekler daha küçük dil modellerinde gözlemlenmemiştir, bu nedenle zorluk, bu küçük modellerin yeteneklerini artırmak için büyük dil modellerine ilişkin artan bilgimizi nasıl kullanacağımızdır.
Microsoft
Microsoft’un Gelişmiş Yapay Zeka ekibi yolda
Hafta sonu OpenAI fiyaskosunun ortasında Microsoft CEO’su Satya Nadella, Sam Altman’ın Gelişmiş Yapay Zeka ekibinin lideri olarak şirkete katılacağını duyurdu. Yeteneklerine ve becerilerine uygun bir iş.
Talihsiz Altman haberinin ardından, 500’den fazla OpenAI çalışanı, kararın vizyonlarını baltaladığını öne sürerek yönetim kuruluna onun eski durumuna getirilmesini talep eden bir mektup yazdı. Çalışanlar, taleplerinin karşılanmaması halinde şirketten ayrılacaklarını belirterek, “çalışanları olmadan OpenAI olmaz” dedi.
Durumu bilen kaynaklara göre Microsoft, sözlerini tutup şirketten ayrılmaya karar vermeleri halinde tüm OpenAI çalışanlarını AI bölümüne almaya hazır.
Microsoft, Orca 2 ile daha fazlasını başarmak için muhtemelen OpenAI ekibinden yararlanacak. Sonuç olarak bu, şirketin LLM’leri daha küçük dil modellerini eğitmek için kullanmasına ve sonuçta daha küçük dil modellerinin yeteneklerini genişletmesine olanak tanıyacak.
Microsoft’un Orca 2 girişimlerinde doğru yolda ilerlediğini düşünüyor musunuz? Düşüncelerinizi yorumlarda bizimle paylaşın.