Google yakın zamanda başlatıldı Avuç içi 2, şirketin yeni büyük dil modeli (LLM), -de Google G/Ç. Şirket, yeni modelin önceki LLM’lerden daha küçük olduğunu söyledi, ancak bir rapor, LLM’nin 2022’de piyasaya sürülen selefi PaLM’den neredeyse beş kat daha fazla eğitim verisi kullandığını söylüyor. Bu, modelin daha gelişmiş kodlama, matematik ve yaratıcı yazma görevleri.
Dahili belgelere atıfta bulunarak, CNBC tarafından hazırlanan bir raporda, PaLM 2 modelinin, PaLM’nin 780 milyar jetonuna kıyasla 3,6 trilyon jeton üzerinde eğitildiğini söyledi.
Belirteçler kelime dizileridir ve LLM’leri eğitmek için önemli yapı taşlarıdır. Modele bir dizide görünecek bir sonraki kelimeyi tahmin etmeyi öğretirler.
Ayrıca Oku
Google’ın PaLM 2 özellikleri
Google, PaLM 2 dil modelinin çok dilli, muhakeme ve kodlama yeteneklerini geliştirdiğini duyurdu. Google, modelin 100 dilde eğitildiğini ve çok çeşitli görevleri yerine getirdiğini söyledi.
Pek çok dilde eğitim, deyimler, şiirler ve bilmeceler dahil olmak üzere incelikli metinleri çok çeşitli dillerde anlama, oluşturma ve çevirme becerisini önemli ölçüde geliştirdi; bu, çözülmesi zor bir sorun.
Google, PaLM 2’nin ileri düzey dil yeterlilik sınavlarını da “ustalık” seviyesinde geçtiğini iddia etti. PaLM 2 ayrıca matematiksel ifadeler içeren bilimsel makaleler ve web sayfalarını içeren bir veri seti üzerinde eğitilmiştir.
Ayrıca Oku
PaLM 2 tekniği
Google I/O konferansında Google, PaLM 2’nin “compute-optimal scaling” adlı “yeni bir teknik” kullandığını ve bunun LLM’yi “genel olarak daha iyi performansla daha verimli hale getirdiğini” söyledi. hizmet bedeli.”
PaLM 2, en küçüğünden en büyüğüne dört boyutta mevcuttur: Gecko, Otter, Bison ve Unicorn.
LLM, 25’in üzerinde yeni ürün ve özelliği destekler. AI modeli, Workspace uygulamalarında, tıbbi kullanımlar için Med-PaLM’de ve güvenlik için Sec-PaLM’de mevcut olacak.
FacebooktwitterLinkedin
makalenin sonu
