Meta, bu ayın başlarında yapay zeka (AI) araştırması için yeni dil işleme modelini açıkladı. Open Pretrained Transformer (OPT-175B) ismine karşılık olarak, tamamen açık kaynak olacak ve ticari olmayan amaçlar için kullanılabilir. Bu şablonlar, sohbet robotlarını otomatikleştirmek, metinleri çevirmek ve hatta ürün sayfaları yazmak için kullanılabilir.
Meta, OpenAI modelinden ilham aldı
Model, Elon Musk tarafından ortaklaşa kurulan bir şirket olan OpenAI tarafından oluşturulanla aynı yetenekleri paylaşıyor. GPT-3 gibi, 175 milyar parametreye sahiptir ve makine öğrenimini temel alır.
Kripto Para Ticaretinin Karanlık Yüzü: Uykusuzluk, Bağımlılık, Depresyon
OPT-175B’nin ağabeyine bu kadar çok benzediği düşünülüyorsa, kasıtlıdır. Facebook AI Research’ün eş CEO’su Joelle Pineau’ya göre, model, dil görevlerinin doğruluk düzeyi ve toksisitesi GPT-3’ünkiyle eşleşecek şekilde tasarlandı.
Arkasındaki fikir? Hayatın her kesiminden araştırmacıların geliştirilmesine ücretsiz olarak katkıda bulunmalarına izin vermek için kodunu açık kaynak yapın. Gerçekten de OpenAI, API ödemesine erişim sağladı. Bu nedenle, yalnızca en zengin laboratuvarlar onun dil işleme modeli üzerinde araştırma yapabildi.
” Tüm AI topluluğunun – akademik araştırmacılar, sivil toplum, politika yapıcılar ve endüstrinin – yapay zeka ve büyük ve sorumlu dil modelleri hakkında net yönergeler geliştirmek için birlikte çalışması gerektiğine inanıyoruz. “açıklanan Meta onun basın açıklaması.
Teknolojiyi daha şeffaf hale getirin
Teknolojinin giderek daha şeffaf hale gelmesini sağlamak her zaman Joelle Pineau’nun işi olmuştur. ” Açık bilime olan bu bağlılık, benim [chez Meta]. Başka koşullarda orada olmayacağım “, dedi araştırmacı ile bir röportajda MIT Teknoloji İncelemesi.
Meta, sırlarını paylaşmaya en istekli şirket değil. Algoritmalarının işleyişini çok az ortaya çıkardı ve hatalarını gizlemeyi tercih ediyor. Yine de Joelle Pineau, OPT-175B’yi açık kaynak ve ticari olmayan amaçlar için kullanılabilir hale getirmeyi başardı.
Grup ayrıca, AI eğitim sürecini belgelemek için tam model kodunu ve bir kayıt defterini yayınladı. Bu zaten Ekim 2021’den Ocak 2022’ye kadar 3 aylık araştırmayı içeriyor ve karşılaşılan tüm hataları, çökmeleri ve yeniden başlatmaları listeliyor.
Doğal dil işleme modelleri, yapay zekanın bir sonraki kutsal kâsesi haline geldi. Ancak bunlar, yanlış bilgilerin iletilmesi, ırkçı ve cinsiyetçi önyargıların kullanılması ve toksik dil dahil olmak üzere derin kusurlar içeriyor. Bu problemler, modelin eğitmek ve geliştirmek için kullandığı metinlerle ilgilidir.
GPT-3 bedelini defalarca ödedi. Ekim 2020’de Nabla şirketi, sahte bir hastaya hayatına son vermesini tavsiye ederken bu modeli tıp alanında test ediyordu. Dil işleme modellerinin kodunun tamamının serbestçe erişilebilir hale getirilmesi, bu nedenle, bu komplikasyonları daha etkin bir şekilde düzeltmeyi mümkün kılacaktır.