Üretken yapay zeka alanındaki rekabet kızıştıkça, OpenAI metin oluşturma modellerini yükseltirken fiyatlandırmayı da düşürüyor.
Bugün, OpenAI ilan edildi GPT-3.5-turbo ve GPT-4’ün yeni sürümlerinin piyasaya sürülmesi; ikincisi, işlev çağırma adı verilen bir yeteneğe sahip en son metin üreten yapay zekadır. OpenAI’nin açıkladığı gibi Blog yazısıişlev çağırma, geliştiricilerin programlama işlevlerini GPT-3.5-turbo ve GPT-4’e tanımlamasına ve modellerin bu işlevleri yürütmek için kod oluşturmasına olanak tanır.
Örneğin işlev çağırma, harici araçları çağırarak soruları yanıtlayan, doğal dili veritabanı sorgularına dönüştüren ve metinden yapılandırılmış verileri çıkaran sohbet robotları oluşturmaya yardımcı olabilir. “Bu modeller, hem bir işlevin ne zaman çağrılması gerektiğini algılamak… JSON işlev imzasına uyan, ”diye yazıyor OpenAI. “İşlev çağırma, geliştiricilerin yapılandırılmış verileri modelden daha güvenilir bir şekilde geri almalarına olanak tanır.”
OpenAI, işlev çağrısının ötesinde, büyük ölçüde genişletilmiş bir bağlam penceresiyle bir GPT-3.5-turbo çeşidi sunuyor. Bağlam penceresi, ölçülen belirteçlerveya ham metin parçaları, modelin herhangi bir ek metin oluşturmadan önce dikkate aldığı metni ifade eder. Küçük bağlam pencerelerine sahip modeller, en son konuşmaların içeriğini bile “unutma” eğilimindedir ve bu da onları, genellikle sorunlu şekillerde konudan saptırmalarına yol açar.
Yeni GPT-3.5-turbo, normal GPT-3.5-turbo’nun dört katı bağlam uzunluğunu (16.000 jeton) iki kat fiyatla sunar — 1.000 giriş jetonu (yani modele beslenen jetonlar) başına 0,003 USD ve 1.000 çıkış jetonu başına 0,004 USD ( modelin ürettiği belirteçler). OpenAI, tek seferde yaklaşık 20 sayfalık metin alabildiğini söylüyor – özellikle yapay zeka başlangıcı Anthropic’in amiral gemisi modelinin işleyebileceği yüzlerce sayfadan kısa. (OpenAI, GPT-4’ün 32.000 belirteçlik bağlam pencereli bir sürümünü test ediyor, ancak yalnızca sınırlı sürümde.)
Artı tarafta OpenAI, GPT-3.5-turbo – genişletilmiş içerik pencereli sürüm değil, orijinal sürüm – fiyatını %25 oranında düşürdüğünü söylüyor. Geliştiriciler artık modeli 1.000 giriş jetonu başına 0,0015 ABD Doları ve 1.000 çıkış jetonu başına 0,002 ABD Doları karşılığında kullanabilir, bu da dolar başına yaklaşık 700 sayfaya eşittir.
OpenAI’nin daha popüler metin gömme modellerinden biri olan text-embedding-ada-002 için fiyatlandırma da düşürülüyor. Metin yerleştirmeleri, metin dizelerinin ilişkililiğini ölçer ve genellikle arama (sonuçların bir sorgu dizesiyle alaka düzeyine göre sıralandığı) ve öneriler (ilgili metin dizelerine sahip öğelerin önerildiği) için kullanılır.
Text-embedding-ada-002 artık 1.000 jeton başına 0,0001 USD’ye mal oluyor ve önceki fiyattan %75 daha düşük. OpenAI, azaltmanın sistemlerindeki verimliliğin artmasıyla mümkün olduğunu söylüyor; yüz milyonlarca Ar-Ge ve altyapı için dolar.
OpenAI, Mart ayı başlarında GPT-4’ün piyasaya sürülmesinden sonra, mevcut modellere yapılan artımlı güncellemelerin – devasa yeni sıfırdan modellere değil – MO’su olduğunun sinyalini verdi. Economic Times’ın ev sahipliği yaptığı yakın tarihli bir konferansta CEO Sam Altman, OpenAI’nin GPT-4’ün halefini eğitmeye başlamadığını yeniden teyit ederek şirketin bu modeli başlatmadan önce “yapacak çok işi olduğunu” belirtti.