OpenAI müşterileri artık özel verileri GPT-3.5’in hafif sürümü olan GPT-3.5 Turbo’ya getirebilir; bu, belirli davranışları oluştururken metin üreten yapay zeka modelinin güvenilirliğini geliştirmeyi kolaylaştırır.
OpenAI, GPT-3.5’in ince ayarlı sürümlerinin “belirli dar görevlerde” şirketin amiral gemisi modeli olan GPT-4’ün temel yetenekleriyle eşleşebileceğini, hatta daha iyi performans gösterebileceğini iddia ediyor.
Şirket bir blog yazısında şöyle yazdı: “GPT-3.5 Turbo’nun piyasaya sürülmesinden bu yana, geliştiriciler ve işletmeler, kullanıcıları için benzersiz ve farklı deneyimler yaratacak şekilde modeli özelleştirme olanağı istediler.” yayınlanan bu öğleden sonra. “Bu güncelleme, geliştiricilere kendi kullanım durumları için daha iyi performans gösteren modelleri özelleştirme ve bu özel modelleri geniş ölçekte çalıştırma olanağı sağlıyor.”
OpenAI’nin API’si aracılığıyla GPT-3.5 Turbo’yu kullanan şirketler, ince ayar yaparak modelin her zaman belirli bir dilde yanıt vermesi gibi talimatları daha iyi takip etmesini sağlayabilir. Veya modelin yanıtları tutarlı bir şekilde biçimlendirme yeteneğini geliştirebilir (örn. kod parçacıklarını tamamlamak için) ve ayrıca modelin çıktısının tonu gibi “hissini” de geliştirerek bir markaya veya sese daha iyi uymasını sağlayabilirler.
Ayrıca ince ayar, OpenAI müşterilerinin metin istemlerini kısaltarak API çağrılarını hızlandırmasına ve maliyetleri düşürmesine olanak tanır. OpenAI blog yazısında şunu iddia ediyor: “İlk test uzmanları, talimatlarda modelin kendisine ince ayar yaparak istem boyutunu %90’a kadar azalttı.”
İnce ayar şu anda verilerin hazırlanmasını, gerekli dosyaların yüklenmesini ve OpenAI’nin API’si aracılığıyla bir ince ayar işi oluşturulmasını gerektiriyor. Şirket, OpenAI’nin güvenlik standartlarıyla çelişip çelişmediğini görmek için tüm ince ayar verilerinin bir “denetleme” API’sinden ve GPT-4 destekli bir denetleme sisteminden geçmesi gerektiğini söylüyor. Ancak OpenAI, gelecekte devam eden ince ayar iş yüklerinin durumunu kontrol etmek için bir kontrol paneli içeren ince ayarlı bir kullanıcı arayüzü başlatmayı planlıyor.
İnce ayar maliyetleri aşağıdaki gibidir:
- Eğitim: 0,008 ABD Doları / 1 bin jeton
- Kullanım girişi: 0,012 ABD doları / 1 bin jeton
- Kullanım çıktısı: 0,016 ABD Doları / 1 bin token
“Jetonlar” ham metni temsil eder; örneğin “fantastik” kelimesi için “hayran”, “tas” ve “tik”. OpenAI, 100.000 jeton veya yaklaşık 75.000 kelimelik bir eğitim dosyasıyla GPT-3.5 turbo ince ayar işinin yaklaşık 2,40 dolara mal olacağını söylüyor.
Diğer yandan OpenAI bugün, sayfalandırma ve “daha fazla genişletilebilirlik” desteğiyle ince ayar yapılabilen iki güncellenmiş GPT-3 temel modelini (babbage-002 ve davinci-002) kullanıma sundu. Daha önce duyurulduğu gibi OpenAI, orijinal GPT-3 temel modellerini 4 Ocak 2024’te kullanımdan kaldırmayı planlıyor.
OpenAI, GPT-3.5’ten farklı olarak metne ek olarak görselleri de anlayabilen GPT-4 için ince ayar desteğinin bu sonbaharın sonlarında geleceğini söyledi ancak bunun ötesinde ayrıntı vermedi.