OpenAI Salı günü kurumsal düzeyde Asistanlar API’si için yeni araçlar ve özellikler duyurdu. Yapay zeka firması, API paketini iş yükleri için özelleştirilmiş çözümlere ihtiyaç duyan büyük işletmelerin kullanımına sundu. Klarna, Morgan Stanley, Oscar, Salesforce ve Wix gibi önemli müşterilerinden bazılarını öne çıkaran şirket, onların ihtiyaçlarını daha iyi desteklemek için yeni özellikleri kullanıma sundu. İki yeni araç ve altı yeni Asistan API özelliği tanıtıldı. OpenAI ayrıca işletmelerin AI ürünlerini uygun maliyetli bir şekilde kullanmaları için seçenekler de sağladı.
Duyurunun bir kanal aracılığıyla yapılması Blog yazısıOpenAI, “Hem büyük işletmeler hem de platformumuzda hızla ölçeklenen geliştiriciler için yararlı olan yeni özelliklerle işletmelere yönelik desteğimizi derinleştiriyoruz” dedi. Private Link adı verilen ilk yeni araç, organizasyonel verilerini OpenAI bulutu ile paylaşan işletmelere gelişmiş güvenlik sunmak üzere tasarlandı. Özel Bağlantı, Microsoft Azure ile OpenAI arasında doğrudan bağlantı sağlayarak açık internete maruz kalmayı en aza indirir. Ayrıca yapay zeka firması, ek güvenlik ve erişim kontrolü gerekliliklerine uygunluğu sağlamak için yerel Çok Faktörlü Kimlik Doğrulamayı (MFA) yayınladı.
Daha iyi idari kontrol için tasarlanmış başka bir araç da kullanıma sunuldu. Dublajlı Projeler, yöneticilerin belirli projelere yönelik rolleri ve API anahtarlarını kapsamasına, kullanılabilir hale getirilecek modelleri kısıtlamasına ve seçmesine, kullanım ve hıza dayalı sınırlar belirlemesine olanak tanır. Ayrıca Proje sahipleri hizmet hesabı API anahtarları da oluşturabilecektir. Bu anahtarlar diğer kullanıcıların projelere erişmesini sağlayacaktır.
Asistanlar API’sine gelen OpenAI, birçok yeni özelliği tanıttı. Dosya_arama alma özelliği, daha önce 20’ye kıyasla artık asistan başına 10.000’e kadar dosya alabiliyor. Şirket, çok iş parçacıklı aramalar yoluyla paralel sorguları desteklediğini ve geliştirilmiş yeniden sıralama ve sorgu yeniden yazma özelliklerine sahip olduğunu iddia ediyor. Akış desteği de eklendi. Ayrıca vektör deposu nesneleri ve tool_choice parametresi gibi teknik bileşenler de dahil edilmiştir. API aynı zamanda ince ayarlı GPT 3.5 Turbo modellerini de destekleyecektir.
Maliyet yönetimi için yapay zeka firması iki yeni yöntem ekledi. İlk olarak, sürekli bir dakika başına jeton düzeyine sahip olan işletmeler artık yüzde 50’ye varan indirim elde etmek için tedarik edilen aktarım hızına erişim talep edebilir. Acil olmayan iş yükleri için müşteriler, paylaşılan fiyatlardan yüzde 50 indirimli olarak fiyatlandırılan toplu API isteklerini tercih edebilir. Yine de sonuçları 24 saat içinde döndürecekler ve yüksek oran limitleri sunacaklar.