OpenAI, geliştiricilerin üzerinde oynamaları için GPT-4o Mini adlı daha hafif ve daha ucuz bir model yayınlıyor. Tam boyutlu modellerden önemli ölçüde daha ucuza mal oluyor ve GPT-3.5’ten daha yetenekli olduğu söyleniyor.
OpenAI’nin modellerini kullanarak uygulama geliştirmek büyük bir faturaya yol açabilir. Bununla uğraşmaya gücü yetmeyen geliştiriciler tamamen fiyatlandırılabilir ve Google’ın Gemini 1.5 Flash’ı veya Anthropic’in Claude 3 Haiku’su gibi daha ucuz modelleri tercih edebilirler. Şimdi, OpenAI hafif model oyununa giriyor.
API platform ürününü yöneten Olivier Godement, “GPT-4o Mini’nin AI’yı insanlara daha geniş bir şekilde erişilebilir kılma misyonuna gerçekten ulaştığını düşünüyorum. AI’nın dünyanın her köşesine, her sektöre, her uygulamaya fayda sağlamasını istiyorsak, AI’yı çok daha uygun fiyatlı hale getirmeliyiz” dedi. Sınır.
Bugünden itibaren, Free, Plus ve Team planlarındaki ChatGPT kullanıcıları GPT-3.5 Turbo yerine GPT-4o Mini’yi kullanabilirken, Enterprise kullanıcıları gelecek hafta erişim elde edecek. Bu, GPT-3.5’in artık ChatGPT kullanıcıları için bir seçenek olmayacağı ancak GPT-4o Mini’ye geçmek istemeyen geliştiriciler için API üzerinden hala kullanılabilir olacağı anlamına geliyor. Godement, GPT-3.5’in bir noktada API’den emekliye ayrılacağını söyledi; ancak ne zaman olacağından emin değiller.
Godement, “Bunun çok popüler olacağını düşünüyorum” dedi
Yeni, hafif model API’de metin ve görüntüyü de destekleyecek ve şirket yakında video ve ses gibi tüm çok modlu girdi ve çıktıları ele alacağını söylüyor. Tüm bu yeteneklerle, bu seyahat güzergahınızı anlayabilen ve öneriler oluşturabilen daha yetenekli sanal asistanlar gibi görünebilir. Ancak, model basit görevler için tasarlanmıştır, bu nedenle kimse Siri’yi tam olarak ucuza inşa etmiyor.
Bu yeni model, 57 akademik konuda yaklaşık 16.000 çoktan seçmeli sorudan oluşan bir kıyaslama sınavı olan Massive Multitask Language Understanding (MMLU) sınavında %82 puan aldı. MMLU ilk olarak 2020’de tanıtıldığında, çoğu model bu konuda oldukça kötüydü ve bu, modeller önceki kıyaslama sınavları için çok ileri düzeye geldiğinden hedefti. GPT-3.5 bu kıyaslamada %70 puan aldı, GPT-4o %88.7 puan aldı ve Google, Gemini Ultra’nın şimdiye kadarki en yüksek puana sahip olmak %90’ın. Karşılaştırıldığında, rakip modeller Claude 3 Haiku Ve İkizler 1.5 Flaş sırasıyla yüzde 75,2 ve yüzde 78,9 puan aldı.
Araştırmacıların MMLU gibi kıyaslama testlerine karşı ihtiyatlı olduklarını belirtmekte fayda var, çünkü nasıl yönetildiği şirketten şirkete biraz farklılık gösteriyor. Bu da farklı modellerin puanlarının karşılaştırılmasını zorlaştırıyor, çünkü New York Times bildirildiAyrıca yapay zekanın bu cevapları veri setinde bulundurması sorunu da var, bu da temelde hile yapmasına olanak tanıyor ve genellikle süreçte üçüncü taraf değerlendiriciler yer almıyor.
Ucuza AI uygulamaları oluşturmak için aç olan geliştiriciler için GPT-4o Mini’nin piyasaya sürülmesi, envanterlerine ekleyebilecekleri başka bir araç daha sağlıyor. OpenAI, finansal teknoloji girişimi Ramp’ın modeli test etmesine izin verdi ve GPT-4o Mini’yi kullanarak makbuzlardaki gider verilerini çıkaran bir araç oluşturdu. Yani, metin kutularında gezinmek yerine, bir kullanıcı makbuzunun bir resmini yükleyebilir ve model her şeyi onlar için sıralayabilir. Bir e-posta istemcisi olan Superhuman da GPT-4o Mini’yi test etti ve e-posta yanıtları için otomatik öneri özelliği oluşturmak için kullandı.
Amaç, geliştiricilerin GPT-4 gibi daha büyük ve daha pahalı bir modelle yapamayacakları tüm uygulamaları ve araçları yaratmaları için hafif ve ucuz bir şey sağlamaktır. Birçok geliştirici, en sağlam modellerden birini çalıştırmak için gereken göz yaşartıcı hesaplama maliyetlerini ödemeden önce Claude 3 Haiku veya Gemini 1.5 Flash’a yönelirdi.
Peki, OpenAI’nin bu kadar uzun sürmesinin sebebi neydi? Godement, şirketin GPT-4 gibi daha büyük ve daha iyi modeller yaratmaya odaklandığı için bunun “saf önceliklendirme” olduğunu söyledi ve bu da çok sayıda “insan ve hesaplama çabası” gerektirdi. Zaman geçtikçe, OpenAI geliştiricilerin daha küçük modeller kullanmaya hevesli olduğu bir eğilim fark etti, bu yüzden şirket kaynaklarını GPT-4o Mini’yi inşa etmeye yatırmanın zamanının geldiğine karar verdi.
Godement, “Bunun çok popüler olacağını düşünüyorum,” dedi. “Hem OpenAI’daki tüm AI’yı kullanan mevcut uygulamalar hem de daha önce fiyatlandırma tarafından yayınlanan birçok uygulama tarafından.”
