San Francisco merkezli startup OpenAI tarafından geliştirilen ücretsiz metin üreten yapay zeka ChatGPT’yi çağırmak için, bir isabet büyük bir yetersizliktir.
Aralık ayı itibariyle, ChatGPT’nin bir tahmini aylık 100 milyondan fazla aktif kullanıcı. Medyanın büyük ilgisini çekti ve sosyal medyada sayısız mem üretti. alışıldı yazmak Amazon’un Kindle mağazasında yüzlerce e-kitap. Ve en azından ortak yazarlık ile kredilendirildi bir bilimsel makale.
Ancak OpenAI, bir işletme olarak – kârı sınırlı olsa da – yatırımcıların canı sıkılmasın diye ChatGPT’den bir şekilde para kazanmak zorunda kaldı. Şubat ayında birinci sınıf bir hizmet olan ChatGPT Plus’ın lansmanıyla bu yönde bir adım attı. Ve bugün daha büyük bir adım atarak her işletmenin uygulamalarına, web sitelerine, ürünlerine ve hizmetlerine ChatGPT teknolojisi eklemesine izin verecek bir API’yi kullanıma sundu.
Plan her zaman bir API idi. Bu, OpenAI’nin başkanı ve başkanı (ve aynı zamanda kurucu ortaklardan biri) olan Greg Brockman’a göre. Dün öğleden sonra, ChatGPT API’sinin lansmanından önce bir görüntülü görüşme yoluyla benimle konuştu.
Brockman, “Bu API’leri belirli bir kalite düzeyine getirmemiz biraz zaman alıyor” dedi. “Bence bu, talebi ve ölçeği karşılayabilmek gibi bir şey.”
Brockman, ChatGPT API’sinin OpenAI’nin çılgınca popüler olan ve “gpt-3.5-turbo” olarak adlandırılan ChatGPT’sinin arkasındaki aynı yapay zeka modeli tarafından desteklendiğini söylüyor. GPT-3.5, OpenAI’nin bugün API paketi aracılığıyla sunduğu en güçlü metin oluşturma modelidir; “turbo” lakabı, bir optimize edilmiş, daha duyarlı OpenAI’nin sessizce ChatGPT için test ettiği GPT-3.5 sürümü.
1.000 jeton veya yaklaşık 750 kelime başına 0,002 ABD Doları olarak fiyatlandırılan Brockman, API’nin “sohbet dışı” uygulamalar da dahil olmak üzere bir dizi deneyim sağlayabileceğini iddia ediyor. Snap, Quizlet, Instacart ve Shopify erken benimseyenler arasındadır.
gpt-3.5-turbo geliştirmenin arkasındaki ilk motivasyon, ChatGPT’nin devasa bilgi işlem maliyetlerini kısmak olabilirdi. OpenAI CEO’su Sam Altman bir keresinde ChatGPT’nin masraflarını “göz yaşartıcı” olarak nitelendirmişti. onları tahmin etmek işlem maliyetlerinde sohbet başına birkaç sente. (Bir milyondan fazla kullanıcıyla, bu muhtemelen hızlı bir şekilde toplanır.)
Ancak Brockman, gpt-3.5-turbo’nun başka şekillerde iyileştirildiğini söylüyor.
“Yapay zeka destekli bir öğretmen oluşturuyorsanız, öğretmenin öğrenciye yalnızca bir yanıt vermesini asla istemezsiniz. Her zaman açıklamasını ve öğrenmelerine yardımcı olmasını istersiniz – bu, kurabilmeniz gereken sistem türüne bir örnektir. [with the API]dedi Brockman. “Bunun, API’yi çok daha kullanışlı ve erişilebilir hale getirecek bir şey olacağını düşünüyoruz.”
ChatGPT API, Snap’in Snapchat+ aboneleri için kısa süre önce duyurduğu sohbet robotu My AI’ın ve Quizlet’in yeni Q-Chat sanal öğretmen özelliğinin temelini oluşturur. Shopify, alışveriş önerileri için kişiselleştirilmiş bir asistan oluşturmak üzere ChatGPT API’sini kullanırken, Instacart, Instacart müşterilerinin yiyecekler hakkında soru sormasına ve şirketin perakende satışından alınan ürün verileriyle bilgilendirilen “alışverişe uygun” yanıtlar almasına olanak tanıyacak yeni bir geçiş ücreti olan Ask Instacart’ı oluşturmak için bundan yararlandı. ortaklar.
Instacart baş mimarı JJ Zhuang, “Market alışverişi, bütçe, sağlık ve beslenme, kişisel zevkler, mevsimsellik, mutfak becerileri, hazırlık süresi ve tarif ilhamı gibi birçok faktörün rol oynadığı büyük bir zihinsel yük gerektirebilir” dedi. . “Yapay zeka bu zihinsel yükün üstesinden gelebilseydi ve biz de genel olarak bakkal alışverişinden, yemek planlamasından ve masaya yiyecek koymaktan sorumlu olan hane halkı liderlerine yardım edebilseydik ve aslında market alışverişini gerçekten eğlenceli hale getirebilseydik? Instacart’ın yapay zeka sistemi, OpenAI’nin ChatGPT’si ile entegre edildiğinde tam olarak bunu yapmamızı sağlayacak ve Instacart uygulamasında neyin mümkün olduğunu denemeye başlamaktan heyecan duyuyoruz.”
Görsel Kaynakları: Instacart
Bununla birlikte, ChatGPT destanını yakından takip edenler, piyasaya sürülmek için olgun olup olmadığını merak ediyor olabilir – ve haklı olarak.
Önceleri, kullanıcılar ChatGPT’den soruları yanıtlamasını isteyebiliyordu. ırkçı ve cinsiyetçi yollar, ChatGPT’nin başlangıçta üzerinde eğitildiği önyargılı verilerin bir yansıması. (ChatGPT’nin eğitim verileri, e-kitaplar, Reddit gönderileri ve Wikipedia makaleleri gibi geniş bir internet içeriği yelpazesi içerir.) ChatGPT ayrıca, bunu yaptığını ifşa etmeden gerçekleri icat eder; bu, AI’da bilinen bir olgudur. halüsinasyon.
ChatGPT ve buna benzer sistemler, istem tabanlı saldırılara veya orijinal hedeflerinin bir parçası olmayan görevleri gerçekleştirmelerini sağlayan kötü niyetli düşman istemlerine karşı da hassastır. Tüm topluluklar Reddit’te, ChatGPT’yi “jailbreak” yapmanın ve OpenAI’nin devreye soktuğu tüm korumaları atlamanın yollarını bulmak etrafında şekillendi. Daha az rahatsız edici örneklerden birinde, Scale AI başlangıcındaki bir çalışan, ChatGPT’yi ifşa etmek iç teknik işleyişi hakkında bilgi.
Markalar, hiç şüphesiz hedef tahtasına takılmak istemezler. Brockman olmayacakları konusunda kararlı. Neden öyle? Bunun bir nedeninin arka uçta devam eden iyileştirmeler olduğunu söylüyor – bazı durumlarda Kenyalı sözleşmeli işçiler pahasına. Ancak Brockman, OpenAI’nin Sohbet Biçimlendirme Dili veya ChatML olarak adlandırdığı yeni (ve kesinlikle daha az tartışmalı) bir yaklaşımı vurguladı. ChatML, metni ChatGPT API’ye meta verilerle birlikte bir mesaj dizisi olarak besler. Bu, bir dizi belirteç olarak temsil edilen ham metni kullanan standart ChatGPT’nin aksinedir. (“Fantastik” kelimesi, örneğin “fan”, “tas” ve “tic” belirteçlerine bölünür.)
Örneğin, “30. yaş günüm için bazı ilginç parti fikirleri nelerdir?” bir geliştirici, “Siz, kullanıcılara sordukları sorularda yardımcı olmak için tasarlanmış eğlenceli bir sohbet robotusunuz” gibi ek bir istemle bu istemi eklemeyi seçebilir. Doğru ve eğlenceli bir şekilde cevap vermelisin!” veya ChatGPT API’sinin işlemesine başlamadan önce “Sen bir botsun”. Brockman’a göre bu talimatlar, ChatGPT modelinin yanıtlarını daha iyi uyarlamaya ve filtrelemeye yardımcı oluyor.
“Daha üst düzey bir API’ye geçiyoruz. Sisteme girişi temsil etmenin daha yapılandırılmış bir yolunuz varsa, “bu geliştiriciden” veya “bu kullanıcıdan” diyorsanız… Bir geliştirici olarak aslında daha sağlam olabilmenizi beklemeliyim. [using ChatML] Bu tür ani saldırılara karşı,” dedi Brockman.
İstenmeyen ChatGPT davranışını önleyecek (umarız) bir başka değişiklik de daha sık model güncellemeleridir. Brockman, gpt-3.5-turbo-0301’den (bugün piyasaya sürüldü) başlayarak, gpt-3.5-turbo’nun piyasaya sürülmesiyle geliştiricilerin varsayılan olarak otomatik olarak OpenAI’nin en son kararlı modeline yükseltileceğini söylüyor. Geliştiriciler, isterlerse daha eski bir modelde kalma seçeneğine sahip olacaklar, ancak bu, avantajı bir şekilde ortadan kaldırabilir.
Brockman, en yeni modele güncellemeyi seçsinler ya da seçmesinler, bazı müşterilerin – özellikle büyük bütçelere sahip büyük işletmelerin – özel kapasite planlarının getirilmesiyle sistem performansı üzerinde daha derin kontrole sahip olacağını belirtiyor. İlk olarak bu ayın başlarında sızdırılan belgelerde ayrıntılı olarak açıklanan OpenAI’nin bugün kullanıma sunulan özel kapasite planları, müşterilerin bir OpenAI modelini (örneğin, gpt-3.5-turbo) çalıştırmak için bilgi işlem altyapısı tahsisi için ödeme yapmasına olanak tanıyor. (Bu arada, arka uçta Azure var.)
Eşgörünümün yükü üzerinde “tam denetime” ek olarak (normalde OpenAI API’ye yapılan çağrılar, paylaşılan bilgi işlem kaynaklarında gerçekleşir) ayrılmış kapasite, müşterilere daha uzun bağlam sınırları gibi özellikleri etkinleştirme yeteneği sağlar. Bağlam sınırları, modelin ek metin oluşturmadan önce dikkate aldığı metni ifade eder; daha uzun bağlam sınırları, modelin esas olarak daha fazla metni “hatırlamasına” olanak tanır. Daha yüksek bağlam limitleri tüm yanlılık ve toksisite sorunlarını çözemese de, gpt-3.5-turbo gibi modellerin daha az halüsinasyon gör.
Brockman, özel kapasite müşterilerinin 16k bağlam penceresine sahip gpt-3.5-turbo modelleri bekleyebileceklerini, bunun da standart ChatGPT modelinden dört kat daha fazla belirteç alabilecekleri anlamına geldiğini söylüyor. Bu, birisinin sayfalarca vergi kodu girmesine ve örneğin modelden makul yanıtlar almasına izin verebilir – bugün mümkün olmayan bir başarı.
Brockman gelecekte genel bir sürümden bahsetti, ancak yakın zamanda değil.
Brockman, “Bağlam pencereleri sürünmeye başlıyor ve şu anda yalnızca özel kapasite müşterisi olmamızın bir nedeni de, bizim tarafımızda çok fazla performans değiş tokuşunun olması,” dedi. “Sonunda aynı şeyin isteğe bağlı bir sürümünü sunabiliriz.”
OpenAI’nin Microsoft’un milyarlarca dolarlık yatırımından sonra kâr elde etme baskısı göz önüne alındığında, bu çok da şaşırtıcı olmaz.
