“Farklı görevlere bakabildiğimiz ve belirli bir görev için hangisinin doğru olduğunu görebildiğimiz için yüksek lisans konusunda oldukça agnostiğiz. Görüntü analizi veya multimedya analizi için en yeni ve en iyileri kullanıyoruz. ChatGPT Omni. Taslak hazırlama yeteneklerine sahip olması benzersizdir [client-privilege] günlük hatları. Verilere bağlı olarak şunlar arasında geçiş yapıyoruz: GPT-4 veya GPT-3.5 Turbo.
“Aslında makul performansı nerede elde ettiğimize bakıyoruz ve bunu maliyetler gibi şeylerle karşılaştırıyoruz.”
Bir modeli benimserken fiyat dikkate aldığınız bir konu mu? Mahoney: “Farklı LLM’lerin çok farklı fiyat noktaları var. Bazı veri kümelerimiz için GPT 3.5 Turbo’nun günlük satırlarını gerçekleştirme şekli aslında oldukça iyi. Dolayısıyla orada GPT-4’e fazladan para harcamak istemeyiz.
“Küçük dil modeli açısından, her uygulama için ayrı bir küçük dil modeli yerine ayarlama yaptığımızı söyleyebilirim…. Mevcut bir modeli alıyoruz – ancak bu modelin üzerine kurulduğundan çok farklı görünebilecek bir sektörümüz varsa – [and] Bunun da ötesinde, model üzerinde tahminlerde bulunmaya başlamadan önce modeli bir veri kümesine tanıtmak için bazı ince ayarlar yapıyoruz.”
Yani aslında bazı LLM’ler bazı görevlerde diğerlerinden daha mı iyi? Mahoney: “Bazı dil modelleri, her ne ise onu özetleme veya tam olarak belirleme konusunda belirli görevlerde daha iyidir. İdeal olarak altı adımlı bir iş akışınız vardır ve farklı adımlarda farklı bir LLM kullanıyorsunuzdur. Yarın kimin ortaya çıkacağını ve X veya Y konusunda daha iyi olacağını asla bilemezsiniz.
“OpenAI’yi kullanıyoruz [LLMs] halka açıklanmadan önce. Meta ve Claude’u da test ediyoruz ve belirli bir görev için en anlamlı olduğunu düşündüklerimizi kullanıyoruz.”
Veri bilimcileri ve analistler, hızlı mühendisler; LLM ihtiyaçlarınızı karşılamak için hangi rollere sahipsiniz veya eklediniz mi? Swansburg: “CJ’nin yaptığı ve bizim yaptığımız işlerde, veri seti ne kadar büyükse, veri bilimcilere olan ihtiyaç da o kadar fazla oluyor. Bu yüzden kendi tarafında veri bilimcilerle çalışıyor.
“Benim tarafımda, hızlı mühendisler açısından bunu sizin için yapabilecek iyi yazılım geliştiricilerimiz var. Tamamen geliştirici olan insanlarımız var ve ortada oturan ve ‘hukuk teknolojisi uzmanları’ dediğimiz insanlarımız var. Bunlar, müvekkil ve avukat gereksinimlerini alıp bunları geri besleyen ve oluşturduğumuz platformlarda özelleştirmeyi yapan çevirmenlerdir.
“Henüz veri bilimcimiz yok çünkü ayrık veri kümeleri kullanıyoruz. Yani mesele daha çok istemleri tasarlayabilmekle ilgili ve şu anda sahip olduğumuz ekip bunu geliştirici tarafında yapabiliyor. Büyüdükçe ve şu anda yarım düzine geliştiriciyi daha işe alırken, daha incelikli hale geleceğiz ve hızlı mühendislik deneyimi olan ve Yüksek Lisans ve diğer araçlarla API’ler geliştiren kişileri arayacağız.
“Yani sürekli değişiyor.”
Çoğunlukla açık kaynaklı modeller yerine tescilli modeller mi kullanıyorsunuz? – Mahoney: “Şu anda sadece özel modeller kullanıyoruz ve bunları takıp test ediyoruz; OpenAI bunun en yaygın örneği. İhtiyacımız olan verileri çıkarmak için sözleşme belirleme tarihleri gibi istemler yoluyla bir şeyler oluşturuyoruz ve sistemin neyi aldığını otomatik olarak belirlemeye dayalı olarak oluşturulacak soru paketleri oluşturuyoruz. Bunların hepsi şu anda test ediliyor.
“Bazıları gerçekten çok pahalı. ChatGPT gibi bir şeye çok erişilebilir. Kurumsal modeller bile bu işi yapabilir; erişilebilir ve uygun fiyatlıdırlar. “
Hukuk departmanları ve hukuk firmaları zaten yapay zeka ve makine öğrenimi kullanıyorsa ClearyX’e neden ihtiyaç duyulur? Swansburg: “Sözleşme yönetimi yazılımından çok daha ucuz olan ve birçok sağlayıcıdan çok daha kaliteli ve hizmet sunan bir model oluşturmaya çalışıyoruz.
“Birçok şirketin bu programlara sahip olacak ve işletecek personeli yok. Yani raf donanımları var. Bir sözleşme yaşam döngüsü yönetimi aracı satın alıyorlar ve yatırım getirisini elde etmeleri üç yıl sürüyor; o zaman insanlar onu kullanmıyor çünkü özel olarak tasarlanmıyor. Bu nedenle, müşterilerimiz için çalışma şekline uygun ve uygun maliyetli özel çözümler oluşturmaya çalışıyoruz.
“Biz risk sermayesine ait değiliz. Ortaklığa aitiz, dolayısıyla işleri doğru şekilde inşa edebiliyoruz. Biz sadece Cleary hukuk firmasının müşterilerine hizmet vermiyoruz; Ayrıca dışarıdan müşteri edinme yetkimiz de var.
“Bir geliştirme mağazası olmayacağımızı düşünmeye başladık. Mevcut çözümleri kullanıp API’leri kullanarak bunları bir araya getirecektik ama birkaç şey oldu. Piyasadaki araçlar bizim onlardan yapmalarını istediğimiz şeyleri yapmıyordu. Bunları, müşterilerin bunları kullanmaktan gerçekten keyif almasını sağlayacak incelikli bir şekilde özelleştiremedik.
“Diğeri ise yapay zekanın her yerde bulunması ve bunları kişiselleştirme yeteneğinin üç yıl öncesine göre çok daha kolay olması. Böylece, yaklaşık son sekiz ay boyunca, onu daha kolay özelleştirmemize ve müşterilerle iş birliği yaparak nasıl çalışmasını istediklerini anlamamıza olanak tanıyan bir şeye yönelmeyi başardık.”