Veritabanı devi Oracle bir mesaj göndermek istiyor: Verilerinizi Oracle’ın veri merkezleri ve veritabanlarından taşımayı gerektirmiyorsa, üretken yapay zeka ile daha iyi bir deneyime sahip olacaksınız…
Bu hafta Oracle, ilk olarak Eylül ayında beta olarak sunulan yapay zekaya yönelik yönetilen bir hizmet olan OCI Generative AI Services’in genel kullanıma sunulduğunu duyurdu. Şirket ayrıca halen beta aşamasında olan iki yeni teklifi de tanıttı: OCI Gen AI Agents ve OCI Data Science AI Quick Actions.
Şirket, veri ambarı üzerine kurumsal bir üretken yapay zeka uygulaması oluşturmanın hem veri kullanımı açısından daha verimli hem de ek altyapı satın almaktan daha uygun maliyetli olacağını açıklıyor.
Çam Kozalağı Günahasından Kaçının
“OCI” kısaltması, Oracle Bulut Altyapısını, yani tüm ağ ve bilgi işlem kaynaklarının yanı sıra şirketin bulut hizmetleri sağlamak için kullandığı Oracle Otonom Veritabanı gibi ilgili yazılımları ifade eder. Bu, Oracle’ın milyarlarca dolar harcadığı, Oracle’ın Nvidia GPU çiplerinin “süper kümeleri” olarak adlandırdığı şeyleri de içeriyor.
Oracle başkan yardımcısı Erik Bergenholtz, ZDNET’e şunları söyledi: “ERP ve HCM gibi Fusion uygulamalarımız eksabaytlarca veri içeriyor; biz buna yapay zeka getiriyoruz.” Bergenholtz, bu nedenle, Oracle’ın veritabanı, ara katman yazılımı ve Fusion uygulama paketinin üzerine Gen AI kullanımlarını oluşturma fikrinin ortaya çıktığını açıklıyor.
Kahin
Bergenholtz’a göre şirketler kesinlikle veri yönetimi için Pinecone gibi bir vektör veritabanı gibi ek yazılımlar satın alma eğiliminde olabilir.
“Müşterilerin veri taşımasını istemiyoruz”
“Tabii ki (bu yaklaşımın) olumsuz tarafı, bulut bilişimin maliyetini artıran başka bir altyapıya sahip olmanız ve verileri veri ambarınız genelinde taşımanız ve potansiyel olarak senkronize etmeniz gerekmesidir; ister uygulamalar ister uygulamalar olsun, Oracle veritabanınız.
Bergenholtz, OCI hizmetlerini kullanarak şunu ekliyor: “Müşterilerimiz için bu engeli, bu sürtüşmeyi ortadan kaldırıyoruz.”
Oracle’ın başkan yardımcısı Steve Zivanic, “Müşterilerimizin verilerini taşımasını istemiyoruz çünkü isteyecekleri son şey, üretken yapay zekanın avantajlarından yararlanmak için 500 terabaytlık veriyi taşımaktır” dedi.
OCI’de kullanılan veriler diğer Oracle müşterileri tarafından görülemez
OCI Üretken Yapay Zeka hizmeti, Meta’nın 70 milyar parametreli açık kaynaklı Llama 2 modeli de dahil olmak üzere önceden oluşturulmuş Büyük Dil Modellerinden (LLM’ler) oluşur. Oracle, Meta’nın yanı sıra startup ile de ortaklık kurdu tutarlı (Oracle bu girişimin yatırımcısıdır). Cohere’in Oracle hizmetine entegre edilecek üç modeli vardır: Ortak metin işlevleri için Komut; Özetle, belgeleri özetlemek için; ve Çok dilli işlevler için Göm.
Bergenholtz, OCI’de modelleri eğitmek veya geliştirmek için kullanılan müşteri verilerinin diğer Oracle müşterileri tarafından görülemeyeceğini vurguladı.
Beta testinden bu yana hizmet, içerik denetimi gibi yeni özellikler aldı. Bergenholtz, “En önemli şey, bunu istemleri bir dil modeline göndermeden önce yapmamız ve ayrıca modelden çıkan yanıtı da değerlendirmemizdir” diye belirtti, “bu yüzden sonuna kadar beklemiyoruz” , çünkü o zaman bu isteği işleme almanın maliyetini zaten üstlenmiş olursunuz.”
Hizmet artık LangChain geliştirme çerçevesiyle bütünleşiyor.
Kahin
OCI Gen Yapay Zeka Temsilcileri, Yüksek Lisansı diğer kaynaklara bağlayacak
OCI Gen AI Agents ürününün aynı zamanda bir LLM’yi müşterinin özel veri tabanı gibi diğer kaynaklara bağlaması da amaçlanmaktadır. Önerilen ilk aracı, dil modelini bir kaynağa bağlamak için üretken yapay zeka dünyasında giderek daha popüler hale gelen bir yaklaşım olan erişimle artırılmış nesile (RAG) yöneliktir.
Bayan .Bergenholtz, “Çeşitli Oracle uygulamalarınızda veya Oracle veritabanlarınızda yönettiğiniz verilerden yararlanamıyorsanız, Yüksek Lisans, olabileceği kadar kullanışlı olmayabilir”. Başlangıçta RAG aracı hizmeti, OpenSearch açık kaynak platformunu temel alan yönetilen bir hizmet olan OCI’nin OpenSearch teklifinden yararlanabilir. Yakın gelecekte RAG teklifi, Oracle’ın 23c AI Vektör Arama Veritabanının yanı sıra MySQL Heatwave Vector Store’a bağlanma olasılığıyla güçlendirilecek.
AI aracı hizmeti bu ay beta testine başlıyor.
Kahin
OCI Veri Bilimi Hızlı Eylemleri: Dil modellerini dağıtmaya ve geliştirmeye yönelik kodsuz bir yaklaşım
OCI Data Science Hızlı Eylemler teklifi, Oracle’ın 2018 yılında Oracle’a Jupyter Notebook’larda uzmanlık ve makine öğrenimi için istatistiksel teknikler kazandıran startup DataScience’ı satın almasıyla ortaya çıktı.
Hızlı Eylemlerin avantajı, dil modellerini dağıtma ve iyileştirme konusunda kod içermeyen bir yaklaşımdır. İnce ayar için çeşitli çerçeveler mevcuttur; örneğin PyTorch, Hugging Face Accelerate ve Microsoft DeepSpeed ile dağıtılmış eğitim dahil. Bay Bergenholtz ayrıca, çok fazla bellek kaplayan ve modele sinir ağı şeklini veren parametreler olan model “ağırlıklarını” düzenlemeye yardımcı olmak için nesne ve dosya depolamayı kullanmaya odaklandı.
Hızlı Eylemler önümüzdeki ay beta testine başlayacak.
Kullanım durumları: İK, sağlık sigortası ve müşteri desteği
Oracle’ın OCI Gen AI hizmeti için bahsettiği en yaygın kullanım durumu, İK politikası sorularına otomatik yanıtlar sağlamasıdır. Bergenholtz, “En sık sorulan soru kaç tatil günüm kaldığıdır” diyor. “Şirket politikası ve kullandığınız tatil günlerinin sayısı olmak üzere iki veriye ihtiyacınız var ve ardından cevabı bu iki şeye göre hesaplamanız gerekiyor.”
“RAG ile bu soruyu çok kolay yanıtlayabilirsiniz çünkü RAG sistemi kimliğinizi ve şirket politikanızı bilir.” Bergenholtz’a göre sağlık sigortası yardımlarıyla ilgili sorular büyüyen bir başka kullanım alanıdır.
Kahin
Bir diğer yaygın uygulama ise müşteri desteğidir. Müşteri verilerinden yararlanmak için RAG’ı kullanan müşteri desteği için, dil modeli “hangi vaka hakkında aradığınızı, mevcut durumun ne olduğunu kolayca özetleyebilir ve tavsiyede bulunmak veya müşteriye yardımcı olmak için müşteriye ilerleyebilmek için sonraki adımların bir metnini sağlayabilir. çok daha zengin bir kullanıcı deneyimi sağlıyor” dedi Bergenholtz.
Verilerini yapay zekanın eline vermek istemeyenler için vektör arama yetenekleri
Bu yeni GenAI teknolojisinin değerli verilerine dokunmasını istemeyen müşteriler ne olacak?
Bay Zivanic, “Bunu yapmanın birkaç yolu var” dedi. Vektör arama gibi özellikleri Oracle veritabanına ve vektör depolamayı Heatwave’e entegre ederek “teknolojiyi doğrudan onlara getiriyoruz” dedi.
Kendisi, “teknolojiye alışmak için Gen AI ile çeşitli pilot projeler yürütecek kuruluşlar” olacağını kabul ediyor.
“Ancak zamanla, üretken yapay zeka daha yaygın hale geldikçe, her şeyin tek bir veritabanında birleştirildiği birleşik bir veritabanının gücünün, birden fazla veritabanına abone olup bir yanıt aramaya kıyasla avantajlı olacağını düşünüyorum.
Kaynak : “ZDNet.com”