Programcılar, LangChain’i kullanarak meme kanseri teşhisi gibi uygulamalar için ultrason görüntülemeyi ChatGPT benzeri bir doğal dil istemiyle birleştirmeyi başardılar. Kore İleri Bilim ve Teknoloji Enstitüsü
Elbette ChatGPT aracılığıyla üretken yapay zeka, belki de en çok yemek tarifleri ve otomatik kod programlamasıyla tanınıyor. Ancak büyük dil modellerine dayanan yeni bir açık kaynak çerçevesi, GenAI’ya daha pratik, somut ama her şeyden önce profesyonel bir yönelim sağlıyor.
LangChainBir yıldan biraz fazla süredir ortalıkta olan yapay zeka ajanlarının programlanmasına yumuşak bir giriş olarak değerlendirilebilecek bir şey. Nasıl ? GenAI modellerine dayanan çok basit bir kütüphane seti aracılığıyla. Açık kaynak teknolojisi, LangChain ile oluşturulmuş uygulamaların ticari dağıtımı için bir sunucu platformu sunan aynı adı taşıyan bir girişim tarafından desteklenmektedir.
LangChain’in temel ve belki de ayırt edici özelliği, geniş bir dil modelini çeşitli dış kaynaklarla birleştirmesidir.
Neden bir GenAI çerçevesi?
Böylece, örneğin bir veritabanından veri alabilir ve dil modelinin sonuçlarını bir uygulamaya aktarabilir, sonuçları o uygulamadan alabilir ve bunları dil modeline geri gönderebilir.
Bu nedenle çerçeve, kaynakların zincirlenmesini mümkün kılar; her kaynak, bir bakıma, dil modeli ve bilgi istemi bağlamında sorunun bir kısmıyla ilgilenen bir aracı haline gelir.
Ve bu teknolojinin farklı disiplinlerde pratik kullanımlarının büyüleyici örnekleri zaten mevcut.
Doğal dil ve meme kanseri tanısı
Örneğin, programcılar LangChain’i kullanarak meme kanseri teşhisi gibi görevler için ultrason görüntülemeyi birleştirebildiler. ChatGPT gibi doğal bir dil istemiyle. Bu nedenle bir radyolog, meme ultrasonu görüntüsünde “Lütfen bana probun konumuna göre verilen gözlemlerin bir özetini verin” gibi bir cümle ile bilgisayarı analitik asistan olarak çağırabilir.
Jaeyoung Huh ve meslektaşları tarafından tasarlanan programın ilginç bir yönü Kore İleri Bilim ve Teknoloji EnstitüsüBunun nedeni, yaygın olarak kullanılan bir görüş tanıma sinir ağı olan ResNet-50 adlı üç farklı sinir ağını bir araya getirmesi ve bu nedenle görüntü sınıflandırmada üstün olmasıdır.
Üç sinir ağının her biri, üç görevi gerçekleştirmek üzere ayrı ayrı eğitilir:
- Ultrason görüntüsünde şüpheli bir şeklin belirlenmesi
- Bu formun sınıflandırılması
- Şeklin vücuttaki yerini belirleme
LangChain’in amacı, bu üç ağı, “verilen görüntü için bana araştırma bilgisi ver” ve ardından “verilen gözlemlerin bir özetini bana ver” gibi doğal dil komutlarına entegre etmektir.
Bu nedenle LangChain, en basit düzeyde, sese yanıt veren bir tıbbi asistan yaratmak isteyen tıbbi yapay zeka gibi alanlardaki uzmanların uzun süredir hayalini kurduğu türden, yapay zeka için kullanıcı dostu bir arayüz oluşturmanın bir yolu olabilir. komutlar.
Üretken yapay zekaya sahip bir yapay zeka yanıt güvenilirliği puanlama sistemi
LangChain’in diğer hedeflerinden biri de GenAI’nin meşhur halüsinasyonlarını, yani programların yanlış bilgi iddia etme eğilimini ortadan kaldırmaya çalışmaktır. Nasıl ? Teknolojiyi yetkili dış kaynaklara dayandırarak.
Accenture Finansal tahminler yapmak için bir sistemi tanımlar bir “finansal chatbot” aracılığıyla.
Sistem, hücreleri bir e-tablodan alır ve bunları verilerle ilgili doğal dildeki ifadelere dönüştürür; daha sonra bunlar, bir soruyla eşleşen bir cümleyi bulmak için aranabilir.
İşte nasıl çalışıyor:
- Bir kullanıcı dil modeline “Satışlarım nasıl gidiyor?” gibi bir doğal dil sorusu sorar.
- Bu soru, dil modeli için daha kesin bir soru üreten bir modele beslenir.
- Bu ipucu, daha iyi bir ipucu oluşturmak için ayrıntılı sorudan kişinin düşünebileceğinden daha fazla kelime içerebilir.
- Geliştirilmiş bilgi istemi, bir anahtar kelime aramasını tetikler ve bu arama, tablo halindeki verilerden oluşturulan ifadelerden hangisinin tablodaki en alakalı verilere (ör. satışlar, kârlar) atıfta bulunduğunu belirler.
- İlgili veriler alındıktan sonra, ikinci bir model seti, sohbet robotunun, bir sohbet yanıtında tablo halindeki verilerdeki ifadeleri kullanarak sorguya bir yanıt formüle etmesine yardımcı olur.
Accenture
Accenture halüsinasyonları ortadan kaldıramadı. Bunun yerine Accenture, sohbet robotunun cevaplarını soruya göre kontrol ettiği, bunların ne kadar iyi eşleştiğini gördüğü ve ardından cevabına yüksek, orta veya düşük bir güven derecesi atadığı bir “güven” derecelendirme mekanizması tasarladı.
Accenture şöyle açıklıyor: “Güven puanı, kullanıcıya orta veya düşük güven yanıtlarını kullanarak önemli kararlar verirken dikkatli davranması gerektiğini gösterir.” “Güven puanı, daha fazla güvenilirlik için hangi kullanıcı sorgularının iyileştirilmesi gerektiğinin belirlenmesine de yardımcı oluyor.”
LangChain
Çalışanın web etkinliği nasıl izlenir?
Programcılar böylece bir dil zincirinin bazı son derece sıradan görevleri otomatikleştirmenin bir yolu olabileceğini keşfederler.
Bir örnek: çalışanın web etkinliğini kontrol etmesi yasadışı web sitelerine göz atmamalarını sağlamak için. Bir şirket için “kabul edilebilir kullanım politikasını” açıklayan bir belge, vektör veritabanı adı verilen bir şeye yüklenir; bu, örneğin bir URL’deki metin dizelerini, bir URL’deki metin dizeleri koleksiyonuyla karşılaştırabilen özel bir veritabanı türüdür. bir eşleşme olup olmadığını görmek için bir belge.
Bir kişi tarayıcıya bir URL yazdığında site URL’si ve site içeriğinin özeti, site içeriğinin yasaklı konularla eşleşip eşleşmediğini görmek için otomatik olarak vektör veritabanındaki politika belgesiyle karşılaştırılabilir.
Programcı basit bir metin istemi kullanarak karşılaştırmayı otomatikleştirebilir: “Bu sitede yasaklı konularla eşleşen herhangi bir şey var mı?”
Bu örnek, büyük dil modellerinin ve LangChain’in bireysel sorguların ötesine geçtiğini açıkça göstermektedir.
Programcıların, perde arkasında gerçekleşen işlevler için ellerindeki çeşitli araçları entegre etmek amacıyla doğal dil komutlarını kullanmalarının bir yolu haline gelirler.
Üretken yapay zeka çerçevelerinin geliştirilmesine doğru
LangChain, aracılar oluşturmak için iş akışlarını derlemeye yönelik tek çerçeve değildir. Bu türden başka çerçeveler de oluşturulmaktadır, özellikle Microsoft Anlamsal Çekirdek ve özgür yazılım LlamaIndexLangChain’e güveniyor.
Stanford, UC Berkeley ve Carnegie Mellon’dan bir grup araştırmacı sunum yaptı Ekimde DSPy adını verdikleri şey, elle yazılmış doğal dil istemlerini işlevsel açıklamalarla değiştiren ve otomatik olarak istemler oluşturabilen bir programlama yaklaşımıdır. İşlevsel açıklamalar, “soru sorma ve yanıt verme” gibi çok geniş kapsamlı olabilir. DSPy, dil modellerinin ve destekleyici araçların akışını optimize eden bir derleyici içerir.
Yazarlara göre DSPy’ın çalışması, Torch ve Theano da dahil olmak üzere soyutlama katmanları aracılığıyla gelişmiş sinir ağlarına sahip derin öğrenme çerçevelerine benziyor.
Yazarlar, kalitenin manuel bilgi istemi oluşturmaya kıyasla önemli ölçüde arttığını iddia ediyor. “El yazısı ile yazılmış istemler olmadan ve yalnızca birkaç dakika içinde, DSPy modül kompozisyonları basit programların kalitesini %33 ila %82 oranında artırabilir” diye yazıyorlar.
GenAI çerçeveleri üzerindeki çalışmalar hala başlangıç aşamasındadır. Ve önümüzdeki yıl LangChain’in üstünde, altında ve çevresinde çok daha fazla soyutlama katmanı bekleyebilirsiniz.
Kaynak : “ZDNet.com”