Bilgiye erişim ve erişimde öne çıkan model arama motorları norm haline gelmeden önce – ilgili bilgileri sağlayan kütüphaneciler ve konu veya arama uzmanları – etkileşimli, kişiselleştirilmiş, şeffaf ve otoriterdi. Arama motorları, günümüzde çoğu insanın bilgiye erişmesinin birincil yoludur, ancak birkaç anahtar kelime girip bilinmeyen bir işleve göre sıralanmış sonuçların bir listesini almak ideal değildir.
Microsoft’un da dahil olduğu yeni nesil yapay zeka tabanlı bilgi erişim sistemleri Bing/ChatGPT, Google/Bard Ve Meta/LLaMA, arama girdisi ve çıktısının geleneksel arama motoru modunu alt üst ediyor. Bu sistemler tam cümleleri ve hatta paragrafları girdi olarak alabilir ve kişiselleştirilmiş doğal dil yanıtları oluşturabilir.
İlk bakışta, bu her iki dünyanın da en iyisi gibi görünebilir: İnternetteki bilginin genişliği ve derinliği ile birlikte cana yakın ve özel yanıtlar. Ama araştırmacı olarak arama ve öneri sistemlerini incelerResmin en iyi ihtimalle karışık olduğuna inanıyorum.
ChatGPT ve Bard gibi yapay zeka sistemleri, büyük dil modelleri üzerine kuruludur. Dil modeli, kalıpları öğrenmek için Wikipedia ve PubMed makaleleri gibi çok sayıda mevcut metni kullanan bir makine öğrenimi tekniğidir. Basit bir ifadeyle, bu modeller, bir dizi kelime veya bir kelime öbeği verildiğinde, daha sonra hangi kelimenin geleceğini tahmin eder. Bunu yaparken, yapabilecekleri cümleler, paragraflar ve hatta sayfalar oluşturun bu, bir kullanıcıdan gelen bir sorguya karşılık gelir. 14 Mart 2023’te OpenAI, teknolojinin yeni nesli GPT-4’ü duyurdu. hem metin hem de resim girişi ile çalışırve Microsoft duyurdu konuşma Bing, GPT-4’ü temel alır.
G/O Media komisyon alabilir
%35 indirim
Samsung Q70A QLED 4K TV
Bu Samsung indirimiyle büyük tasarruf edin
Televizyona biraz para yatırmaya hazırsanız, şimdi bunu yapmanın tam zamanı. 75 inç Samsung Q70A QLED 4K TV’yi 800 $ gibi büyük bir indirim karşılığında puanlayabilirsiniz. Bu, fiyatı %35 indirimle 2.300$’dan 1.500$’a düşürür. Gizmodo’ya göre bu para için çok fazla TV ve aynı zamanda şu anda satın alabileceğiniz en iyi 4K TV’lerden biri.
“60 Dakika”, ChatGPT’nin iyi ve kötü yönlerine baktı.
Büyük metin gövdeleri, ince ayar ve diğer makine öğrenimine dayalı yöntemler üzerine eğitim sayesinde, bu tür bilgi alma tekniği oldukça etkili bir şekilde çalışıyor. Büyük dil modeli tabanlı sistemler, bilgi sorgularını yerine getirmek için kişiselleştirilmiş yanıtlar üretir. İnsanlar sonuçları o kadar etkileyici buldu ki ChatGPT, TikTok’un bu dönüm noktasına ulaşması için geçen sürenin üçte birinde 100 milyon kullanıcıya ulaştı. İnsanlar bunu yalnızca yanıtları bulmak için değil, aynı zamanda tanı oluşturmak, diyet planları oluşturmak Ve yatırım önerileri yapmak.
ChatGPT’ler Opaklık ve AI “halüsinasyonlar”
Ancak, birçok olumsuzluk var. İlk olarak, geniş bir dil modelinin kalbinde neyin olduğunu düşünün – sözcükleri ve muhtemelen anlamlarını birbirine bağlayan bir mekanizma. Bu, genellikle akıllı bir yanıt gibi görünen bir çıktı üretir, ancak büyük dil modeli sistemleri neredeyse papağan gibi ifadeler ürettiği biliniyor gerçek bir anlayış olmadan. Bu nedenle, bu tür sistemlerden üretilen çıktı akıllı görünse de, yalnızca yapay zekanın uygun bir bağlamda bulduğu temel sözcük kalıplarının bir yansımasıdır.
Bu sınırlama, büyük dil modeli sistemlerini oluşturmaya veya oluşturmaya duyarlı hale getirir. “halüsinasyon” yanıtları. Sistemler zaten bir sorunun yanlış önermesini anlayacak ve hatalı soruları cevaplayacak kadar akıllı değil. Örneğin, 100 dolarlık banknotta hangi ABD başkanının yüzünün olduğu sorulduğunda, ChatGPT, Benjamin Franklin’i, Franklin’in hiçbir zaman başkan olmadığını ve 100 dolarlık banknotta bir ABD başkanı resmi olduğu önermesinin yanlış olduğunu fark etmeden yanıtlar.
Sorun şu ki, bu sistemler zamanın sadece %10’unda yanlış olsa bile, hangi %10’da olduğunu bilmiyorsunuz. İnsanlar ayrıca sistemlerin yanıtlarını hızlı bir şekilde doğrulama yeteneğine de sahip değiller. Bunun nedeni, bu sistemlerin şeffaflıktan yoksun olmasıdır – hangi veriler üzerinde eğitildiklerini, yanıtları bulmak için hangi kaynakları kullandıklarını veya bu yanıtların nasıl üretildiğini açıklamazlar.
Örneğin, ChatGPT’den alıntılar içeren bir teknik rapor yazmasını isteyebilirsiniz. Ama çoğu zaman bu alıntıları oluşturur – Yazarların yanı sıra bilimsel makalelerin başlıklarının “halüsinasyonu”. Sistemler ayrıca yanıtlarının doğruluğunu da doğrulamaz. Bu, doğrulamayı kullanıcıya bırakır ve kullanıcılar bunu yapmak için motivasyona veya becerilere sahip olmayabilir ve hatta bir yapay zekanın yanıtlarını kontrol etme ihtiyacını fark etmeyebilir. ChatGPT, herhangi bir gerçek bilmediği için bir sorunun ne zaman anlamsız olduğunu bilmez.
yapay zekalaröğretici içerik – ve trafik
Şeffaflığın olmaması kullanıcılar için zararlı olabileceği gibi, sistemlerin kaynaklarını açıklamaması veya yeterli atıf sağlamaması nedeniyle sistemlerin öğrendiği orijinal içeriğin yazarlarına, sanatçılarına ve yaratıcılarına da haksızlıktır. Çoğu durumda, yaratıcılar tazmin edilmemiş veya kredilendirilmemiş veya rızalarını verme fırsatı verildi.
Bunun bir de ekonomik yönü var. Tipik bir arama motoru ortamında, sonuçlar kaynaklara bağlantılarla gösterilir. Bu, yalnızca kullanıcının yanıtları doğrulamasına izin vermekle kalmaz ve bu kaynaklara atıflar sağlar, aynı zamanda bu siteler için trafik oluşturur. Bu kaynakların çoğu, gelirleri için bu trafiğe güveniyor. Büyük dil modeli sistemleri doğrudan yanıtlar ürettikleri, ancak elde ettikleri kaynakları vermedikleri için, bu sitelerin gelir akışlarının azalması muhtemel olduğuna inanıyorum.
Büyük dil modelleri alabilir uzaktan eğitim ve tesadüf
Son olarak, bilgiye erişmenin bu yeni yolu, insanları güçsüzleştirebilir ve öğrenme şanslarını ortadan kaldırabilir. Tipik bir arama süreci, kullanıcıların bilgi ihtiyaçları için çeşitli olasılıkları keşfetmelerine olanak tanır ve genellikle aradıklarını ayarlamaları için onları tetikler. Ayrıca onlara bir öğrenme fırsatı orada ne var ve çeşitli bilgi parçalarının görevlerini yerine getirmek için nasıl birleştiği. Ve buna izin verir tesadüfi karşılaşmalar veya tesadüf.
Bunlar, aramanın çok önemli yönleridir, ancak bir sistem, kaynaklarını göstermeden veya kullanıcıyı bir süreçte yönlendirmeden sonuçları ürettiğinde, onları bu olasılıklardan mahrum eder.
Büyük dil modelleri, insanlara doğal dil tabanlı etkileşimler kurma, kişiselleştirilmiş yanıtlar üretme ve ortalama bir kullanıcının genellikle bulmasının zor olduğu yanıtları ve kalıpları keşfetme yolu sağlayarak bilgi erişimi için büyük bir adımdır. Ancak öğrenme ve yanıt oluşturma biçimleri nedeniyle ciddi sınırlamaları vardır. onların cevapları olabilir yanlış, toksik veya önyargılı.
Diğer bilgi erişim sistemleri de bu sorunlardan muzdarip olabilirken, büyük dil modelli yapay zeka sistemleri de şeffaflıktan yoksundur. Daha da kötüsü, doğal dil yanıtları, bir yanlış güven ve otoriterlik duygusu bilgisiz kullanıcılar için tehlikeli olabilir.
Yapay zeka, sohbet robotları ve makine öğreniminin geleceği hakkında daha fazla bilgi edinmek ister misiniz? Kapsamımızın tamamına göz atın yapay zekaveya kılavuzlarımıza göz atın En İyi Ücretsiz AI Sanat Üreticileri Ve OpenAI ChatGPT Hakkında Bildiğimiz Her Şey.
Çırak ŞahBilgi Bilimi Profesörü, Washington Üniversitesi
Bu makale şu adresten yeniden yayınlanmıştır: Konuşma Creative Commons lisansı altında. Okumak orijinal makale.