Makine öğrenimiyle ilgili en çok keyif aldığım şeylerden biri, mühendislerin insanların nasıl çalıştığını bilmediğini oldukça net bir şekilde göstermesidir. Örneğin, büyük dil modellerini ele alalım. İşimi alacakları söylendi, bu da beni gereksiz kılıyor; zeki olduklarını; barlar ve restoranlarla ilgili öne çıkan özelliklerle Paris gezim için mükemmel bir güzergah planlayacaklarını kesinlikle doğru ve eksiksiz.
İlham alan mayonez ile ilgili tweetŞimdi Google’ın Bard’ı ile eğlenceli bir deney yapmak için yola çıktım.
Bunu iki nedenden dolayı yapmayı seçiyorum. İlk olarak, bu tür sınavlar, küçük çocuklara okumayı öğretirken yaptığınız bir şeydir. Harfleri ve çıkardıkları sesleri tanımalarını sağlarsınız. Ama ikincisi, bu ortak etkinliğin Bard’ın çektiği verilerde yakalanmadığından şüpheleniyorum çünkü bu, yazdığınız türden bir şey değil.
Bu açıkça saçma, ama saçma çünkü “ketçap” kelimesine bakıp açıkça “e” harfini görebiliriz. Bard bunu yapamaz. Tamamen kapalı bir eğitim verisi dünyasında yaşıyor.
Bu tür, LLM’lerle ilgili sorunu çözer. Dil çok eski bir insan teknolojisidir, ancak zekamız ondan önce gelmiştir. Tüm sosyal hayvanlar gibi, statü ilişkilerinin kaydını tutmak zorundayız, bu yüzden beyinlerimiz bu kadar büyük ve tuhaf. Dil çok yararlı bir araçtır – merhaba, yaşamak için yazıyorum! – ama bilgiyle aynı şey değil. Hafife aldığımız bir sürü başka şeyin üzerinde yüzüyor.
Sık sık Rodney Brooks’un 1987 tarihli makalesini düşünürüm, “Temsil Olmayan İstihbarat,” ki bu her zamankinden daha alakalı. Dil kullanımı ile zekanın bağlantılı olduğunu inkar etmeyeceğim ama zeka dilden önce gelir. LLM’lerde gördüğümüz gibi zekanın yokluğunda dille çalışırsanız, garip sonuçlar alırsınız. Brooks, LLM’lerde olup bitenleri, koltuklara ve pencerelere odaklanarak bir uçak yapmaya çalışan bir grup eski araştırmacıyla karşılaştırıyor.
Bu konuda hâlâ haklı olduğuna oldukça eminim.
Bir LLM ile karmaşık bir konuşma yapmaya çalışmanın cazibesini anlıyorum. Pek çok insan bizim akıllı bir bilgisayar kurabilmemizi çok istiyor. Bu fanteziler, inekler tarafından geniş çapta okunan bir tür olan bilim kurguda sıklıkla görülür ve evrende yalnız olmadığımızı bilme özlemi uyandırır. Uzaylı zekasıyla bağlantı kurma girişimlerimizi yönlendiren aynı dürtü.
Ancak LLM’lerin düşünebildiğini iddia etmeye çalışmak bir fantezidir. İstersen bir bilinçaltını sorgulayabilirsin ama yutkunursun. Orada hiçbir şey yok. Demek istediğim, ASCII sanatındaki girişimlerine bakın!
Böyle bir şey yaptığınızda – ortalama beş yaşındaki bir çocuğun mükemmel olduğu ve sofistike bir LLM’nin başarısız olduğu bir görev – zekanın nasıl olduğunu görmeye başlarsınız. Aslında İşler. Elbette, LLM’lerin bir bilince sahip olduğuna inanan insanlar var, ama bu insanlar bana trajik bir şekilde yeterince sosyalleşmemiş gibi geliyorsıradan insanların ne kadar parlak olduğunu tam olarak anlayamayan veya takdir edemeyen.
Evet, Bard yutkunma üretebilir. Aslında, çoğu sohbet robotu gibi, pazarlama kopyası için otomatik tamamlama konusunda mükemmeldir. Bu muhtemelen eğitim verilerinde ne kadar reklam metni göründüğünün bir yansımasıdır. Bard ve mühendisleri muhtemelen buna bu şekilde bakmıyorlar, ancak bu, çevrimiçi olarak günlük yaşamlarımıza dair ne kadar yıkıcı bir yorum.
Reklam bir şeydir. Ancak reklam metni üretebilmek bir zeka göstergesi değildir. Mecbur olmadığımız için yazma zahmetine katlanmadığımız birçok şey ve bildiğimiz ama bildiğimiz başka şeyler var. yapamamak yazın – bisiklete binmek gibi. Birbirimizle konuşurken çok kestirme yollara başvuruyoruz çünkü insanlar büyük ölçüde dünya hakkında aynı temel bilgilerle çalışıyorlar. Bunun bir nedeni var: hepimiz içinde Dünya. Chatbot değil.
Eminim birisi bana sohbet robotlarının gelişeceğini söyleyecek ve ben sadece kaba davranıyorum. Her şeyden önce: gönderilene kadar buharlı yazılım, bebeğim. Ama ikincisi, gerçekten ne kadar akıllı olduğumuzu veya nasıl düşündüğümüzü bilmiyoruz. Sohbet robotlarının gerçek bir kullanım alanı varsa, o da kendi zekamızla ilgili kanıksadığımız şeyleri aydınlatmasıdır. Ya da benden daha bilge birinin dediği gibi: harita bölge değil. Dil haritadır; bilgi bölgedir.
Sohbet robotlarının bilmediği ve bilemeyeceği çok şey var. Gerçek şu ki, doğru soruları sorduğunuz sürece bir LLM’yi Turing testinden çakmak için fazla çaba gerektirmez.