“Günümüzün modelleri aslında sadece bir metindeki bir sonraki kelimeyi tahmin ediyor” diyor. Ama bu konuda o kadar iyiler ki bizi kandırıyorlar. Muazzam hafıza kapasiteleri nedeniyle, mantık yürütüyormuş gibi görünebilirler, oysa aslında sadece daha önce eğitildikleri bilgileri tekrarlıyorlar.
LeCun, “’Kendilerini ifade edebilen veya dili yönetebilen kişilerin veya varlıkların akıllı olduğu fikrine alışkınız; ancak bu doğru değil’ diyor. ‘Dili manipüle edebilirsiniz ve akıllı olamazsınız ve temel olarak Yüksek Lisans’ların gösterdiği şey budur.’”
Anahtar konu budur. Londra, İngiltere’deki teknoloji yatırım şirketi Silicon Roundabout Ventures’ın genel ortağı Francesco Perticarari, şirketlerin genAI sistemlerine çok fazla güvendiğini söylüyor.
GenAI’nın şanslı bir tahminde bulunmasından ziyade, bu araçlar tarafından verilen nadir doğru cevapların parlak ışıklar olduğunu varsaymak kolaydır. Ancak “çıktı hiçbir şekilde mantığa dayanmıyor. Perticarari, “Bu yalnızca son derece güçlü bir hesaplamaya dayanıyor” dedi.
genAI’yi sürücü koltuğuna oturtmak
genAI için sıklıkla bahsedilen olumlu noktalardan biri, bazı modellerin çeşitli eyalet baro sınavlarını geçmede oldukça etkili olduğunun kanıtlanmış olmasıdır. Ancak bu baro sınavları genAI için ideal ortamlardır çünkü cevapların tümü yayınlanmaktadır. Ezberleme ve kusma, genAI için ideal kullanımlardır ancak bu, genAI araçlarının avukatlık yapmak için gereken becerilere, anlayışa ve sezgiye sahip olduğu anlamına gelmez.