AI arama motorları, bir dizi konuda uzman olduğunu iddia eden, ne hakkında konuştuklarını gerçekten bilmeseler bile otorite ile devam eden arkadaşınız gibidir. Yeni bir araştırma raporu Columbia Gazetecilik İncelemesi’nden (CJR), Openai ve Xai gibi AI modellerinin, belirli bir haber olayı sorulduğunda, daha sık olmamakla birlikte, sadece bir hikaye oluşturduğunu veya önemli ayrıntıları yanlış aldığını buldu.
Araştırmacılar, gerçek haber hikayelerinden çeşitli modelleri doğrudan alıntılar beslediler ve daha sonra makalenin başlığı, yayıncı ve URL’si de dahil olmak üzere bilgileri tanımlamalarını istediler. Şaşkınlık yanlış bilgileri zamanın yüzde 37’sine geri döndürürken, aşırı sonunda Xai’den GroK, zamanın yüzde 97’sini artırdı. Hatalar, bot URL’nin kendisini bile oluşturduğu için hiçbir yere gitmeyen makalelere bağlantılar sunmayı içeriyordu. Genel olarak, araştırmacılar AI modellerinin test sorgularının yüzde 60’ı için yanlış bilgi tükettiğini buldular.
Bazen, şaşkınlık gibi arama motorları gibi sitelerin ödeme duvarlarını atlar Ulusal geografi Bu web siteleri, arama motorlarının normalde saygı duyduğu tarama metinleri kullanmış olsa bile. Şaşkınlık geçmişte bu kadar sıcak suda kaldı, ancak uygulamanın adil bir kullanım olduğunu savundu. Yayıncıları yatıştırmak için gelir paylaşım anlaşmaları sunmayı denedi, ancak yine de uygulamayı sona erdirmeyi reddetti.
Son yıllarda sohbet botları kullanan herkes şaşırmamalıdır. Chatbots, kendinden emin olmasalar bile cevapları geri döndürmeye yönelik önyargılıdır. Arama, adından da anlaşılacağı gibi, bir AI model üreticisinin sağladığı sabit bir veri kümesine güvenmek yerine Web’i gerçek zamanlı bilgi ürettiği için gerçek zamanlı bilgiler için inceleyen geri alma arttırılmış nesil adı verilen bir teknikle arama etkinleştirilir. Bu, Rusya gibi ülkeler propaganda ile arama motorlarını beslerken yanlışlık sorununu daha da kötüleştirebilir.
Bazı Chatbots kullanıcılarının fark ettiği en lanet olan şeylerden biri, “akıl yürütme” metnini veya Chatbots’un bir istemi cevaplamak için kullandığı mantık zincirini incelerken, genellikle bir şeyler uydurduklarını itiraf edecekleridir. Antropic’in Claude, örneğin araştırma çalışması yapması istendiğinde “yer tutucu” verileri ekleyerek yakalandı.
Mark Howard, Operasyon Sorumlusu Zaman Dergi, CJR’ye yayıncıların içeriklerinin AI modellerinde nasıl yutulduğunu ve görüntülendiğini kontrol etme konusunda endişelerini dile getirdi. Örneğin, kullanıcılar, aldıkları haber hikayelerini öğrenirse, yayıncıların markasına potansiyel olarak zarar verebilir. Guardian yanlış. Bu son bir sorun oldu BBCApple’ı, haber uyarılarını yanlış bir şekilde yeniden yazmış olan Apple Intelligence bildirim özetleri üzerinden görevlendirdi. Ancak Howard da kullanıcıların kendilerini suçladı. İtibaren Ars Technica:
Bununla birlikte, Howard ayrıca bazı kullanıcı shamingleri yaptı, eğer ücretsiz AI araçlarının doğruluğuna kuşkusuz kullanıcının hatası olduğunu öne sürüyor: “Tüketici olarak herhangi biri şu anda bu ücretsiz ürünlerden herhangi birinin yüzde 100 doğru olacağına inanıyorsa, o zaman utanç verici.”
Beklentiler burada zemine yerleştirilmelidir. İnsanlar tembeldir ve sohbet botları sorguları, kullanıcıları gönül rahatlığına sokabilecek kendinden emin bir şekilde cevap verir. Sosyal medyadaki duygu, insanların bağlantıları tıklamak istemediklerini ve Google’ın AI genel bakışlarından hemen cevap almayı tercih ettiğini göstermektedir; CJR, dört Amerikalıdan birinin artık arama için AI modellerini kullandığını söylüyor. Ve üretken AI araçlarının başlatılmasından önce, Google aramalarının yarısı “sıfır tutuş” idi, yani kullanıcı bir web sitesine tıklamadan ihtiyaç duydukları bilgileri aldı. Wikipedia gibi diğer siteler, yıllar boyunca insanların ücretsiz ve kolay erişilebilirse daha az yetkili olabilecek bir şeyi kabul edeceğini kanıtlamışlardır.
CJR’den gelen bu bulguların hiçbiri sürpriz olmamalıdır. Dil modelleri, söyledikleri her şeyi anlamak için inatçı bir zorluğa sahiptir, çünkü bunlar sadece yüceltilmiş bir şey yaratan otokomatik sistemlerdir. görünüş Sağ. Onlar ad-libbing.
Howard’dan göze çarpan bir başka alıntı da, sohbet botlarında gelecekteki iyileştirme için yer gördüğünü söylediğinde idi. “Bugün ürünün en kötüsü,” diye konuşuyor. Ancak bu tarih boyunca herhangi bir teknoloji hakkında söylenebilir. Bu yapılı bilgileri dünyaya yayınlamak hala sorumsuz.
