Devasa büyüme ile ChatGPT Her gün manşetlere çıkan Google ve Microsoft, arama motorlarında yerleşik olarak bulunan AI sohbet robotlarını göstererek yanıt verdi. Yapay zekanın geleceği olduğu apaçık ortada. Ama neyin geleceği?
Tom’s Hardware’de, neyin mümkün olduğunu görmek için teknolojinin sınırlarını zorlamak üzereyiz, bu nedenle, teknik düzeyde, chatbot yanıtlarının ne kadar insani göründüğünden etkilendim. AI, insan öğrenmesini, üretkenliğini ve eğlencesini geliştirmek için kullanılabilecek güçlü bir araçtır. Ancak hem Google’ın Bard robotu hem de Microsoft’un “New Bing” sohbet robotu hatalı ve tehlikeli bir önermeye dayanmaktadır: okuyucular, bilgilerinin nereden geldiğini ve arkasında kimin olduğunu umursamazlar.
İnsan yazarlardan alınan bilgiler üzerine inşa edilen her iki şirketin de yapay zeka motorları, öğrendikleri makalelere alternatif olarak konumlandırılıyor. Nihai sonuç, size iyi tavsiyeler verecek daha az ücretsiz bilgi ve daha az uzmanın olduğu daha kapalı bir ağ olabilir.
Google, Bard’ı hem bir tweet’te hem de canlı yayınlanan bir etkinlikte gösterdi ve burada yalnızca gerçek yanıtlar değil, öneriler de sağladı. Şirket, Bard’ın yanıtlarından birinin gerçekte yanlış olduğu ortaya çıktığında utandı, ancak Bard ve New Bing ile ilgili sorunlar yanlışlığın çok ötesine geçiyor.
Danışman Olmadan Tavsiye Vermek
Canlı etkinlikte Google Kıdemli Başkan Yardımcısı Prabhakar Raghavan, Bard’ın NORA (Doğru Cevap Yok) olarak kategorize ettiği soruları yanıtlamak için iyi bir seçim olduğunu söyledi. “Bunun gibi sorular için, muhtemelen çeşitli görüş veya bakış açılarını keşfetmek ve web’in bilgeliğinin genişliğiyle bağlantı kurmak istiyoruz” dedi. “Yeni üretken yapay zeka özellikleri, doğrudan arama sonuçlarında karmaşık bilgileri ve çoklu bakış açılarını düzenlememize yardımcı olacak.”
“Web’in genişliği” aslında botun, çalışmaları için ne kredilendirilen ne de tazmin edilen insanlar tarafından yazılan milyonlarca makaleden veri aldığı anlamına gelir. Ama Bard’ın çıktısına bakarak bunların hiçbirini bilemezsiniz.
Raghavan, Google’ın “yıldızlara bakarken aranacak en iyi takımyıldızlar nelerdir?” Arama motoru, bu konuyla ilgili web’deki en iyi makaleleri göstermek yerine, kendi önerilen takımyıldızlarıyla kendi mini makalesini görüntüler. Bu “çoklu bakış açılarının” nereden geldiğini size söyleyecek herhangi bir alıntı veya ileri sürdüğü iddiaları destekleyecek bir otorite yoktur.
Bard, “Bir dahaki sefere yıldızlara baktığınızda bakabileceğiniz birçok takımyıldız var. İşte birkaç popüler olan.” Bunların popüler olduğunu ve en iyi takımyıldızlar olduğunu nasıl bilebiliriz? Bot bunu kimin yetkisiyle söylüyor? Görünüşe göre, sadece ona güvenmemiz gerekiyor.
Ama güven kazanmak zordur. Şirketin tweet’i, Bard’ın James Webb Uzay Teleskobu’ndan (JWST) “yeni keşiflerin” bir listesini verdiği, ancak üç maddeden birinin aslında hiç de yeni bir keşif olmadığı utanç verici bir durumu gösterdi. Buna göre NASABir ötegezegenin ilk fotoğrafları aslında 2004’te, JWST’nin 2021’de fırlatılmasından çok önce çekilmişti.
Pek çok eleştirmen, haklı olarak, chatbot sonuçlarındaki olası olgusal yanlışlıklar konusunda endişe duyacak, ancak teknoloji geliştikçe hataları ayıklamada daha iyi olacağını muhtemelen varsayabiliriz. Daha büyük sorun, botların size hiçbir yerden gelmiyormuş gibi görünen tavsiyeler vermesidir – ancak Bard’ın adını bile anmadığı insan yazarlardan içerik toplayarak derlendiği açıktır.
Uzmanlığın, Yetkinin ve Güvenin Değerini Düşürmek
İronik bir şekilde, Google’ın girişimi, şirketin organik aramaları sıralamada öncelik verdiğini söylediği temel kriterlere aykırıdır. Şirket, dikkate aldığı web yayıncılarına tavsiyelerde bulunur. YEMEK (Tecrübe, Uzmanlık, Yetki ve Güven) hangi yazıların bir sayfanın üstünde, hangilerinin altta görüneceğine karar verdiğinde. Yazarın geçmişi, yazarın ilgili deneyimleri anlatıp açıklamadığı ve o yayının güvenilir olduğu konusunda bir üne sahip olup olmadığı gibi kriterleri dikkate alır. Tanım olarak, bir bot bu kriterlerin hiçbirini karşılayamaz.
Tek bir doğru cevap olmadığında, insan içeriği en çok o zaman önemlidir. Güvenilir bir kaynaktan, konuyla ilgili uzmanlığa ve deneyime dayalı bir dizi profesyonel görüşe sahip birinden tavsiye istiyoruz.
Yazarı tanıyorsak, bilginin güvenilirliği hakkında yargıda bulunabiliriz. Bu nedenle aile toplantılarına gittiğimde yakınlarım yanıma gelip “Hangi laptopu alayım?” gibi sorular soruyorlar. Bu soru için bir web araması yapabilirler (ve belki de yapmalılar), ama beni tanıyorlar ve onları yanlış yönlendirmeyeceğime inanıyorlar.
Google, herkesin bir fikri olduğu ve sosyal medyada boş boş konuştuğu bir dünyada, uzmanlığın artık kullanıcılar için önemli olmadığını umuyor. Şirket, sizden ekranınızın üst kısmında gördüğünüz her şeyi okumanızı, buna inandığınız kadar inanmanızı ve ardından sitede kalmanızı ve böylece gelir kaynağı olan reklamlarını kesintisiz olarak görüntülemenizi bekliyor. Arama motorundan ayrılırsanız, Google’ın reklamları sunmaktan sorumlu olabileceği veya olmayabileceği başka birinin web sitesinde olacaksınız.
Bing Kaynakları Gösteriyor Ama Onları Gömüyor
Bing’in yeni chatbot uygulaması, kaynakları gerçekten göstermesi açısından Google’ınkinden biraz daha iyidir, ancak bunları, yanıtı genişletmek için bir düğmeyi tıklamadığınız sürece bazıları görünmeyen küçük dipnotlara gömer.
Bing’in sohbet robotundaki alıntılar daha belirgin olsa bile, yine de uzman bir kişiden almamızın daha iyi olacağı tavsiyeler sunuyor. Yukarıdaki örnekte bot, üç çeşitli vejetaryen bir akşam yemeğini çikolatalı bir tatlıyla bir araya getiriyor. Ama bunların en iyi tarifler olduğunu veya bu yemeklerin bir araya getirilmesinin iyi olduğunu nasıl bilebilirim?
Daha önce yemek pişirmiş ve bu yemek takımı hakkında bir insan gibi düşünen bir insan tarafından yazılan en iyi arama sonucuna güvenmeyi tercih ederim. Bing’in kredisine göre, organik arama sonuçlarını aşağı itmek yerine kendi içeriğini organik arama sonuçlarının yanına koyuyor.
Google ve Microsoft’un seçtiği demo konularının oldukça öznel olduğunu iddia edebilirsiniz. Bazı insanlar Orion’un bakılacak en iyi takımyıldız olduğunu düşünürken, diğerleri Büyük Ayı’yı seçecek. İşte tam da bu yüzden yazar önemlidir.
Hepimiz önyargılarımız tarafından yönlendiriliyoruz ve en iyi yazarlar onları saklamaya çalışmak yerine kucaklıyor ve ifşa ediyor. Dizüstü bilgisayar incelemelerimden bazılarını okuduysanız, dokunarak yazmanın benim için önemli olduğunu bilirsiniz. Kariyerim boyunca yüzlerce dizüstü bilgisayar klavyesi denedim; Size hangilerinin duygusal, hangilerinin dokunsal ve çabuk olduğunu söyleyebilirim. Ve bana hangi modellerin en iyi olduğunu sorarsanız, klavye konforu önerilerimi etkileyecektir. Klavye kalitesini umursamıyorsanız veya süngerimsi tuşlardan hoşlanıyorsanız, derecelendirmelerime (veya bu yönlerine) daha az ağırlık vermeye karar verebilirsiniz.
Botun tarif listelerinin, takımyıldızların veya başka herhangi bir şeyin arkasında kimin önyargılarının olduğunu bilmiyoruz. Veriler ticari kaynaklardan bile alınabilir.
Yapay Zeka Botları Açık Web’e Zarar Verebilir
Başka bir önyargıyı kabul edeceğim. Ben profesyonel bir yazarım ve Google ve Bing tarafından gösterilenler gibi sohbet robotları, sözleri için para alan herkes için varoluşsal bir tehdit oluşturuyor. Çoğu web sitesi, bir trafik kaynağı olarak büyük ölçüde aramaya güvenir ve bu gözler olmadan, birçok yayıncının iş modeli bozulur. Trafik olmaması, reklam olmaması, e-ticaret tıklaması olmaması, gelir olmaması ve iş olmaması anlamına gelir.
Sonunda, bazı yayıncılar işten atılmaya zorlanabilir. Diğerleri ödeme duvarlarının arkasına çekilebilir ve yine de diğerleri Google ve Bing’in içeriklerini dizine eklemesini engelleyebilir. AI botları, tavsiyelerini daha az güvenilir hale getirerek kazımak için kaliteli kaynaklara sahip olmayacaktı. Ve okuyucular ya kaliteli içerik için daha fazla ödeme yapmak zorunda kalacak ya da daha az ses ile yetineceklerdi.
Aynı zamanda, bu botların, çoğuna çalışmaları için yayıncılar tarafından ödeme yapılan insan yazarların içeriklerini indeksleyerek eğitildikleri de açık. Bot, Orion’un görülmesi gereken harika bir takımyıldız olduğunu söylediğinde bunun nedeni, bir noktada kardeş sitemiz gibi bir siteyi ziyaret etmesidir. uzay.com ve takımyıldızlar hakkında bilgi topladı. Modellerin nasıl eğitildiği bir kara kutu, bu yüzden hangi web sitelerinin hangi olgusal iddialara yol açtığını tam olarak bilmiyoruz, ancak Bing alıntılarıyla bize biraz fikir veriyor.
Google ve Bing’in yaptıklarının intihal veya telif hakkı ihlali teşkil edip etmediği yoruma açıktır ve mahkemede belirlenebilir. Getty Images şu anda Stable Difusion’a dava açmak, modeli eğitmek için 10 milyon resmini kullandığı için AI görüntüleri üreten bir şirket. Büyük bir yayıncının davayı takip ettiğini hayal edebiliyorum.
Birkaç yıl önce, Amazon güvenilir bir şekilde ürünleri kopyalamakla suçlanıyor kendi üçüncü taraf satıcılarından ve ardından kendi Amazon markalı ürünlerini üretiyor – bu ürünler şaşırtıcı olmayan bir şekilde dahili aramada daha üst sıralarda çıkıyor. Bu tanıdık geliyor.
Google’ın LaMDA’sının (Bard’a güç veren) ve Bing’in OpenAI motorunun bir insan yazarın yapabileceği şeyi yaptığını iddia edebilirsiniz. Birincil kaynakları okuyorlar ve sonra kendi kelimeleriyle özetliyorlar. Ancak hiçbir insan yazar, bu AI’ların sahip olduğu türden bir işlem gücüne veya bilgi tabanına sahip değildir.
Ayrıca, yayıncıların Google’dan daha iyi bir trafik kaynağına ihtiyacı olduğunu da iddia edebilirsiniz – ve biz de buna ihtiyaç duyuyoruz, ancak çoğu kullanıcı aramayı İnternet’teki ilk durakları olarak ele alacak şekilde eğitildi. 1997’de insanlar Yahoo’ya gider, bir web siteleri dizinine göz atar, ilgi alanlarına uyanları bulur, yer imlerine ekler ve tekrar gelirdi. Çoğu insan düzenli olarak güvenecekleri birkaç tercih edilen bilgi kaynağına sahip olduğundan, bu, TV ağları, dergiler ve gazeteler için izleyici modeline çok benziyordu.
Ancak çoğu İnternet kullanıcısı, Google, Facebook ve Twitter gibi dağıtım platformlarına gitmek ve oradan web’de gezinmek üzere eğitilmiştir. Bir yayıncıyı beğenebilir ve ona güvenebilirsiniz, ancak genellikle o yayıncının web sitesine doğrudan tarayıcınızın adres çubuğundan ulaşabileceğiniz Google veya Bing’de bularak ulaşırsınız. Herhangi bir yayıncı veya hatta yayıncı grubu için bu köklü davranışı değiştirmek zor olacaktır.
Daha da önemlisi, bir bilgi tüketicisiyseniz, size bir bot gibi davranılır, nereden geldiğini veya ona güvenip güvenemeyeceğinizi umursamadan bilgiyi özümsemeniz beklenir. Bu iyi bir kullanıcı deneyimi değil.
Not: Tüm köşe yazılarımızda olduğu gibi, burada ifade edilen görüşler yalnızca yazara aittir ve ekip olarak Tom’s Hardware’e ait değildir.