Gazeteci olarak geçirdiğim son 20 yıl boyunca insanlığa bakış açımı geri dönülmez biçimde değiştiren birçok şey gördüm ve bunlar hakkında yazdım. Ancak yakın zamana kadar beni kısa devreye sokan bir şey değildi.
Sizin de fark etmiş olabileceğiniz bir olgudan bahsediyorum: Yapay zekaya duyulan ilgi.
Birisinin çevrimiçi ortamda yapay zekaya yönelik çağrıyı kullandığını görmüş, hatta bunu yüksek sesle duymuş olma ihtimaliniz yüksektir. Bu, en iyi üç kelimeyle özetlenen mantıksal bir yanılgıdır: “ChatGPT’ye sordum.”
- ChatGPT’ye sordum gizemli hastalığımı çözmeme yardım etmek için.
- ChatGPT’ye sordum Bana sert aşk tavsiyeleri vermeye, bir insan olarak gelişmek için en çok ihtiyacım olduğunu düşünüyorlar.
- ChatGPT’yi kullandım özel bir cilt rutini oluşturmak için.
- ChatGPT bir argüman sundu soyut mantıksal ve metafizik ilkelere, yani Orta Dışlanmışlığa dayalı olarak, ilişkilerin doğasına, gerçek sevgiye, özgür iradeye veya saygıya başvurmadan, Tanrı’dan ilişkisel yabancılaşmanın (yani lanetlenmenin) zorunlu olarak mümkün olduğu.
- O kadar çok devlet kurumu var ki, kaç tane olduğunu hükümet bile bilmiyor! [based entirely on an answer from Grok, which is screenshotted]
Her ne kadar bu olguyu özetlemenin en basit yolu olsa da, tüm örneklerde tam olarak bu formülasyon kullanılmamaktadır. İnsanlar örneğin Google Gemini’yi, Microsoft Copilot’u veya sohbet robotu kız arkadaşlarını kullanabilir. Ancak ortak nokta, sizin yapmasını istediğiniz şeyi yapmak üzere tasarlanmamış bir teknik sisteme refleksif, yersiz bir güven duymak ve daha sonra diğer insanların da bunu benimsemesini beklemektir.
Eğer hala forumlarda yorum yapsaydım, bu kızacağım türden bir şey olurdu
Yapay zekâya yönelik bu çekiciliği her gördüğümde ilk düşüncem aynı oluyor: Sen aptal falan mısın? Bir süredir “ChatGPT’ye sordum” cümlesi konuyu toparlamam için yeterliydi – o kişinin ne söylediğiyle artık ilgilenmiyordum. Bunu zihinsel olarak mantıksal yanılgıların yanına koydum, bilirsiniz: saman adam, ad hominem, Gish dörtnala ve gerçek bir İskoçyalı değil. Eğer hala forumlarda yorum yapsaydım, bu kızacağım türden bir şey olurdu. Ancak yapay zekanın çekiciliği o kadar sık olmaya başlıyor ki dişlerimi gıcırdatıp onu anlamaya çalışacağım.
En basitinden başlayacağım: Musk örneği – sonuncusu – hem ürününün reklamını yapan hem de aynı anda propaganda yapan bir adam. Diğerleri daha karmaşıktır.
Öncelikle bu örnekleri üzücü buluyorum. Gizemli hastalık durumunda yazar, bir doktordan alamadıkları ilgi ve yanıtları almak için ChatGPT’ye başvuruyor. “Sert aşk” tavsiyesi durumunda, soru soran kişi “cevapların doğruluğu karşısında şok olduklarını ve şaşırdıklarını” söylüyor, her ne kadar cevapların tamamı herhangi bir radyo programından alabileceğiniz genel saçmalık olsa da “Sorun flört uygulamalarında değil, sizin savunmasız kalma korkunuzda.” Cilt rutini söz konusu olduğunda, yazar bir kadın dergisinden bir tane almış olabilir; bu konuda özel olarak hazırlanmış hiçbir şey yok.
Lanetlenmeyle ilgili tartışmaya gelince: Cehennem gerçektir ve ben zaten buradayım.
ChatGPT’nin metni kendinden emin görünüyor ve yanıtlar ayrıntılı. Bu haklı olmakla aynı şey değil ama gösterenler haklı olmanın
Büyük dil modellerine aşina olan herkesin bildiği gibi ChatGPT gibi sistemler, bir eğitim verileri kütüphanesindeki kalıplara dayalı kelime dizileri oluşturarak istemlere verilen olası yanıtları tahmin eder. İnternette insan yapımı çok büyük miktarda bilgi var ve dolayısıyla bu yanıtlar sıklıkla doğrudur: Örneğin “Kaliforniya’nın başkenti nedir” diye sorun, size Sacramento ve başka bir gereksiz cümleyle yanıt verecektir. (ChatGPT’ye olan küçük itirazlarımdan biri de şu: Cevapları, minimum kelime sayısına ulaşmaya çalışan bir altıncı sınıf öğrencisine benziyor.) Yukarıdakiler gibi daha açık uçlu sorgular için bile ChatGPT, eğitim verilerine dayanarak kulağa makul gelen bir cevap oluşturabilir. Sevgi ve cilt tavsiyeleri geneldir çünkü internette sayısız yazar tam olarak buna benzer tavsiyeler vermiştir.
Sorun şu ki ChatGPT değil güvenilir. ChatGPT’nin metni kendinden emin görünüyor ve yanıtlar ayrıntılı. Bu haklı olmakla aynı şey değil ama gösterenler haklı olmaktan. Bu her zaman bariz bir şekilde yanlış değildir, özellikle de soru soran kişinin kolayca yansıtabileceği aşk tavsiyelerinde olduğu gibi cevaplara gelince. Onay önyargısı gerçektir ve doğrudur ve dostum. İnsanların karmaşık gerçek sorular içeren bir otomatik tahmin sistemine güvendiklerinde karşılaştıkları türden sorunlar hakkında zaten yazmıştım. Ancak bu sorunlar ne kadar sıklıkla ortaya çıksa da insanlar tam olarak bunu yapmaya devam ediyor.
Güvenin nasıl tesis edildiği çetrefilli bir sorudur. Bir gazeteci olarak çalışmamı göstermeyi severim; size kimin bana ne zaman ne söylediğini söylerim veya bir şeyin doğru olduğunu doğrulamak için ne yaptığımı size gösteririm. Sahte başkanlık aflarıyla, kendi sorgunuzu yapabilmeniz için size hangi birincil kaynakları kullandığımı gösterdim.
Ancak güven aynı zamanda kolayca suistimal edilebilecek bir buluşsal yöntemdir. Örneğin finansal dolandırıcılıklarda, bir turda belirli bir risk sermayesi fonunun varlığı, diğer risk sermayesi fonlarına birisinin gereken özeni zaten gösterdiği izlenimini verebilir ve bu da onların yoğun süreci kendilerinin atlamasına yol açabilir. Otoriteye başvurmak, bir buluşsal yöntem olarak güvene dayanır; bu, bazen hatalı olsa da, işi kurtarabilecek pratik bir önlemdir.
Sektörün liderlerinden yapay zekanın yakında düşünebilme yeteneğine sahip olacağını söyleyenleri ne zamandır dinliyoruz?
Gizemli hastalık hakkında soru soran kişi yapay zekaya başvuruyor çünkü insanların cevapları yok ve çaresiz durumdalar. Cilt bakımı işi tam bir tembellik gibi görünüyor. Aşk tavsiyesi isteyen kişiyle, hayatlarında soracak hiçbir insanın olmadığı bir noktaya nasıl geldiklerini merak ediyorum – diğer insanlarla etkileşimlerini izleyen bir arkadaşları yoktu. Cehennem sorusuyla birlikte, “makine laneti mantıklı buldu” havası da var ki bu tam anlamıyla kahrolası bir şey utandırıcı.
Yapay zekaya yönelik çekicilik, örneğin “çilek”teki “r”leri saymasını sağlamakla ilgili “ChatGPT’ye sordum” hikayelerinden farklıdır; sohbet robotunun sınırlarını test etmez veya onunla başka bir öz farkındalık yöntemiyle etkileşim kurmaz . Belki bunu anlamanın iki yolu vardır. Birincisi, “Sihirli cevap kutusuna sordum ve bana şunu söyledi”, daha çok “eh, Delphi’deki Kahin dedi ki…” şeklinde. İkincisi ise, “ChatGPT’ye sordum ve yanlışsa sorumlu tutulamam” .”
İkincisi tembeldir. Birincisi endişe verici.
Sam Altman ve Elon Musk, yapay zekaya yapılan başvurunun sorumluluğunu paylaşıyor. Sektörün liderlerinden yapay zekanın yakında düşünebilme yeteneğine sahip olacağını söyleyenleri ne zamandır dinliyoruz? İnsanlardan daha iyi performans göstereceğini ve işimizi elimizden alacağını mı? Burada bir tür sığır mantığı var: Elon Musk ve Sam Altman çok zenginler, dolayısıyla çok akıllı olmalılar; sizden daha zenginler ve dolayısıyla sizden daha akıllılar. Ve size yapay zekanın düşünebildiğini söylüyorlar. Neden onlara inanmıyorsun? Ayrıca eğer haklılarsa dünya çok daha serin değil mi?
Ne yazık ki Google için ChatGPT daha iyi görünen bir kristal küredir
Yapay zeka hikayesine itirazda bulunmanın da büyük bir ilgi ödülü var; Kevin Roose’un anlamsız Bing chatbot hikayesi buna bir örnektir. Elbette bu çok saf ve şakacı bir yaklaşım; ancak uzmanların ayna testinde başarısız olmalarını izlemek insanların dikkatini çekme eğilimindedir. (Aslında Roose daha sonra sohbet robotlarına ne anlama geldiğini sorduğu ikinci bir hikaye yazdı. onu düşündüler.) Sosyal medyada, yapay zekaya olan ilgiyi ön plana ve katılımın merkezine koymak için bir teşvik var; bu şeyleri öne çıkarmaktan fazlasıyla mutlu olan bir sürü tuhaf yapay zeka fenomeni var. Aptalca davranışlara sosyal ödüller verirseniz, insanlar aptalca davranışlarda bulunacaktır. Modalar böyle işler.
Bir şey daha var, o da Google. Google Arama, alışılmışın dışında iyi bir çevrimiçi dizin olarak başladı, ancak Google, yıllardır onu, aramaları sağlayan kristal bir küre olarak görmeyi teşvik etti. tek doğru cevap komutada. Üretken yapay zekanın yükselişinden önce Snippet’lerin amacı buydu ve şimdi yapay zeka yanıtlarının entegrasyonu bunu birkaç adım daha ileri götürdü.
Ne yazık ki Google için ChatGPT daha iyi görünen bir kristal küredir. Diyelim ki ön cam sileceklerimin lastiğini değiştirmek istiyorum. “Lastik ön cam sileceğini değiştirin” için Google Arama geri dönüşü, bana AI genel bakışından başlayarak çok çeşitli önemsiz şeyleri gösteriyor. Yanında bir YouTube videosu var. Daha aşağı kaydırırsam bir parça var; yanında bir fotoğraf var. Bunun altında önerilen aramalar, ardından daha fazla video önerisi ve ardından Reddit forumu yanıtları yer alıyor. Meşgul ve dağınık.
Şimdi ChatGPT’ye geçelim. “Kauçuk ön cam sileceğini nasıl değiştiririm?” bana daha temiz bir düzen sağlıyor: alt başlıklar ve adımlardan oluşan bir yanıt. Kaynaklarla doğrudan bir bağlantım yok ve iyi bir tavsiye alıp almadığımı değerlendirecek bir yolum yok – ancak temiz bir arayüz üzerinde net, otoriter görünen bir cevabım var. İşlerin nasıl yürüdüğünü bilmiyorsanız veya umursamıyorsanız, ChatGPT daha iyi görünüyor.
Geleceğin Jean Baudrillard tarafından önceden tahmin edildiği ortaya çıktı
Yapay zekaya başvuru, Arthur Clarke’ın yasasına mükemmel bir örnektir: “Yeterince gelişmiş herhangi bir teknoloji, sihirden ayırt edilemez.” Yüksek Lisansın arkasındaki teknoloji yeterince gelişmiştir çünkü onu kullanan insanlar onu anlama zahmetine girmemiştir. Sonuç tamamen yeni, iç karartıcı bir haber türü oldu: Kişi yalnızca uydurma sonuçlar elde etmek için üretken yapay zekaya güveniyor. Ayrıca bunlardan ne kadar çok olursa olsun (sahte başkanlık afları, sahte alıntılar, uydurma içtihatlar veya uydurma film alıntıları olsun) hiçbir etki yaratmıyor gibi görünmelerini moral bozucu buluyorum. Lanet olsun, pizzaya yapıştırma olayı bile “ChatGPT’ye sordum.”
Bunun bir saçmalık makinesi olduğunu – felsefi anlamda – pek çok soruyu rahatsız etmiyor gibi görünüyor. Bir Yüksek Lisans doğası gereği söylediği şeyin doğru mu yanlış mı olduğunu belirleyemez. (En azından bir yalancı gerçeğin ne olduğunu bilir.) Gerçek dünyaya erişimi yoktur, yalnızca jetonlar aracılığıyla “gördüğü” dünyanın yazılı temsillerine erişimi vardır.
O halde yapay zekaya yapılan itiraz, gösterenler yetkiye sahip. ChatGPT, olmaması gerektiği zamanlarda bile kendinden emin görünüyor ve yanlış olsalar bile yanıtları ayrıntılı. Arayüz temiz. Hangi bağlantıya tıklayacağınız konusunda bir karar vermenize gerek yok. Bazı zengin adamlar sana bunun kısa sürede senden daha akıllıca olacağını söyledi. A New York Times Muhabir tam olarak bunu yapıyor. Peki bilgisayar bunu sizin için yapabilecekken neden düşünesiniz ki?
Bunun ne kadarının kaygısız güven, ne kadarının saf lüks nihilizm olduğunu anlayamıyorum. Bazı açılardan, “robot bana gerçeği söyleyecek” ve “hiç kimse hiçbir şeyi düzeltmeyecek ve zaten Google hatalı, öyleyse neden robota güvenmeyesiniz” aynı anlama geliyor: insanın çabasına olan inanç eksikliği, insan bilgisi ve kendimize güvenememe. Bu işin çok karanlık bir yere doğru gittiğini hissetmeden edemiyorum. Önemli kişiler konuşuyor çocuk felci aşısının yasaklanması. New Jersey’de ikamet edenler lazerleri uçaklara yöneltmek yılın en yoğun seyahat döneminde. Cumhurbaşkanlığı seçiminin tamamı komplo teorileriyle çalkalanıyor. Ayrıca uzaylıların gerçek olması, dünyayı yöneten gizli bir çetenin olması ve yapay zekanın gerçekten akıllı olması daha eğlenceli değil mi?
Bu bağlamda, belki de bilgisayarda sihirli bir cevap kutusunun olduğuna ve bunun tıpkı Delphi’deki eski dostumuz Sibyl gibi tamamen otoriter olduğuna inanmak kolaydır. Bilgisayarın şaşmaz bir şekilde bilgili olduğuna inanıyorsanız, her şeye inanmaya hazırsınız demektir. Görünüşe göre gelecek baştan beri Jean Baudrillard tarafından öngörülmüştü: Gösterenlerimiz varken kimin gerçekliğe ihtiyacı var? Gerçekliğin bana ne faydası oldu ki zaten?
