Amerikalı yazar Mark Twain otobiyografisinde, eski İngiltere Başbakanı Benjamin Disraeli’nin şu sözlerini alıntılıyor – veya belki de yanlış aktarıyor: “Üç tür yalan vardır: yalanlar, kahrolası yalanlar ve istatistikler.” Harika bir sıçramayla yapay zeka, üçünü de derli toplu küçük bir pakette birleştiriyor.

ChatGPT ve buna benzer diğer üretken yapay zeka sohbet botları, bir istemde istatistiksel olarak en olası yanıtı üretmek için İnternet genelindeki geniş veri kümeleri üzerinde eğitilir. Yanıtları, bir şeyi neyin komik, anlamlı veya doğru kıldığına dair herhangi bir anlayışa değil, diğer web sayfalarının ifade tarzına, imlasına, dilbilgisine ve hatta stiline dayalıdır.

Yanıtlarını “sohbet arayüzü” olarak adlandırılan bir şeyle sunar: kullanıcının ne söylediğini hatırlar ve bağlam ipuçlarını ve akıllı kumarları kullanarak bir konuşma yapabilir. İstatistiksel pastiş artı istatistiksel gösteriş ve sorun burada yatıyor.

Düşünmeden, ama inandırıcı Başka bir insanla konuştuğumda, bu, diğer insanlarla ilişkilerinde bir ömür boyu edindiğim deneyimin ipuçlarını veriyor. Bu nedenle, bir program bir kişi gibi konuştuğunda, gerçek bir sohbete giriyormuş gibi tepki vermemek çok zordur – bir şeyi anlıyor, onun hakkında düşünüyor, ikimizin de fikirleri bağlamında yanıt veriyor.

Yine de, bir AI muhatabıyla olan şey bu değil. Düşünemezler ve herhangi bir anlayışa veya kavrayışa sahip değillerdir.

Bize bir insanın yaptığı gibi bilgi sunmak, yapay zekayı olması gerekenden daha inandırıcı hale getiriyor. Yazılım, olduğundan daha güvenilirmiş gibi davranıyor çünkü yeteneklerinin çok ötesinde bir güvenilirlik, yeterlilik ve anlayış taklidi yapmak için insani retorik hileleri kullanıyor.

Burada iki konu var: çıktı doğru mu; ve insanlar çıktının doğru olduğunu düşünüyor mu? Yazılımın arayüz tarafı, algoritma tarafının sağlayabileceğinden daha fazlasını vaat ediyor ve geliştiriciler bunu biliyor. ChatGPT’nin arkasındaki şirket olan OpenAI’nin CEO’su Sam Altman, “ChatGPT’nin inanılmaz derecede sınırlı olduğunu, ancak bazı şeylerde yanıltıcı bir büyüklük izlenimi yaratacak kadar iyi olduğunu” kabul ediyor. Bu, yine de, erken aşamadaki aracı, dışarıda kalmamak için kullanıcılara yönelik ürünlerine (Microsoft’un Bing araması dahil) entegre etmek için acele eden bir izdihamı durdurmadı.

Gerçek ve kurgu Bazen yapay zeka yanlış olabilir, ancak konuşma arabirimi çıktıları, doğru olduğunda olduğu gibi aynı güven ve cila ile üretir. Örneğin, bilim kurgu yazarı Ted Chiang’ın işaret ettiği gibi, araç daha büyük sayılarla toplama yaparken hata yapıyor çünkü aslında matematik yapmak için herhangi bir mantığı yok.

Basitçe, web’de görülen ve toplamayı içeren örnekleri eşleştirir. Ve daha yaygın matematik soruları için örnekler bulabilirken, daha büyük sayıları içeren eğitim metni görmedi.

10 yaşındaki bir çocuğun açıkça kullanabileceği matematik kurallarını “bilmiyor”. Yine de sohbet arayüzü, ChatGPT ile yapılan bu alışverişte yansıtıldığı gibi, ne kadar yanlış olursa olsun yanıtını kesin olarak sunar.

Kullanıcı: Malezya’nın başkenti neresidir? ChatGPT: Malezya’nın başkenti Kuala Lampur’dur.

kullanıcı: 27 nedir 7338? ChatGPT: 27 7338, 200.526’dır.

Öyle değil.

Üretken yapay zeka, tanınmış bir kişinin biyografisinde gerçek gerçekleri uydurma olanlarla harmanlayabilir veya hiç yazılmamış makaleler için makul bilimsel referanslardan alıntı yapabilir.

Bu mantıklı: İstatistiksel olarak, web sayfaları ünlü kişilerin sıklıkla ödül kazandığını ve makalelerin genellikle referansları olduğunu belirtiyor. ChatGPT, yalnızca yapmak için yaratıldığı şeyi yapıyor ve doğru olup olmadığına bakmaksızın olası olabilecek içeriği bir araya getiriyor.

Bilgisayar bilimcileri buna AI halüsinasyonu diyor. Geri kalanımız buna yalan diyebilir.

Göz korkutucu çıktılar Tasarım öğrencilerime ders verdiğimde, çıktıları süreçle eşleştirmenin öneminden bahsediyorum. Bir fikir kavramsal aşamadaysa, gerçekte olduğundan daha gösterişli görünecek şekilde sunulmamalıdır – onu 3 boyutlu olarak oluşturmamalı veya parlak kart stoğuna basmamalıdırlar. Bir kalem taslağı, fikrin başlangıç ​​niteliğinde olduğunu, değiştirilmesinin kolay olduğunu ve bir sorunun her bölümünü ele almasının beklenmemesi gerektiğini açıkça ortaya koyar.

Aynı şey konuşma arayüzleri için de geçerlidir: teknoloji bizimle iyi hazırlanmış, dilbilgisi açısından doğru veya konuşkan tonlarda “konuştuğunda”, onu gerçekte olduğundan çok daha düşünceli ve muhakeme sahibi olarak yorumlama eğilimindeyiz. sanatçı bilgisayar değil kullanmalı.

AI geliştiricileri, kullanıcı beklentilerini yönetme sorumluluğuna sahiptir, çünkü makine ne derse desin zaten inanmaya hazır olabiliriz. Matematikçi Jordan Ellenberg, işin içinde matematik olduğunu iddia ederek daha iyi muhakeme gücümüzü alt edebilecek bir tür “cebirsel gözdağı” tanımlıyor.

Yüz milyarlarca parametreye sahip AI, benzer bir algoritmik gözdağıyla bizi silahsızlandırabilir.

Algoritmaların gittikçe daha iyi içerik üretmesini sağlarken, arayüzün kendisinin fazla umut vermediğinden emin olmamız gerekiyor. Teknoloji dünyasındaki sohbetler zaten aşırı güven ve kibirle dolu – belki yapay zeka bunun yerine biraz alçakgönüllü olabilir.


Akıllı telefon şirketleri, 2023’ün ilk çeyreğinde birçok ilgi çekici cihazı piyasaya sürdü. 2023’te piyasaya sürülen ve bugün satın alabileceğiniz en iyi telefonlardan bazıları hangileri? Bunu Gadgets 360 podcast’i Orbital’de tartışıyoruz. Orbital şu ​​adreste mevcuttur: spotify, Gaana, JioSaavn, Google Podcast’leri, Apple Podcast’leri, Amazon Müzik ve podcast’lerinizi nereden alırsanız alın.
Ortaklık bağlantıları otomatik olarak oluşturulabilir – ayrıntılar için etik beyanımıza bakın.



genel-8