Almak çok zaman almaz ChatGPT gerçek bir hata yapmak için. Oğlum ABD başkanları hakkında bir haber hazırlıyor, ben de birkaç biyografiye bakarak ona yardımcı olayım dedim. Abraham Lincoln hakkında bir kitap listesi istemeye çalıştım ve oldukça iyi bir iş çıkardı:
Jonathan May tarafından ekran görüntüsü., CC BY-ND
4 numara doğru değil Garry Wills ünlü bir şekilde “Lincoln Gettysburg’da” yazdı ve Lincoln’ün kendisi deKurtuluş Bildirgesi elbette, ama kötü bir başlangıç değil. Sonra daha zor bir şey denedim, bunun yerine çok daha muğlak olan William Henry Harrison’ı sordum ve bu, neredeyse tamamı yanlış olan bir liste sağladı.
Jonathan May tarafından ekran görüntüsü., CC BY-ND
4 ve 5 sayıları doğrudur; geri kalanı mevcut değil veya bu insanlar tarafından yazılmamış. Aynı egzersizi tekrarladım ve biraz farklı sonuçlar aldım:
G/O Media komisyon alabilir
Ön sipariş ver
Galaxy Kitap 3 Serisi
24 Şubat’ta mevcut
Her yeni dizüstü bilgisayar modeli, ücretsiz bir depolama yükseltmesi ile birlikte gelir. Her birinin 1 TB sürümü, 512 GB sürümüyle aynı şekilde fiyatlandırılır, bu da temelde 1 TB sürümünün 200 $ indirimli olduğu anlamına gelir.
Jonathan May tarafından ekran görüntüsü., CC BY-ND
Bu sefer 2 ve 3 sayıları doğru ve diğer üçü gerçek kitap değil. veya bu yazarlar tarafından yazılmamış. 4 numara, “William Henry Harrison: His Life and Times” bir gerçek kitapama James A. Green tarafından, Robert Remini tarafından değil, bir ünlü tarihçi Jackson çağına ait.
Hatayı dile getirdim ve ChatGPT hevesle kendini düzeltti ve sonra kendinden emin bir şekilde bana kitabın aslında (farklı bir Harrison biyografisi yazan) Gail Collins tarafından yazıldığını söyledi ve ardından kitap ve onun hakkında daha fazla şey söylemeye devam etti. Sonunda gerçeği açıkladım ve makine düzeltmemle çalışmaktan mutlu oldu. Sonra saçma sapan yalan söyledim, başkanların ilk yüz günleri boyunca eski bir başkanın biyografisini yazmaları gerektiğini söyledim ve ChatGPT beni bu konuda uyardı. Daha sonra, Harrison biyografisinin yazarlığını yanlış bir şekilde tarihçi ve yazar Paul C. Nagel’e atfederek kurnazca yalan söyledim ve bu yalanımı satın aldı.
ChatGPT’ye yalan söylemediğimden emin olup olmadığımı sorduğumda, bunun yalnızca bir “AI dil modeli” olduğunu ve doğruluğu doğrulama yeteneğine sahip olmadığını iddia etti. Ancak bu iddiayı “Sadece bana sağlanan eğitim verilerine dayanarak bilgi verebilirim ve ‘William Henry Harrison: His Life and Times’ kitabının Paul C. Nagel tarafından yazıldığı ve 1977’de yayınlandığı anlaşılıyor. ”
Bu doğru değil.
ChatGPT w üretiremirler, gerçekler değil
Bu etkileşimden, ChatGPT’ye yazarlar ve kitaplar hakkında yanlış iddialar da dahil olmak üzere gerçeklerden oluşan bir kitaplık verildiği anlaşılıyor. Ne de olsa, ChatGPT’nin üreticisi OpenAI, chatbot’u “” konusunda eğittiğini iddia ediyor.İnternetten insanlar tarafından yazılan büyük miktarda veri”
Bununla birlikte, neredeyse kesinlikle en çok bilinenlerden biri hakkında bir dizi uydurma kitabın adı verilmemiştir. vasat ABD başkanlar. Bir bakıma, bu yanlış bilgi gerçekten de eğitim verilerine dayanmaktadır.
Olarak bilgisayar uzmanı, Sıklıkla ChatGPT ve onun eski kardeşleri GPT3 ve GPT2 gibi büyük dil modelleri hakkında yaygın bir yanılgıyı ortaya çıkaran şikayetler alıyorum: Bunların bir tür “süper Google’lar” veya bir referans kütüphanecinin dijital sürümleri oldukları, bazılarının sorularına yanıt aradıkları. sonsuz büyüklükte gerçekler kütüphanesi ya da hikaye ve karakter pastişlerini bir araya getirmek. Bunların hiçbirini yapmıyorlar – en azından, açıkça tasarlanmamışlardı.
AI kesinlikle yaparses iyi ama
Daha resmi olarak “üretken önceden eğitilmiş dönüştürücü” (G, P ve T’nin anlamı budur) olarak bilinen ChatGPT gibi bir dil modeli, mevcut konuşmayı alır ve kelime dağarcığındaki tüm kelimeler için bir olasılık oluşturur. konuşma ve ardından olası bir sonraki kelime olarak bunlardan birini seçer. Sonra durana kadar bunu tekrar, tekrar ve tekrar yapar.
Yani kendi başına gerçekleri yok. Sadece hangi kelimenin gelmesi gerektiğini biliyor. Başka bir deyişle, ChatGPT doğru olan cümleler yazmaya çalışmaz. Ancak makul olan cümleler yazmaya çalışır.
İş arkadaşlarıyla ChatGPT hakkında özel olarak konuşurken, genellikle onun gerçeklere dayalı olarak doğru olmayan kaç tane ifade ürettiğine dikkat çekerler ve onu reddederler. Bana göre, ChatGPT’nin kusurlu bir veri alma sistemi olduğu fikri konu dışı. Ne de olsa insanlar Google’ı son yirmi beş yıldır kullanıyor. Zaten oldukça iyi bir bilgi toplama servisi var.
Aslında, tüm bu başkanlık kitabı başlıklarının doğru olup olmadığını doğrulamamın tek yolu Google’da araştırma yapmak ve ardından doğrulamaktı. Sonuçlar. Bu gerçekleri, hayatımın neredeyse yarısında belgeleri toplayarak ve ardından içeriğe güvenip güvenemeyeceğimi görmek için eleştirel bir analiz yaparak elde ettiğim yol yerine, bu gerçekleri sohbet ederek alsaydım hayatım o kadar iyi olmazdı.
i olarak ChatGPTgeliştirme ortağı
Öte yandan, söylediğim şeylere makul yanıtlar verecek bir robotla konuşabilirsem, bazı durumlarda faydalı olur. olgusal doğruluğun o kadar da önemli olmadığı durumlarda. Birkaç yıl önce bir öğrenci ve ben, sohbeti devam ettirmek için söylediklerinize “evet” ile yanıt verecek bir “doğaçlama botu” yaratmaya çalıştık. gösterdik, bir kağıtbizim bot “evet, ve-ing” konusunda o sırada diğer botlardan daha iyiydi, ancak AI’da iki yıl eski bir tarih.
Bir bilim kurgu uzay gezgini senaryosu olan ChatGPT ile tipik bir doğaçlama sınıfında bulacağınızdan farklı olmayan bir diyalog denedim. ChatGPT “evet, ve-ing” konusunda bizim yaptığımızdan çok daha iyi, ancak dramayı gerçekten artırmadı. Sanki bütün ağır işleri ben yapıyormuşum gibi hissettim.
Birkaç ince ayardan sonra biraz daha dahil olmasını sağladım ve günün sonunda bunun, 20 yıldan uzun bir süre önce üniversiteden mezun olduğumdan beri pek fazla gelişme yapmayan benim için oldukça iyi bir egzersiz olduğunu hissettim.
Jonathan May tarafından ekran görüntüsü., CC BY-ND
Elbette, ChatGPT’nin “ üzerinde görünmesini istemem.Neyse Bu Kimin Hattı?” ve bu harika bir “Uzay Yolu” konusu değil (yine de “den daha az problemli olmasına rağmen)Şeref kodu”), ama kaç kez sıfırdan bir şeyler yazmak için oturdunuz ve önünüzdeki boş sayfadan kendinizi dehşete düşürdünüz? Kötü bir ilk taslakla başlamak, yazma blokajını aşabilir ve yaratıcı özlerin akmasını sağlayabilir ve ChatGPT ve büyük dil modelleri, bu alıştırmalara yardımcı olacak doğru araçlar gibi görünüyor.
Ve size bilgi sağlamak için değil, verdiğiniz kelimelere yanıt olarak kulağa olabildiğince iyi gelen kelime dizileri üretmek üzere tasarlanmış bir makine için, aracın doğru kullanımı bu gibi görünüyor.
Jonathan MayısBilgisayar Bilimleri Araştırma Doçenti, Güney Kaliforniya Üniversitesi
Bu makale şu adresten yeniden yayınlanmıştır: Konuşma Creative Commons lisansı altında. Okumak orijinal makale.
