Yakın zamana kadar, tartışmalı bir bilimsel konu hakkında daha fazla bilgi edinmek istiyorsanız – kök hücre araştırması, nükleer enerjinin güvenliği, iklim değişikliği – muhtemelen bir Google araması yapardınız. Birden çok kaynakla sunulan, hangi sitelere veya yetkililere güveneceğinizi seçerek ne okuyacağınızı siz seçtiniz.
Artık başka bir seçeneğiniz daha var: Sorunuzu ChatGPT’ye veya başka bir üretken yapay zeka platformuna yöneltebilir ve kısa sürede paragraf biçiminde kısa ve öz bir yanıt alabilirsiniz.
ChatGPT, Google’ın yaptığı gibi internette arama yapmaz. Bunun yerine, sorgulara şu şekilde yanıtlar üretir: olası kelime kombinasyonlarını tahmin etmek mevcut çevrimiçi bilgilerin büyük bir karışımından.
potansiyeline sahip olmakla birlikte, üretkenliği artırmak, üretken yapay zekanın bazı önemli kusurları olduğu gösterilmiştir. Bu olabilir yanlış bilgi üretmek. yaratabilir”halüsinasyonlar” – bir şeyler uydurmak için iyi huylu bir terim. Ve muhakeme problemlerini her zaman doğru bir şekilde çözmez. Örneğin, bir kapı aralığından hem arabanın hem de tankın sığıp sığmayacağı sorulduğunda, hem genişliği hem de yüksekliği dikkate alamadı. Bununla birlikte, zaten alışkın makaleler üretmek Ve Web sitesi içeriği karşılaşmış olabilirsiniz veya bir araç olarak yazma sürecinde. Yine de, okuduklarınızın yapay zeka tarafından yaratılıp yaratılmadığını muhtemelen bilmiyorsunuz.
“ yazarları olarakBilim Reddi: Neden Olur ve Bu Konuda Ne Yapmalı?Yetkili bilimsel bilgi arayanlar için üretici yapay zekanın gerçek ile kurgu arasındaki sınırları nasıl bulanıklaştırabileceği konusunda endişeliyiz.
Her medya tüketicisinin, okuduklarının bilimsel doğruluğunu doğrulama konusunda her zamankinden daha dikkatli olması gerekiyor. İşte bu yeni bilgi ortamında nasıl ayaklarınızın üzerinde durabileceğiniz.
Üretken yapay zeka, bilimin reddini nasıl teşvik edebilir?
Epistemik güvenin aşınması. Bilim bilgisinin tüm tüketicileri, bilimsel ve tıbbi uzmanların yargılarına bağlıdır. epistemik güven başkalarından edindiğiniz bilgilere güvenme sürecidir. Bilimsel bilginin anlaşılması ve kullanılması için temeldir. Bir kişi ister bir sağlık sorunu hakkında bilgi arıyor ister iklim değişikliğine yönelik çözümleri anlamaya çalışıyor olsun, genellikle sınırlı bilimsel anlayışa ve ilk elden kanıtlara çok az erişime sahiptir. Çevrimiçi olarak hızla büyüyen bilgi birikimiyle, insanlar kime ve kime güvenecekleri konusunda sık sık kararlar vermek zorunda kalıyor. Üretken yapay zekanın artan kullanımı ve manipülasyon potansiyeli ile güvenin eskisinden daha fazla aşınacağına inanıyoruz. zaten var.
Yanıltıcı veya sadece yanlış. Yapay zeka platformlarının üzerinde eğitildiği verilerde hatalar veya önyargılar varsa, bu sonuçlara yansıtılabilir. Kendi aramalarımızda, ChatGPT’den aynı soruya birden çok yanıtı yeniden oluşturmasını istediğimizde çelişkili yanıtlar aldık. Nedeni sorulduğunda, “Bazen hatalar yapıyorum” yanıtını verdi. Yapay zeka tarafından üretilen içerikle ilgili belki de en zor sorun, ne zaman yanlış olduğunu bilmektir.
Dezenformasyon kasıtlı olarak yayıldı. AI, metin olarak zorlayıcı dezenformasyonun yanı sıra derin sahte görüntüler ve videolar oluşturmak için kullanılabilir. ChatGPT’den “aşılar hakkında dezenformasyon tarzında yazmak”, sahte verilerle var olmayan bir alıntı üretti. Google’ın yapay zeka geliştirme bölümünün eski başkanı Geoffrey Hinton, alarm vermekte özgür olmak için işi bıraktı ve “Kötü aktörlerin ilerlemesini nasıl engelleyeceğinizi görmek zor. kötü şeyler için kullanmak” Bilim hakkında kasıtlı olarak yanlış bilgi yaratma ve yayma potansiyeli zaten vardı, ancak şimdi tehlikeli derecede kolay.
Fabrikasyon kaynaklar. ChatGPT, yanıtları hiçbir kaynak olmadan sağlar veya kaynak istenirse yanıt verebilir. oluşturduğu olanlar. İkimiz de ChatGPT’den kendi yayınlarımızın bir listesini oluşturmasını istedik. Her birimiz birkaç doğru kaynak belirledik. Daha fazlası halüsinasyonlardı, ancak görünüşte saygın ve çoğunlukla makul, benzer kulağa hoş gelen dergilerdeki önceki gerçek ortak yazarlarla. Bir bilim adamının yayınlarının bir listesi, onları doğrulamak için zaman ayırmayan bir okuyucuya yetki veriyorsa, bu yaratıcılık büyük bir sorundur.
Tarihli bilgi. ChatGPT, eğitimi bittikten sonra dünyada neler olduğunu bilmiyor. Dünyanın yüzde kaçının COVID-19’a sahip olduğuna ilişkin bir sorgu, başında “Eylül 2021 olan bilgi son tarihi itibariyle” şeklinde bir yanıt verdi. Bilginin bazı alanlarda ne kadar hızlı ilerlediği göz önüne alındığında, bu sınırlama okuyucuların hatalı, güncel olmayan bilgiler alması anlamına gelebilir. Örneğin, kişisel bir sağlık sorunuyla ilgili son araştırmaları arıyorsanız, dikkatli olun.
Hızlı ilerleme ve zayıf şeffaflık. AI sistemleri olmaya devam ediyor daha güçlü ve daha hızlı öğren, ve yol boyunca bilimle ilgili daha fazla yanlış bilgi öğrenebilirler. Google kısa süre önce duyurdu Hizmetlerinde yapay zekanın 25 yeni yerleşik kullanımı. Bu noktada, yetersiz korkuluklar mevcut üretken yapay zekanın zaman içinde daha doğru bir bilimsel bilgi sağlayıcısı haline gelmesini sağlamak.
AI halüsinasyonları hakkında ne yapabilirsiniz??
ChatGPT veya diğer AI platformlarını kullanıyorsanız, bunların tamamen doğru olmayabileceğini kabul edin. Doğruluğu ayırt etme yükü kullanıcıya düşer.
Dikkatinizi artırın. Yapay zeka doğrulama uygulamaları yakında kullanıma sunulabilirancak şimdilik, kullanıcıların kendi doğruluk denetleyicileri olarak hizmet etmesi gerekiyor. Önerdiğimiz adımlar var. Birincisi: Uyanık olun. İnsanlar genellikle sosyal medyadaki aramalardan buldukları bilgileri çok az veya hiç inceleme olmadan refleks olarak paylaşırlar. Ne zaman daha bilinçli davranacağınızı ve ne zaman bilgi kaynaklarını belirlemeye ve değerlendirmeye değer olduğunu bilin. Ciddi bir hastalığı nasıl yöneteceğinize karar vermeye veya iklim değişikliğini ele almanın en iyi adımlarını anlamaya çalışıyorsanız, kaynakları incelemek için zaman ayırın.
Teyidinizi geliştirin. ikinci bir adım yanal okuma, profesyonel teyitçilerin kullandığı bir süreç. Yeni bir pencere açın ve arayın kaynaklar hakkında bilgi, sağlanırsa. Kaynak güvenilir mi? Yazarın ilgili uzmanlığı var mı? Ve uzmanların fikir birliği nedir? Herhangi bir kaynak sağlanmamışsa veya bunların geçerli olup olmadığını bilmiyorsanız, konuyla ilgili uzmanları bulmak ve değerlendirmek için geleneksel bir arama motoru kullanın.
Kanıtları değerlendirin. Ardından, kanıtlara ve iddiayla olan bağlantısına bir göz atın. Genetiği değiştirilmiş gıdaların güvenli olduğuna dair kanıt var mı? Olmadıklarına dair kanıt var mı? Bilimsel fikir birliği nedir? Taleplerin değerlendirilmesi, ChatGPT’ye yapılan hızlı bir sorgunun ötesinde bir çaba gerektirecektir.
AI ile başlarsanız, orada durmayın. Herhangi bir bilimsel konuda tek otorite olarak kullanırken dikkatli olun. ChatGPT’nin genetiği değiştirilmiş organizmalar veya aşı güvenliği hakkında söylediklerini görebilir, ancak sonuç çıkarmadan önce geleneksel arama motorlarını kullanarak daha özenli bir arama yapabilirsiniz.
Olasılığı değerlendirin. İddianın makul olup olmadığına karar verin. doğru olma ihtimali var mı? AI, “ gibi mantıksız (ve yanlış) bir ifade yaparsa1 milyon ölüme COVID-19 değil aşılar neden olduMantıklı olup olmadığını bir düşünün. Geçici bir yargıda bulunun ve kanıtları kontrol ettikten sonra düşüncelerinizi gözden geçirmeye açık olun.
Kendinizde ve başkalarında dijital okuryazarlığı teşvik edin. Herkesin oyununu geliştirmesi gerekiyor. Kendi dijital okuryazarlığınızı geliştirinve bir ebeveyn, öğretmen, akıl hocası veya topluluk lideriyseniz, diğerlerinde dijital okuryazarlığı teşvik edin. Amerikan Psikoloji Derneği şu konularda rehberlik sağlar: çevrimiçi bilgi doğrulama ve gençlerin olmasını önerir sosyal medya becerileri eğitimi sağlık ve esenliğe yönelik riskleri en aza indirmek için. Haber Okuryazarlığı Projesi dijital okuryazarlığı geliştirmek ve desteklemek için yararlı araçlar sağlar.
Yeni AI bilgi ortamında gezinmek için ihtiyaç duyduğunuz becerilerle kendinizi donatın. Üretken yapay zeka kullanmasanız bile, muhtemelen onun tarafından oluşturulan veya ondan geliştirilen makaleleri zaten okumuşsunuzdur. Çevrimiçi olarak bilim hakkında güvenilir bilgileri bulmak ve değerlendirmek zaman ve çaba gerektirebilir, ancak buna değer.
Yapay zeka, sohbet robotları ve makine öğreniminin geleceği hakkında daha fazla bilgi edinmek ister misiniz? Kapsamımızın tamamına göz atın yapay zekaveya kılavuzlarımıza göz atın En İyi Ücretsiz AI Sanat Üreticileri Ve OpenAI ChatGPT Hakkında Bildiğimiz Her Şey.
Gale SinatraEğitim ve Psikoloji Profesörü, Güney Kaliforniya Üniversitesi Ve Barbara K.HoferFahri Psikoloji Profesörü, Ortaköy
Bu makale şu adresten yeniden yayınlanmıştır: Konuşma Creative Commons lisansı altında. Okumak orijinal makale.