Endişe verici bir rapora göre, yapay zeka tarafından üretilen bilimsel araştırmalar çevrimiçi akademik bilgi ekosistemini kirletiyor yayınlandı Harvard Kennedy Okulu’nda Yanlış Bilgi İncelemesi.
Bir araştırmacı ekibi, yapay olarak oluşturulmuş metinlerin kanıtlarını içeren araştırma makalelerinin yaygınlığını araştırdı. Google Akademikçok sayıda akademik dergide tarihsel olarak yayınlanmış araştırmaları aramayı kolaylaştıran akademik bir arama motorudur.
Ekip, özellikle OpenAI’nin ChatGPT’si gibi artık tanıdık yazılımları içeren bir tür büyük dil modeli (LLM) olan üretken önceden eğitilmiş transformatörlerin (veya GPT’lerin) kötüye kullanımını sorguladı. Bu modeller, metin girişlerini hızla yorumlayabiliyor ve şekiller, resimler ve uzun metin satırları biçiminde hızla yanıtlar oluşturabiliyor.
Araştırmada ekip, Google Akademik’te bulunan ve GPT kullanımının belirtilerini gösteren bir bilimsel makale örneğini analiz etti. Seçilen makaleler bir veya iki ortak ifadeyi içeriyordu. konuşma aracıları (genellikle sohbet robotları) Yüksek Lisans kullanımıyla desteklenmektedir. Araştırmacılar daha sonra bu şüpheli makalelerin internette ne ölçüde dağıtıldığını ve barındırıldığını araştırdı.
İsveç Kütüphane ve Bilgi Bilimi Okulu’ndan araştırmacı ve makalenin ortak yazarı Björn Ekström, “Yapay zeka tarafından oluşturulan araştırmalar arama motorlarında yayıldığında, ‘kanıt hackleme’ dediğimiz risk önemli ölçüde artıyor” dedi. Borås Üniversitesi serbest bırakmak. “Yanlış sonuçlar topluma ve muhtemelen giderek daha fazla alana sızabileceğinden, bunun somut sonuçları olabilir.”
Son ekibe göre, Google Akademik’in internet üzerinden araştırma yapma yöntemi, yazarlarının bilimsel bağlantısı veya hakem denetimi olmayan makaleleri elemiyor; motor, daha yüksek bir inceleme çıtasını geçen araştırmaların yanı sıra akademik hedef dışı avları (öğrenci ödevleri, raporlar, ön baskılar ve daha fazlası) çekecek.
Ekip, üzerinde çalıştıkları makalelerin üçte ikisinin en azından kısmen GPT’lerin açıklanmayan kullanımı yoluyla üretildiğini buldu. Araştırmacılar, GPT tarafından üretilen makalelerin %14,5’inin sağlıkla, %19,5’inin çevreyle ve %23’ünün bilgisayarla ilgili olduğunu buldu.
Ekip, “GPT tarafından üretilmiş bu makalelerin çoğu indekslenmemiş dergilerde ve çalışma makalelerinde bulundu, ancak bazı vakalar ana akım bilimsel dergilerde ve konferans tutanaklarında yayınlanan araştırmaları içeriyordu” diye yazdı.
Araştırmacılar bu gelişmenin getirdiği iki ana riskin altını çizdiler. Grup, “Öncelikle, araştırma altyapısının tüm alanlarına sızan uydurma ‘çalışmaların’ çokluğu, bilimsel iletişim sistemini çökertme ve bilimsel kayıtların bütünlüğünü tehlikeye atma tehdidinde bulunuyor” diye yazdı. “İkinci bir risk, ikna edici derecede bilimsel görünen içeriğin aslında aldatıcı bir şekilde yapay zeka araçlarıyla oluşturulduğu ve aynı zamanda kamuya açık akademik arama motorları, özellikle de Google Akademik tarafından alınabilecek şekilde optimize edildiği ihtimalinin artmasıdır.”
Google Akademik akademik bir veri tabanı olmadığından, bilimsel literatür ararken halkın kullanımı kolaydır. Bu iyi. Ne yazık ki saygın dergiler söz konusu olduğunda halkın buğdayı samandan ayırması daha zordur; hakemli bir araştırma ile bir çalışma makalesi arasındaki fark bile kafa karıştırıcı olabilir. Ayrıca yapay zeka tarafından oluşturulan metin, bazı hakemli çalışmalarda ve daha az incelenen yazılarda da bulundu; bu, GPT tarafından üretilen çalışmanın, yalnızca bu çalışmada değil, çevrimiçi akademik bilgi sistemi genelinde suyu bulandırdığını gösteriyor. çoğu resmi kanalın dışında mevcuttur.
İsveç Kütüphane ve Bilgi Bilimi Okulu’nda araştırmacı olan çalışmanın ortak yazarı Jutta Haider, aynı yayında “Okuduğumuz araştırmanın gerçek olduğuna güvenemezsek, yanlış bilgilere dayanarak karar verme riskiyle karşı karşıya kalırız” dedi. “Fakat bu bir bilimsel suiistimal meselesi olduğu kadar, bu bir medya ve bilgi okuryazarlığı meselesidir.”
Son yıllarda yayıncılar aslında tamamen saçmalık olan bir avuç bilimsel makaleyi başarıyla taramayı başaramadılar. Springer Nature, 2021’de dergideki 40’tan fazla makaleyi geri çekmek zorunda kaldı. Arap Yer Bilimleri DergisiDerginin başlığına rağmen spor, hava kirliliği ve çocuk hekimliği gibi çeşitli konuları tartışıyordu. Konu dışı olmanın yanı sıra, makaleler anlamsız derecede kötü yazılmıştı ve cümleler genellikle ikna edici bir düşünce çizgisinden yoksundu.
Yapay zeka sorunu daha da kötüleştiriyor. Geçtiğimiz Şubat ayında, Frontiers adlı yayıncı, dergisinde bir makale yayımladığı için eleştirilere maruz kalmıştı Hücre Ve Gelişim Biyolojisi AI yazılımı Midjourney tarafından oluşturulan görüntüleri içeriyordu; özellikle, çok sinyal yollarının ve sıçan cinsel organlarının anatomik olarak yanlış görüntüleri. Frontiers gazeteyi yayınlandıktan birkaç gün sonra geri çekti.
Yapay zeka modelleri bilime bir nimet olabilir; Sistemler, Roma İmparatorluğu’na ait hassas metinlerin şifresini çözebilir, daha önce bilinmeyen Nazca Çizgilerini bulabilir ve dinozor fosillerindeki gizli ayrıntıları ortaya çıkarabilir. Ancak yapay zekanın etkisi, onu kullanan insan kadar olumlu ya da olumsuz olabilir.
Hakemli dergiler (ve belki de akademik yazılar için sunucular ve arama motorları), teknolojinin bilimsel keşiflere karşı değil, bilimsel keşiflere hizmet etmesini sağlamak için korkuluklara ihtiyaç duyar.
