“Yapay zeka halüsinasyonu genAI’nin yaptığı tek şeydir,” diyor Symbol Zero CEO’su Rafael Brown. “Yaptığı tek şey, makarna ve sosu duvara fırlatıp hangisinin yapışacağını görmek için beklemek gibi şeyleri bir araya getirmektir. Bu, izleyicinin neyi sevip neyi sevmediğine göre yapılır. Gerçek bir kafiye veya sebep yoktur. Gerçek bir yapı, bağlam, simülasyon veya süreç yoktur. Beceri, içgörü, duygu, yargı, ilham, sentez, yineleme, revizyon veya yaratıcılık yoktur. Kelime karmaşası veya kelime salatası oluşturucu gibidir. Scrabble veya Boggle kadar iyi bile değildir. Bunu AI Mad Libs olarak düşünmek daha iyidir – işinizi, geleceğinizi ve yaratımınızı AI Mad Libs’e emanet edin.”
Ayrıca genAI’nin kendi kendine beslenmeye başlaması ve tüm gerçeklik tabanlı verilerin yok olmasıyla birlikte çökmesi olasılığı da var. Yayıncı Wiley’de içerik koruma kıdemli direktörü olan Pascal Hetzscholdt durumu böyle görüyor.
“ChatGPT4 gibi modeller, alakalı ve faydalı kalmak için sürekli olarak yeni verilerle yeniden eğitilmelidir,” dedi. “Bu nedenle, üretken AI’nın kendi çıktısı veya diğer AI çıktısı üzerinde eğitilerek kendini canlı canlı yemeye başladığı anlamına geliyor.