Yeni Araştırma: Büyük Dil Kalıpları İnsanlığa Varoluşsal Bir Tehdit Oluşturmuyor
Almanya’daki Bath Üniversitesi ve Darmstadt Teknik Üniversitesi’nin yeni araştırmasına göre, ChatGPT gibi büyük dil modelleri (LLM’ler) kendi başlarına öğrenme veya yeni beceriler edinme konusunda yetersiz; bu da insanlık için varoluşsal bir tehdit oluşturmadıkları anlamına geliyor.
Hesaplamalı Dilbilim Derneği’nin 62. Yıllık Toplantısı (ACL 2024) tutanaklarının bir parçası olarak yayınlanan araştırma, dil modellerinin talimatları takip etme ve dil yeterliliğinde üstün olma konusunda yüzeysel bir yeteneğe sahip olduğunu, ancak yeni beceriler öğrenme potansiyelinden yoksun olduğunu gösteriyor. açık talimat olmadan. Bu, doğası gereği kontrol edilebilir, öngörülebilir ve güvenli oldukları anlamına gelir.
Almanya’daki Darmstadt Teknik Üniversitesi’nden Profesör Irina Gurevich liderliğindeki bir araştırma ekibi, modellerin daha önce hiç karşılaşmadığı görevleri yerine getirme yeteneğini test etmek için deneyler yaptı. Sonuçlar, LLM’lerin talimatları takip etme yeteneği ile dil becerilerinin bir kombinasyonunun, LLM’lerin sergilediği yetenekleri ve sınırlamaları açıklayabildiğini gösterdi.
Üniversitede bilgisayar bilimcisi olan Dr Harish Thayyar Madabushi, “Bu tür yapay zekanın insanlık için bir tehdit oluşturduğuna dair yaygın inanç, bu teknolojilerin yaygın şekilde benimsenmesini ve geliştirilmesini engelliyor ve aynı zamanda dikkati dikkat gerektiren gerçek sorunlardan uzaklaştırıyor” dedi. Bath’tan ve yeni araştırmanın ortak yazarı.
Dr. Thayyar Madabushi, Yüksek Lisans’ların oluşturduğu varoluşsal tehdide ilişkin endişelerin yalnızca sıradan insanlar tarafından değil, aynı zamanda dünya çapında bazı önde gelen yapay zeka araştırmacıları tarafından da dile getirildiğini ekledi. Ancak testler, LLM’nin karmaşık düşünme yeteneklerinden yoksun olduğunu açıkça gösterdi.
Dr. Thayyar Madabushi, “Sahte haberlerin oluşturulması ve artan dolandırıcılık riski gibi yapay zekanın kötüye kullanılmasına yönelik mevcut potansiyelin ele alınması önemli olsa da, algılanan varoluşsal tehditlere dayalı düzenlemeler getirmek için henüz erken olacaktır” dedi.
Profesör Gurevich, çalışmanın sonuçlarının yapay zekanın hiçbir şekilde tehdit oluşturmadığı anlamına gelmediğini ekledi. “Daha ziyade, tehdide özgü karmaşık düşünme becerilerinin ortaya çıktığı hipotezinin kanıtlarla desteklenmediğini ve Yüksek Lisans öğrenimini iyi bir şekilde kontrol edebildiğimizi gösteriyoruz” dedi.