Bir grup endüstri şefi ve uzmanı Salı günü, küresel liderlerin yapay zeka teknolojisinin “yok olma riskini” azaltmak için çalışması gerektiği konusunda uyardı.
OpenAI şirketi ChatGPT botunu yaratan Sam Altman da dahil olmak üzere düzinelerce uzman tarafından imzalanan tek satırlık bir bildiride, AI riskleriyle mücadelenin “pandemi ve nükleer savaş gibi diğer toplumsal ölçekli risklerin yanı sıra küresel bir öncelik” olması gerektiği belirtildi.
ChatGPT, geçen yılın sonlarında ilgi odağı haline geldi ve en kısa istemlerden denemeler, şiirler ve sohbetler oluşturma becerisini gösterdi.
Programın çılgın başarısı, alana yapılan milyarlarca dolarlık yatırımla altına hücumu ateşledi, ancak eleştirmenler ve içeriden kişiler alarma geçti.
Yaygın endişeler arasında, sohbet robotlarının web’i dezenformasyonla doldurması, önyargılı algoritmaların ırkçı materyalleri ortaya çıkarması veya yapay zeka destekli otomasyonun tüm sektörleri yerle bir etmesi olasılığı yer alıyor.
süper zeki makineler
ABD merkezli kar amacı gütmeyen Yapay Zeka Güvenliği Merkezi’nin web sitesinde yer alan son açıklama, yapay zekanın oluşturduğu potansiyel varoluşsal tehdide ilişkin hiçbir ayrıntı vermedi.
Merkez, “özlü ifadenin” teknolojinin tehlikeleri hakkında bir tartışma başlatmayı amaçladığını söyledi.
Yapay zeka sistemlerinin altında yatan teknolojilerin bir kısmını yaratan ve sektörün babalarından biri olarak bilinen Geoffrey Hinton da dahil olmak üzere imzacılardan birkaçı geçmişte benzer uyarılarda bulunmuştu.
En büyük endişeleri, makinelerin geniş kapsamlı işlevleri yerine getirme yeteneğine sahip olduğu ve kendi programlamalarını geliştirebildiği bir an için gevşek bir şekilde tanımlanmış bir kavram olan sözde yapay genel zekanın (AGI) yükselişi oldu.
Korku, uzmanların türler ve gezegen için feci sonuçlara yol açabileceği konusunda uyardığı süper zeki makineler üzerinde insanların artık kontrol sahibi olmayacağı yönünde.
Bildiriyi, her ikisi de yapay zeka alanında lider olan Google ve Microsoft gibi şirketlerden düzinelerce akademisyen ve uzman imzaladı.
Tesla patronu Elon Musk ve diğer yüzlerce kişinin, güvenli olduğu gösterilene kadar bu tür bir teknolojinin geliştirilmesinde duraklama çağrısı yapan açık bir mektup yayınlamasından iki ay sonra gelir.
Bununla birlikte, Musk’ın mektubu, toplumsal çöküşe ilişkin korkunç uyarıların fazlasıyla abartıldığı ve genellikle AI destekçilerinin konuşma noktalarını yansıttığı yönünde yaygın eleştirilere yol açtı.
AI’yı eleştiren etkili bir makalenin ortak yazarı olan ABD’li akademisyen Emily Bender, yüzlerce önemli kişi tarafından imzalanan Mart mektubunun “AI abartılı” olduğunu söyledi.
‘Şaşırtıcı derecede tarafsız’
Bender ve diğer eleştirmenler, yapay zeka firmalarını, verilerinin kaynaklarını yayınlamayı reddettikleri veya sözde “kara kutu” sorunu olan verilerin nasıl işlendiğini açıklamadıkları için eleştirdiler.
Eleştiriler arasında, algoritmaların ırkçı, cinsiyetçi veya politik olarak önyargılı materyaller üzerinde eğitilebileceği de yer alıyor.
Şu anda yapay zeka etrafındaki küresel sohbeti şekillendirmeye yardımcı olmak amacıyla dünyayı dolaşan Altman, firmasının geliştirmekte olduğu teknolojinin yarattığı küresel tehdide birkaç kez işaret etti.
Geçen Cuma Paris’te küçük bir gazeteci grubuna “Yapay zekada bir şeyler ters giderse, hiçbir gaz maskesi size yardım etmeyecek” dedi.
Ancak firmasının kaynak verileri yayınlamayı reddetmesini savundu ve eleştirmenlerin gerçekten sadece modellerin önyargılı olup olmadığını bilmek istediğini söyledi.
En son modelin “şaşırtıcı bir şekilde önyargısız” olduğunu ekleyerek, “Orada önemli olan, ırksal bir önyargı testinde nasıl çalıştığıdır” dedi.