ChatGPT’nin ana şirketi OpenAI’nin ‘süper zeka’ sorununu çözmüş olması ve bunun insanlık için olası sonuçlarıyla boğuşması artık tamamen mümkün görünüyor.
OpenAI’nin kurucu ortağı ve CEO’su Sam Altman’ın kovulması ve yeniden işe alınmasının ardından, bu hamleyi neyin tetiklediğine dair açıklamalar gelmeye devam ediyor. The Information dergisindeki yeni bir rapor, en azından bu on yıl içinde veya daha yakın bir zamanda ‘süper zeka’ olarak adlandırılan bir şeyin geliştirilmesine yol açabilecek önemli bir Üretken Yapay Zeka atılımındaki iç aksamayı işaret ediyor.
Süper zeka, tahmin edebileceğiniz gibi, insanlığı geride bırakan bir zekadır ve uygun korumalar olmadan böyle bir zekayı gerçekleştirebilen yapay zekanın gelişimi, doğal olarak büyük bir tehlike işaretidir.
The Information’a göre bu atılım OpenAI Baş Bilim Adamı (ve pişmanlıklarla dolu yönetim kurulu üyesi) Ilya Sutskever.
Yapay zekanın daha önce hiç görmediği sorunları çözmek için yapay zekanın daha temiz ve bilgisayar tarafından oluşturulan verileri kullanmasına olanak tanır. Bu, yapay zekanın aynı problemin birçok farklı versiyonuna göre değil, problemle doğrudan ilgili olmayan bilgilere göre eğitildiği anlamına gelir. Sorunları bu şekilde çözmek (genellikle matematik veya fen problemleri) akıl yürütmeyi gerektirir. Doğru, bizim yaptığımız bir şey, yapay zekaların değil.
OpenAI’nin tüketiciye yönelik birincil ürünü ChatGPT (GPT geniş dil modeli tarafından desteklenmektedir) [LLM]) o kadar akıllı görünebilir ki yanıtlarını oluşturmak için mantığı kullanıyor olmalı. Bununla birlikte, ChatGPT ile yeterince zaman harcadığınızda, çok geçmeden onun, kendisine beslenen çok sayıda veriden öğrendiklerini tekrarladığını ve sorgunuz için geçerli olan, mantıklı cümleleri nasıl oluşturacağınız konusunda çoğunlukla doğru tahminler yaptığını fark edeceksiniz. Burada herhangi bir mantık söz konusu değildir.
Ancak Bilgi, bu atılımın – ki bu da Altman şunu ima etmiş olabilir yakın tarihli bir konferansta şunları söyledi: “Kişisel bir not olarak, son birkaç haftadır, cehalet perdesini ve keşif sınırını bir nevi geriye ittiğimizde, odada bulunma fırsatım oldu. ileri” – OpenAI’ye şok dalgaları gönderdi.
Tehdidi yönetmek
Şu anda ChatGPT’de herhangi bir süper zeka belirtisi olmasa da, OpenAI kesinlikle bu gücün bir kısmını, en azından GPT-4 Turbo ve GPT’lerin chatbot aracıları (ve geleceğin ‘akıllı aracıları’) gibi bazı premium ürünlerine entegre etmek için çalışıyor. .
Süper istihbaratı, Sutskever’in başlangıçta desteklediği, kurulun son eylemlerine bağlamak zorlayıcı olabilir. Bu atılımın aylar önce gerçekleştiği ve Sutskever ile başka bir OpenAI bilim insanı Jan Leike’nin yeni bir OpenAI araştırma grubu kurmasına yol açtığı bildirildi. Süper hizalama süper istihbarat korumaları geliştirme hedefiyle.
Evet doğru duydunuz. Süper zekayı geliştirmek için çalışan şirket aynı zamanda bizi süper zekadan koruyacak araçlar da üretiyor. Doktor Frankenstein’ın köylüleri alev silahlarıyla donattığını hayal edin, fikri anladınız.
Raporda net olmayan şey, süper zekanın hızlı gelişimine ilişkin iç kaygıların Altman’ın kovulmasını nasıl tetiklediğidir. Belki de önemli değildir.
Bu yazının yazıldığı sırada Altman OpenAI’ye geri dönüyor, yönetim kurulu yeniden şekillendiriliyor ve süper zeka oluşturma ve bizi ondan koruma çalışmaları devam edecek.
Eğer tüm bunlar kafa karıştırıcıysa ChatGPT’den size açıklamasını istemenizi öneririm.