OpenAI’de var bir ekip topladı Organizasyon, dönek AI teknolojisinin neden olduğu insanlığın potansiyel olarak yok edilmesine ilişkin endişesini ifade ettiğinden, yapay zeka (AI) kıyamet gününü önlemek amacıyla.
OpenAI’ye göre yapay zeka, insanoğlunun şimdiye kadar gerçekleştirdiği en önemli teknolojik sıçramayı temsil edebilecek ve önemli küresel ikilemlere yönelik çözümleri kolaylaştırabilecek süper zekaya dönüşme kapasitesine sahiptir.
Fakat, OpenAI’den Ilya Sutskever ve Jan Leike insanların kendi bilişsel yeteneklerini aşan teknolojiyle uğraşmak için yetersiz donanıma sahip olduklarına dikkat edin.
AI, süper zekaya dönüşme kapasitesine sahiptir. (Resim: “Terminatör 3” ile twm1340)
Süper zeki bir yapay zekanın tehlikesi
OpenAI ekibi, süper zeki bir yapay zekanın yaklaşmakta olan tehlikesini kabul ediyor ve şu anda onun davranışını kontrol edecek veya yeniden yönlendirecek bir çözümden yoksun olduklarını kabul ediyor. Yapay zekayı uyumlu hale getirmek için insan geri bildiriminden pekiştirmeli öğrenme gibi mevcut metodolojiler, insan gözetimine dayanır. Bununla birlikte, AI sistemleri zekada insanları geride bıraktıkça, bu denetim güvenilmez hale gelir.
OpenAI’nin kurucu ortağı ve baş bilim adamı Bay Sutskeveryanında OpenAI’nin hizalama departmanı başkanı Bay Leike, süper zekanın ortaya koyduğu teknik engelleri aşmakla görevli bir grup araştırmacı ve mühendis kuruyor. Ekibin bu hedefe ulaşması için dört yıllık bir süre belirlediler.
İnsanlığın yok olma ihtimali endişe verici olsa da, OpenAI’deki liderler bir çözüm bulma konusunda iyimser bir bakış açısına sahipler. Odaklanmış ve uyumlu çabalarla çıkmazın çözülebileceğine inanıyorlar. Teşvik edici kavramlar ve ön deneyler, ölçülebilir ilerleme ve mevcut yapay zeka modellerini kullanarak bu zorlukları ampirik olarak inceleme yeteneği ile birleştiğinde, iyimserliklerine katkıda bulunur.
Bay Sutskever ve Bay Leike, çalışmalarının sonuçlarını geniş çapta yaymaya olan sarsılmaz bağlılıklarını vurguluyorlar. OpenAI, insanlığın yapay zeka tarafından egemenliğini veya yok edilmesini önlemekle ilgilenen araştırma mühendislerini, bilim adamlarını ve yöneticileri aktif olarak işe alıyor. Ayrıca OpenAI, geliştiriciler için daha erişilebilir kılmak amacıyla en yetenekli AI modeli olan GPT-4’ün yaygın olarak kullanılabilir olduğunu duyurdu.
dosyalanmış . AI (Yapay Zeka) hakkında daha fazlasını okuyun.