ChatGPT yaratıcısı OpenAI, yapay zekayı yaygınlaştırarak bir canavar yarattıklarından endişe ediyor. Şimdi, süper zeki yapay zeka robotlarını insan kontrolü altında tutmakla görevlendirilecek insan mühendisler ve yapay zeka uzmanlarından oluşan bir ekip oluşturmayı planlıyorlar.
Süper akıllı AI sistemlerinin mevcudiyeti şu anda bir seçenek değil, ancak ChatGPT’nin yaratıcısı OpenAI, bu teknolojinin önümüzdeki on yıl içinde bir gerçeklik olabileceğine inanıyor. Önemli zorlukları ele almanın potansiyel faydaları olsa da, önemli riskler de vardır.
Potansiyel kötüye kullanım ve tehlikeleri ele almak için OpenAI, süper akıllı yapay zeka sistemlerini denetleyecek ve düzenleyecek bir ekip kuruyor.
Avcılık Süper Zeki Yapay Zeka
Şirket, bu girişimi yönetmeleri için araştırmacıları Sutskever ve Jan Leike’yi atadı. OpenAI ayrıca ekiplerine katılmaları için aktif olarak yetenekli makine öğrenimi araştırmacıları ve mühendisleri arıyor.
İlgili Makaleler
ChatGPT Kullanıcıları Risk Altında: Kötü amaçlı yazılımlar tarafından tehlikeye atılan 1 lakh’tan fazla hesap, en çok Kızılderililer etkilendi
ChatGPT’nin başı belada: OpenAI, herhangi birinin internette yazdığı her şeyi çaldığı için dava edildi
Bir blog gönderisinde, ChatGPT’nin yaratıcıları, süper zekanın şimdiye kadar icat edilmiş en çığır açan teknoloji olacağını ve kritik küresel sorunları çözmeye yardımcı olma potansiyeline sahip olduğunu vurguluyor. Ancak, bu tür teknolojilerin geliştirilmesinin yeni yönetişim kurumlarının kurulmasını ve süper zekayı insani değerlerle uyumlu hale getirme zorluğunun ele alınmasını gerektirdiği konusunda uyarıyorlar.
OpenAI, bu riskleri azaltmak için önümüzdeki dört yıl boyunca bilgi işlem kaynaklarının yüzde 20’sini süper zekayı hizalama sorununu ele almaya ayırdı. Şirket, “Temel araştırmadaki birincil odak noktamız, yeni süper hizalama ekibimizdir, ancak bu alanda başarı sağlamak, misyonumuzu yerine getirmek için çok önemlidir ve yeni metodolojiler geliştirmekten büyük ölçekli uygulamalarına kadar çeşitli ekiplerin katkılarını bekliyoruz.” ”
AI, AI kullanılarak modüle edilemez ve düzenlenemez
OpenAI, insan geri bildirimlerini kullanarak modellerini eğitmeyi planlıyor ve aktif olarak insan araştırmacıları işe alıyor. İlgilenen adaylar, OpenAI’nin resmi web sitesi aracılığıyla pozisyonlara başvurabilirler.
OpenAI, süper zekanın hizalanmasıyla ilgili önlemler alırken, şirket sürekli olarak ChatGPT gibi büyük dil modellerine dayalı teknolojilerle ilgili endişelerini dile getirdi. OpenAI’nin CEO’su Sam Altman, Hindistan’a yaptığı son ziyaret de dahil olmak üzere sık sık AI’nın tehlikeleri konusunda uyardı.
Yapay zeka teknolojilerinin göz ardı edilmemesi ve insanların bunlardan faydalanması gerektiğine inanıyor. Altman ayrıca AI risklerini azaltmak için katı hükümet düzenlemelerini savundu.
Önemli bir gelişme olarak, BM Güvenlik Konseyi yapay zekanın oluşturduğu potansiyel tehditleri ele almak için bu ayki ilk toplantısını planladı. BM Genel Sekreteri Antonio Guterres, yapay zekanın güçlü araçlarının Küresel Hedeflere ulaşılmasına katkıda bulunabileceğini kabul ederek, herkesin yararına olacak şekilde yapay zekanın geliştirilmesini ve konuşlandırılmasını yöneten temel düzenlemeler üzerinde fikir birliğine varılması gerektiğini vurguladı.
Bu yılın başlarında, Tesla CEO’su Elon Musk ve Apple’ın kurucu ortağı Steve Wozniak gibi önemli kişiler de uygun düzenlemeler yapılana kadar yapay zeka gelişimine ara verilmesi çağrısında bulundu.