En zeki insanlardan daha akıllı olan süper zeki bir yapay zeka kötü niyetli olursa ne olur? Yeni bir OpenAI ekibi asla öğrenemeyeceğimizden emin olmak istiyor.
Bu hafta yapılan bir duyuruda OpenAI, “AI sistemlerini bizden çok daha akıllı bir şekilde yönetmek ve kontrol etmek” için bir ekip oluşturduğunu söyledi.
OpenAI, önümüzdeki on yılda ortaya çıkabilecek süper zekanın şimdiye kadar yaratılmış en önemli teknoloji olacağını ve dünyanın en önemli sorunlarını çözmeye yardımcı olabileceğini iddia etmeye devam ediyor. Ama aynı zamanda oldukça sert bir uyarı da veriyor: “Ayrıca çok tehlikeli olabilir ve insanlığın güçsüzleşmesine, hatta yok olmasına yol açabilir.”
İnsanlar daha akıllı oldukları için yapay zekayı kontrol edebilirler.
Halihazırda şirket, insanların daha akıllı oldukları için yapay zekayı kontrol edebildiğini söylüyor. Peki yapay zeka insanları ele geçirdiğinde ne olacak?
Araştırma laboratuvarının mevcut bilimsel direktörü tarafından yönetilen yeni ekibin devreye girdiği yer burasıdır. Ekip, mevcut bilgi işlem gücünün %20’si ile birlikte OpenAI’nin en iyi araştırmacıları ve mühendislerinden oluşacak.
Nihai hedef, belirlenmiş bir hedefe ulaşan ve belirlenmiş parametrelerden sapmayan bir AI sistemi oluşturmaktır. Ekip bunu üç adımda gerçekleştirmeyi planlıyor:
- Yapay zekanın diğer yapay zekaları insan etkileşimi olmadan nasıl analiz ettiğini anlayın.
- Sorunlu alanları veya istismarları bulmak için yapay zekayı kullanın.
- AI’nın kasıtlı olarak yanlış bir şekilde eğitilen kısmının bunun tespit edilip edilmediğini görmek.
İnsanlar, süper akıllı yapay zekayı kontrol altında tutmak için yapay zekayı eğitmek için yapay zekayı kullanıyor
Kısacası, OpenAI’den bir grup insan, süper zeki yapay zekayı kontrol altında tutmak için yapay zekayı eğitmeye yardımcı olmak için yapay zekayı kullanıyor.
Ve bunu dört yılda başarabileceklerini düşünüyorlar.
Bunun yüce bir hedef olduğunu ve başarının garanti olmadığını kabul ediyorlar ama kendilerine güveniyorlar.
Kaynak : “ZDNet.com”
