İki şirketin eski ve mevcut çalışanları, açık bir mektupta ihbarcıların daha iyi korunmasını talep ediyor. Şu anda çalışanların yapay zekalara ilişkin riskle ilgili dahili bilgileri kamuoyuyla paylaşmalarının hiçbir yolu yok. Ancak tehlikeler gerçektir.
Yapay zeka şirketlerinin çalışanları endişeli
Mart ayında, Microsoft’taki bir yazılım mühendisi şirket içi yapay zeka asistanı Copilot hakkındaki endişelerini zaten dile getirmiş ve programı “tehlikeli ve rahatsız edici” olarak tanımlamıştı. Artık OpenAI ve Google DeepMind çalışanları da birleşiyor açık mektup kamuoyuna. Ayrıca yapay zekanın tehlikeleri konusunda da uyarıyorlar.
Mektuba göre mevcut gelişmeler, mevcut eşitsizliklerin, manipülasyonun ve yanlış bilginin daha da derinleşmesi ve ayrıca otonom yapay zeka sistemleri üzerindeki kontrolün kaybedilmesi riski taşıyor ve bu da mektuba göre insanlığın yok olmasına yol açabilir.
Yazarlar ihbarcılar için daha iyi koruma çağrısında bulunuyor
Yapay zeka şirketlerinin kamu kurumları tarafından denetlenmesini önlemek için “güçlü mali teşvikleri” var. Şöyle devam ediyor:
“Bu şirketler üzerinde etkili bir hükümet denetimi olmadığı sürece, mevcut ve eski çalışanlar onları kamuya karşı sorumlu tutabilecek az sayıda kişi arasında olacaktır. Ancak kapsamlı gizlilik anlaşmaları, endişelerimizi dile getirmemizi engelliyor” İhbarcılara yönelik alışılagelmiş korumalar yetersiz kalıyor çünkü onlar yasa dışı faaliyetlere odaklanıyor ve endişe duyduğumuz risklerin çoğu düzenlenmemiş durumda.”
Bu nedenle yazarlar, ihbarcılar için daha iyi koruma çağrısında bulunurken, aynı zamanda böyle bir olayın ilk etapta yaşanmaması için şirket içi süreçlere yönelik önerilerde de bulunuyor. Yedi eski OpenAI çalışanının yanı sıra şu anda orada çalışan dört kişi de mektubu imzaladı. Mektupta Google DeepMind’in eski ve mevcut bir çalışanı da yer alıyor.
Uzmanların uyarıları artıyor
Son zamanlarda yapay zeka şirketlerinin çalışanları veya yapay zeka araştırmaları alanındaki uzmanlar tekrar tekrar konuşuyor ve olası yıkıcı sonuçlara karşı uyarılarda bulunuyor. Sadece birkaç hafta önce sahadaki birkaç lider şunu paylaştı: endişelerinizi paylaşın. Ayrıca, teknolojinin mevcut gelişimi ve kullanımında güvenliğe daha fazla önem verilmemesi halinde, yapay zeka nedeniyle insanlığın yok olacağı konusunda da uyarıda bulundular.
Özet
- OpenAI ve Google DeepMind çalışanları açık bir mektupta yapay zekaya karşı uyarıyor
- Riskler: Mevcut eşitsizliklerin derinleşmesi, manipülasyon ve yanlış bilgi
- Otonom Yapay Zeka Sistemleri Üzerindeki Kontrolün Kaybı Yok Olmaya Neden Olabilir
- Yapay zeka şirketlerinin koruyucu önlemleri ihmal etmeleri için mali teşvikleri var
- Gizlilik anlaşmaları çalışanların endişelerini dile getirmelerini engeller
- Yapay zeka sektöründeki ihbarcılar için daha iyi koruma çağrısı
- Diğer uzmanlar da güvenlik hususlarının ihmal edilmesi durumunda yıkıcı sonuçlara yol açabileceği konusunda uyarıda bulunuyor
