OpenAI ve Google DeepMind, yapay zeka (AI) sistemleri ve yetenekleri geliştirmede ön saflarda yer alan en iyi teknoloji şirketleri arasında yer alıyor. Ancak bu kuruluşların bazı mevcut ve eski çalışanları, bu sistemlerin oluşturulmasında çok az gözetim olduğunu veya hiç gözetim yapılmadığını ve bu teknolojinin ortaya çıkardığı büyük risklere yeterince dikkat edilmediğini iddia eden açık bir mektup imzaladı. Açık mektup, yapay zekanın üç ‘vaftiz babasından’ ikisi, Geoffrey Hinton ve Yoshua Bengio tarafından onaylanıyor ve işverenlerinden ihbarcıları daha iyi koruma politikaları talep ediyor.
OpenAI ve Google DeepMind Çalışanları Yapay Zeka Konusunda Uyarma Hakkı Talep Ediyor
açık mektup AI’nın insanlığa benzeri görülmemiş faydalar sağlama potansiyeline inanan büyük AI şirketlerinin mevcut ve eski çalışanları tarafından yazıldığını belirtiyor. Ayrıca, toplumsal eşitsizliklerin güçlendirilmesi, yanlış bilgi ve manipülasyonun yayılması ve hatta yapay zeka sistemleri üzerindeki kontrolün kaybedilmesi gibi, insanlığın yok olmasına yol açabilecek teknolojinin getirdiği risklere de işaret ediyor.
Açık mektupta, bu teknoloji devlerinin uyguladığı özyönetim yapısının bu risklerin incelenmesini sağlamada etkisiz olduğu vurgulanıyor. Ayrıca “güçlü mali teşviklerin” şirketleri yapay zeka sistemlerinin neden olabileceği potansiyel tehlikeyi gözden kaçırmaya teşvik ettiğini de iddia etti.
Yapay zeka şirketlerinin zaten yapay zekanın yeteneklerinin, sınırlamalarının ve farklı türden zararlara ilişkin risk seviyelerinin farkında olduklarını iddia eden açık mektup, şirketlerin düzeltici önlemler alma niyetlerini sorguluyor. “Şu anda bu bilgilerin bir kısmını hükümetlerle paylaşma konusunda zayıf yükümlülükleri var, sivil toplumla ise hiçbirini paylaşmıyorlar. Gönüllü olarak paylaşma konusunda hepsinin güvenilebileceğini düşünmüyoruz” diyor.
Açık mektupta işverenlerden dört talepte bulunuldu. Birincisi, çalışanlar şirketlerin riskle ilgili endişeler nedeniyle eleştirilerini yasaklayan herhangi bir anlaşmaya girmemesini veya uygulamamasını istiyor. İkinci olarak, mevcut ve eski çalışanların riskle ilgili kaygılarını şirketin yönetim kuruluna, düzenleyici makamlara ve uygun bağımsız bir kuruluşa iletmeleri için doğrulanabilir şekilde isimsiz bir süreç talep edildi.
Çalışanlar ayrıca kuruluşları açık eleştiri kültürü geliştirmeye çağırıyor. Son olarak açık mektup, işverenlerin, diğer süreçler başarısız olduktan sonra riskle ilgili gizli bilgileri kamuya açık olarak paylaşan mevcut ve eski çalışanlara karşı misilleme yapmaması gerektiğini vurguluyor.
Mektubu, OpenAI ve Google DeepMind’in toplam 13 eski ve mevcut çalışanı imzaladı. Yapay zekanın iki ‘vaftiz babası’nın yanı sıra, İngiliz bilgisayar bilimcisi Stuart Russell da bu hareketi onayladı.
Eski OpenAI Çalışanı Yapay Zeka Riskleri Hakkında Konuşuyor
Açık mektubu imzalayan eski OpenAI çalışanlarından Daniel Kokotajlo da bir dizi açıklama yaptı. gönderiler X’te (eski adıyla Twitter olarak biliniyordu) şirketteki deneyimini ve yapay zekanın risklerini vurguladı. Şirketten istifa ettiğinde, şirketi eleştiren herhangi bir şey söylemesini engellemek için kendisinden aşağılayıcı bir madde imzalamasının istendiğini iddia etti. Ayrıca şirketin, anlaşmayı imzalamayı reddettiği için Kokotajlo’yu kazanılmış sermayesini elinden almakla tehdit ettiğini de iddia etti.
Kokotajlo, yapay zeka sistemlerinin sinir ağlarının, kendilerine beslenen büyük veri kümeleri nedeniyle hızla büyüdüğünü iddia etti. Ayrıca riskleri izlemek için yeterli önlemlerin bulunmadığını da sözlerine ekledi.
“Bu sistemlerin nasıl çalıştığı ve akıllılaştıkça ve muhtemelen tüm alanlarda insan düzeyindeki zekayı aştıkça insan çıkarlarıyla uyumlu kalıp kalmayacakları konusunda anlamadığımız çok şey var” diye ekledi.
Özellikle OpenAI, şirkete etik yapay zeka teknolojisi oluşturma konusunda daha iyi rehberlik etmeyi amaçlayan bir belge olan Model Spec’i oluşturuyor. Yakın zamanda bir Emniyet ve Güvenlik Komitesi de oluşturdu. Kokotajlo, bir gönderisinde bu sözleri alkışladı.
