Ne bilmek istiyorsun
- Mevcut ve eski OpenAI çalışanları, AI risklerini azaltmanın yollarını ele alan ve sunan açık bir mektubu (Yapay Zekanın Babaları tarafından onaylanan) imzaladı.
- Tedbirlerden bazıları, AI firmalarının riskle ilgili kaygılar nedeniyle şirketin eleştirisini kısıtlayan gizlilik anlaşmalarını uygulamalarının yasaklanmasını içeriyor.
- Bu, OpenAI’nin, ayrılan çalışanları NDA’ları imzalamaya zorladığı veya kazanılmış özsermayelerini kaybetme riskiyle karşı karşıya kaldığı bildirildiği için görevden alınmasının ardından gerçekleşti.
Mayıs ayında, aralarında süper hizalama lideri Jan Leike’nin de bulunduğu bir avuç OpenAI çalışanı, şirketin Bahar Güncellemesi etkinliğinde ‘sihirli’ yeni amiral gemisi GPT-4o modelini tanıtmasının ardından şirketten ayrıldı.
Üst düzey yönetici, ayrılışına güvenlik, izleme ve parlak ürünlere öncelik verme konusundaki sürekli anlaşmazlıklardan kaynaklandığını belirtti. Sonuç olarak, eski OpenAI yönetim kurulu üyelerinin CEO Sam Altman’ın da dahil olduğu psikolojik taciz olaylarını bildirmesiyle bu, yeni girişim için bir solucan kutusu açtı.
Üretken yapay zekayla ilgili büyük endişeler var; bunlar arasında, insanlığın sonunun yaklaşması, manzaradaki ilerici ilerlemeler ve yapay zekanın işlerimizi devraldığı ve çalışmayı hobilere dönüştürdüğüne dair raporlar yer alıyor. OpenAI, Anthropic ve DeepMind dahil olmak üzere önde gelen yapay zeka şirketlerinin mevcut ve eski çalışanları, teknoloji merkezli bazı riskleri ele alan bir mektup kaleme aldılar (üzerinden) İşletme İçeriği).
Mektup, insanlık için yakın tehlike oluşturabilecek konularda ihbarda bulunanların korunmasını amaçlıyor:
“Biz öncü yapay zeka şirketlerinin mevcut ve eski çalışanlarıyız ve yapay zeka teknolojisinin insanlığa benzeri görülmemiş faydalar sağlama potansiyeline inanıyoruz. Ayrıca bu teknolojilerin oluşturduğu ciddi riskleri de anlıyoruz. Bu riskler, mevcut eşitsizliklerin daha da derinleşmesi, manipülasyona ve yanlış bilgilendirmeye, otonom yapay zeka sistemlerinin kontrolünün kaybedilmesine ve potansiyel olarak insanlığın yok olmasına neden olabilir. Dünya çapındaki hükümetler ve diğer yapay zeka uzmanları gibi yapay zeka şirketleri de bu riskleri kabul etti.”
Mektup, önde gelen yapay zeka şirketlerinden 13 çalışan tarafından imzalandı ve kendilerini “Yapay Zekanın Babaları” ilan eden Yoshua Bengio ve Geoffrey Hinton tarafından onaylandı. Eski bir OpenAI çalışanı olan Daniel Kokotajlo, şirketin değerlerinden, özellikle de yapay zekanın ilerlemesine yönelik sorumluluklarından umudunu kaybettiği için şirketten ayrıldığını belirtti:
“Onlar ve diğerleri ‘hızlı hareket et ve işleri kır’ yaklaşımını benimsediler ve bu, bu kadar güçlü ve bu kadar az anlaşılan bir teknoloji için gerekenin tam tersi.”
Yapay zeka savunucuları, teknolojideki bazı sorunları ve riskleri potansiyel olarak ele alabilecek dört temel talebin altını çiziyor:
- Şirketin, riskle ilgili endişeler nedeniyle şirketin “aşağılanmasını” veya eleştirilmesini yasaklayan herhangi bir anlaşma yapmayacağını veya uygulamayacağını veya herhangi bir kazanılmış ekonomik faydayı engelleyerek riskle ilgili eleştirilere misilleme yapmayacağını;
- Şirketin, mevcut ve eski çalışanların riskle ilgili kaygılarını şirketin yönetim kuruluna, düzenleyici makamlara ve ilgili uzmanlığa sahip uygun bağımsız bir kuruluşa iletmeleri için doğrulanabilir bir şekilde isimsiz bir süreci kolaylaştıracağı;
- Şirketin açık eleştiri kültürünü desteklemesi ve mevcut ve eski çalışanlarının, teknolojileriyle ilgili riskle ilgili endişelerini kamuya, şirketin yönetim kuruluna, düzenleyicilere veya ilgili uzmanlığa sahip uygun bağımsız bir kuruluşa iletmelerine izin vermesi şartıyla ticari sırlar ve diğer fikri mülkiyet hakları uygun şekilde korunduğundan;
- Şirketin, diğer süreçler başarısız olduktan sonra riskle ilgili gizli bilgileri kamuya açık olarak paylaşan mevcut ve eski çalışanlara karşı misilleme yapmaması. Riskle ilgili endişeleri bildirmeye yönelik her türlü çabanın, gizli bilgilerin gereksiz yere açıklanmasından kaçınması gerektiğini kabul ediyoruz. Bu nedenle, kaygıların şirketin yönetim kuruluna, düzenleyici kurumlara ve ilgili uzmanlığa sahip uygun bağımsız bir kuruluşa isimsiz olarak iletilmesine yönelik yeterli bir süreç mevcut olduğunda, endişelerin başlangıçta böyle bir süreç aracılığıyla dile getirilmesi gerektiğini kabul ediyoruz. Ancak böyle bir süreç olmadığı sürece mevcut ve eski çalışanlar endişelerini kamuya bildirme özgürlüklerini korumalıdır.
Bu, OpenAI’nin, ayrılan çalışanları NDA’ları imzalamaya zorladığı, şirketi eleştirmelerini veya kazanılmış özsermayelerini kaybetme riskiyle karşı karşıya kalmalarını engellediği bildirildi. OpenAI CEO’su Sam Altman, durumdan utandığını itiraf etti ancak şirketin hiçbir zaman kimsenin kazanılmış özsermayesini geri almadığını belirtti.
Business Insider’a konuşan bir OpenAI sözcüsü, teknoloji etrafındaki tartışmanın önemli olduğunu ve önemli noktaları gündeme getirdiğini belirtti. Bu nedenle OpenAI, bu risklere yönelik bilimsel yaklaşımını desteklemek amacıyla “en yetenekli ve en güvenli yapay zeka sistemlerini sağlamaya” devam etmesini sağlamak için ilgili kuruluşlarla yakın işbirliği içinde çalışacak.
