Kaliforniya’nın talihsiz SB 1047 AI güvenlik mevzuatının ortak sponsorluğunu üstlenen kar amacı gütmeyen kuruluş Encode, Elon Musk’un OpenAI’nin kar amaçlı bir şirkete geçişini durdurma emrini destekleyen bir dost brifingi sunmak için izin istedi.
bir önerilen özet Cuma öğleden sonra ABD Kuzey Kaliforniya Bölgesi Bölge Mahkemesine sunulan Encode avukatı, OpenAI’nin kâr amacı güden bir kuruluşa dönüştürülmesinin firmanın “dönüştürücü teknolojiyi güvenli ve faydalı bir şekilde geliştirme ve dağıtma” misyonunu “zayıflayacağını” söyledi. kamuoyuna.”
Özette “OpenAI ve CEO’su Sam Altman, toplumu dönüştüren teknoloji geliştirdiğini iddia ediyor ve bu iddialar ciddiye alınmalıdır” denildi. “Eğer dünya gerçekten yeni bir yapay genel zeka (AGI) çağının eşiğindeyse, o zaman halkın, bu teknolojinin bir kuruluştan ziyade yasal olarak güvenliğe ve kamu yararına öncelik veren bir kamu hayır kurumu tarafından kontrol edilmesinde derin bir çıkarı vardır.” birkaç ayrıcalıklı yatırımcıya finansal getiri sağlamaya odaklandı.”
Encode’un kurucusu ve başkanı Sneha Revanur yaptığı açıklamada OpenAI’yi “kârı içselleştirmekle” suçladı [of AI] ancak sonuçlarını tüm insanlığa dışsallaştırıyor” dedi ve şunları söyledi: “
Encode’un özeti, yapay zeka alanında öncü ve 2024 Nobel Ödülü sahibi Geoffrey Hinton ile UC Berkeley bilgisayar bilimleri profesörü ve İnsan Uyumlu Yapay Zeka Merkezi’nin yöneticisi Stuart Russell’ın desteğini aldı.
Hinton, “OpenAI açıkça güvenlik odaklı kar amacı gütmeyen bir kuruluş olarak kuruldu ve tüzüğünde güvenlikle ilgili çeşitli vaatlerde bulundu” dedi. basın bülteni. “Kar amacı gütmeyen statüsünden dolayı çok sayıda vergi ve diğer avantajlar elde etti. Uygunsuz hale geldiğinde bunların hepsini parçalamasına izin vermek, ekosistemdeki diğer aktörlere çok kötü bir mesaj gönderir.
OpenAI, 2015 yılında kar amacı gütmeyen bir araştırma laboratuvarı olarak kuruldu. Ancak deneyleri giderek sermaye yoğun hale geldikçe, risk sermayedarlarından ve Microsoft dahil şirketlerden dış yatırımlar alarak mevcut yapısını oluşturdu.
Bugün, OpenAI hibrit bir yapıya sahip: yatırımcılar ve çalışanlar için “sınırlı kar” payına sahip, kar amacı gütmeyen bir kuruluş tarafından kontrol edilen kar amacı gütmeyen bir taraf. Ancak bu sabah yayınlanan bir blog yazısında şirket, mevcut kâr amacı güden kuruluşunu, adi hisse senetleri ve OpenAI misyonu kamu yararı menfaati olarak.
OpenAI’nin kar amacı gütmeyen kuruluşu kalacak ancak PBC’deki hisseler karşılığında kontrolü bırakacak.
Kâr amacı gütmeyen kuruluşa erken katkıda bulunanlardan biri olan Musk, uzun süredir üzerinde çalışılan önerilen değişikliğin durdurulması için ihtiyati tedbir talebiyle Kasım ayında dava açtı. OpenAI’yi, yapay zeka araştırmalarının meyvelerini herkesin kullanımına sunma yönündeki orijinal hayırseverlik misyonunu terk etmekle ve rakiplerini (yapay zeka girişimi xAI dahil) rekabete aykırı yollarla sermayeden mahrum bırakmakla suçladı.
OpenAI, Musk’ın şikayetlerini “temelsiz” ve sadece bir ekşi üzüm vakası olarak nitelendirdi.
Facebook’un ana şirketi ve yapay zeka rakibi Meta da OpenAI’nin dönüşümünü engelleme çabalarını destekliyor. Aralık ayında Meta, Kaliforniya başsavcısı Rob Bonta’ya, geçişe izin verilmesinin “Silikon Vadisi için sismik etkileri” olacağını savunan bir mektup gönderdi.
Encode avukatları, OpenAI’nin operasyonlarının kontrolünü bir PBC’ye devretme planlarının, “gelişmiş yapay zekanın güvenliğini sağlamak için yasayla bağlı bir kuruluşu, herhangi bir kamu yararını ‘maddi çıkar’ karşısında ‘dengelemek’ için yasayla bağlı bir kuruluşa dönüştüreceğini” söyledi. çıkarları [its] hissedarlar.’”
Encode’un danışmanı, özette, örneğin OpenAI’nin kâr amacı gütmeyen kuruluşunun, AGI oluşturmaya yaklaşan “değer odaklı, güvenlik bilincine sahip projelerle” rekabeti bundan önce durdurmayı taahhüt ettiğini, ancak OpenAI’nin kâr amacı gütmeyen bir kuruluş olarak bunu yapacağını belirtiyor. bunu yapmak için (varsa) daha az teşvik. Özette ayrıca, kâr amacı gütmeyen OpenAI yönetim kurulunun, şirketin yeniden yapılanması tamamlandıktan sonra güvenlik nedeniyle ihtiyaç duyulması halinde yatırımcıların özsermayesini artık iptal edemeyeceğine dikkat çekiliyor.
OpenAI, kısmen şirketin güvenlik pahasına ticari ürünlere öncelik verdiğine dair endişeler nedeniyle üst düzey yeteneklerin dışarı akışı yaşamaya devam ediyor. Eski bir çalışan olan ve uzun süredir politika araştırmacısı olan Miles Brundage, Ekim ayında OpenAI’den ayrıldığını söyledi. bir dizi gönderi X hakkında, OpenAI’nin kar amacı gütmeyen kuruluşunun, PBC’ye potansiyel olarak sorunlu alanlara değinmeden “normal bir şirket” olarak faaliyet göstermesi lisansını veren bir “yan şey” haline gelmesinden endişe duyduğunu söyledi.
Encode’un brifingi şu şekilde devam etti: “Delaware kanunları PBC yöneticilerinin halka karşı hiçbir görevi olmadığını açıkça ortaya koyduğundan, OpenAI’nin insanlığa karşı çığırtkanlık görevi buharlaşacaktır.” “Güvenlik odaklı, misyonu kısıtlı, kâr amacı gütmeyen bir kuruluşun, bu kadar dönüştürücü bir şeyin kontrolünü, ne pahasına olursa olsun, güvenlikle ilgili uygulanabilir bir taahhüdü olmayan kâr amaçlı bir kuruluşa bırakması, kamu çıkarına zarar verecektir.”
Temmuz 2020’de Revanur tarafından kurulan Encode, kendisini yapay zekanın etkileri hakkındaki konuşmalarda genç nesillerin seslerinin duyulmasını sağlamaya odaklanan bir gönüllüler ağı olarak tanımlıyor. Encode, SB 1047’ye ek olarak, Beyaz Saray’ın Yapay Zeka Haklar Bildirgesi ve Başkan Joe Biden’ın yapay zeka hakkındaki idari emri de dahil olmak üzere, yapay zeka eyalet ve federal mevzuatının çeşitli bölümlerine katkıda bulundu.
30 Aralık 10:10 Pasifik’te Revanur ve Hinton’un açıklamalarıyla güncellendi.
TechCrunch’ın yapay zeka odaklı bir haber bülteni var! Buradan kaydolun Her Çarşamba gelen kutunuza almak için.
