Yapay zekanın (AI) en büyük oyuncularından dördü Anthropic, Google, Microsoft ve OpenAI, otonom AI düzenleme projeleriyle ilerliyor. Az önce müdürü atadılar…
Yapay zekanın (AI) en büyük oyuncularından dördü Anthropic, Google, Microsoft ve OpenAI, otonom AI düzenleme projeleriyle ilerliyor. Bu yaz kurdukları Frontier Model Forum’un direktörlüğünü yeni atadılar.
Frontier Model Forum direktörünü elinde tutuyor
Bu şirketler arasındaki ittifak, “ eksikliği » Yapay zekanın küresel düzenlemesinde “ Son teknoloji yapay zeka modelleri », çok gelişmiş yeteneklerle donatılmıştır. Dünyanın dört bir yanındaki hükümetler, bir yıl önce ChatGPT tarafından demokratikleştirilen teknolojinin kullanımını düzenlemek istiyorsa, bu düzenlemeler henüz gün ışığına çıkmadı.
AB’nin özellikle katı olmayı vaat eden yapay zeka yasasının gelecek yılın başında sonuçlanması beklenirken, ABD şirketlerden teknolojiyi güvence altına almalarını istedi. Bununla birlikte, endüstrinin birçok oyuncusu yapay zekanın potansiyel tehlikeleri, özellikle de istihdam üzerindeki etkisi veya yanlış bilgilerin yayılması konusunda uyarıda bulundu. Uzun vadede bazıları bunun insan zekasını aştığını görmekten endişe ediyor.
Frontier Model Forum üyeleri kısa süre önce Chris Meserole’yi direktör olarak atadı. Kendisi son olarak Washington merkezli bir düşünce kuruluşu olan Brookings Enstitüsü’nde Yapay Zeka ve Gelişen Teknolojiler Girişimi’nin direktörlüğünü yaptı. “ Muhtemelen hâlâ gerçek düzenlemeden uzağız. Bu arada bu sistemlerin mümkün olduğunca güvenli bir şekilde inşa edildiğinden emin olmak istiyoruz. ” diye işaret etti. Forum ayrıca kuruluşunu da duyurdu: “ Önümüzdeki aylarda » bir danışma konseyinin.
Araştırma için bir fon
Forum, sektör üyeleri tarafından üyelik aidatları aracılığıyla finanse edilen, kar amacı gütmeyen bir girişim gibi işleyecek. Kuruluş ayrıca yapay zeka güvenlik fonuna 10 milyon dolar ayıracak. Projeye katılan şirketlerin mevcut laboratuvarlarından ve ekiplerinden araştırma tekniklerine kadar yararlanacak: kırmızı takım ”, araştırmacıların sistemleri kusur veya tehlikelere karşı test etmek ve risk değerlendirmesi için standartlar geliştirmek için kullandıkları yöntem.
Duyurular, önümüzdeki hafta Birleşik Krallık’ta ilk Yapay Zeka Güvenlik Zirvesi’nin gerçekleştirileceği sırada geldi. Siyasi liderler ve üst düzey teknoloji yöneticileri, ulusal güvenlik gibi konularda küresel işbirliğini tartışacak.