Meta CEO’su Mark Zuckerberg, kabaca bir insanın yapabileceği herhangi bir görevi yerine getirebilen AI olarak tanımlanan yapay genel zeka (AGI) yapma sözü verdi. Ama bir Yeni Politika BelgesiMeta, dahili olarak geliştirdiği yüksek yetenekli bir AI sistemini serbest bırakamayacağı bazı senaryolar olduğunu ileri sürmektedir.
Meta’nın Frontier AI çerçevesini çağırdığı belge, şirketin serbest bırakılamayacak kadar riskli olduğunu düşündüğü iki tür AI sistemini tanımlamaktadır: “yüksek risk” ve “kritik risk” sistemleri.
Meta bunları tanımladığı gibi, hem “yüksek riskli” hem de “kritik risk” sistemleri siber güvenlik, kimyasal ve biyolojik ataklarda yardımcı olabilir, fark “kritik risk” sistemlerinin “katastrofik sonuçlarla sonuçlanabilmesidir. [that] hafifletilemez [a] önerilen dağıtım bağlamı. ” Yüksek riskli sistemler, aksine, bir saldırının gerçekleştirilmesini kolaylaştırabilir, ancak kritik bir risk sistemi kadar güvenilir veya güvenilir bir şekilde olmayabilir.
Burada ne tür saldırılardan bahsediyoruz? Meta, “en iyi uygulama korumalı kurumsal ölçekli bir ortamın otomatik uçtan uca uzlaşması” ve “yüksek etkili biyolojik silahların çoğalması” gibi birkaç örnek verir. Şirket, Meta’nın belgesindeki olası felaketlerin listesi kapsamlı olmaktan uzaktır, ancak Meta’nın güçlü bir AI sistemini serbest bırakmanın doğrudan bir sonucu olarak ortaya çıkması için “en acil” olduğuna ve makul olduğuna inananları içerir.
Biraz şaşırtıcı olan, belgeye göre Meta, sistem riskini herhangi bir ampirik teste dayanarak değil, “üst düzey karar vericiler” tarafından incelemeye tabi olan iç ve dış araştırmacıların girdisiyle bilgilendirmesidir. Neden? Meta, değerlendirme biliminin bir sistemin riskine karar vermek için “kesin nicel metrikler sağlamak için yeterince sağlam” olduğuna inanmadığını söylüyor.
Meta bir sistemin yüksek riskli olduğunu belirlerse, şirket sisteme erişimi dahili olarak sınırlayacağını ve “riski ılımlı seviyelere indirgemek” için hafifletmeler uygulayana kadar serbest bırakmayacağını söylüyor. Öte yandan, bir sistem kritik risk olarak kabul edilirse, Meta, sistemin saptırılmasını önlemek için belirtilmemiş güvenlik korumaları uygulayacağını ve sistemin daha az tehlikeli hale getirilinceye kadar gelişimi durduracağını söylüyor.
Şirketin değişen AI manzarasıyla gelişeceğini ve hangi meta Daha önce yayınlamaya kararlı Bu ay Fransa AI eylem zirvesi öncesinde, şirketin sistem gelişimine yönelik “açık” yaklaşımının eleştirisine bir yanıt gibi görünüyor. Meta, AI teknolojisini, yaygın olarak anlaşılan tanım tarafından açık kaynak olmasa da, Openai gibi sistemlerini bir API’nın arkasına geçmeyi tercih eden şirketlerin aksine, açık bir şekilde kullanılabilir hale getirme stratejisini benimsedi.
Meta için, açık serbest bırakma yaklaşımının bir nimet ve bir lanet olduğu kanıtlanmıştır. Şirketin Lama adı verilen AI modelleri ailesi, yüz milyonlarca indirme yaptı. Ancak Lama’nın en az bir ABD düşmanı tarafından bir savunma sohbet botu geliştirmek için de kullanıldığı bildiriliyor.
Frontier AI çerçevesini yayınlarken Meta, açık AI stratejisini Çinli AI firması Deepseek’s ile karşılaştırmayı hedefliyor olabilir. Deepseek ayrıca sistemlerini açıkça kullanılabilir hale getirir. Ancak şirketin yapay zekasının çok az güvenliği vardır ve kolayca yönlendirilebilir toksik ve zararlı çıktılar üretin.
“[W]e Gelişmiş AI’nın nasıl geliştirileceği ve dağıtılacağı konusunda kararlar vermede hem faydaları hem de riskleri göz önünde bulundurarak, ”diye yazıyor Meta,“ Bu teknolojiyi topluma bu teknolojinin faydalarını koruyacak şekilde sunmak mümkündür aynı zamanda uygun bir risk seviyesini korurken. ”
TechCrunch AI odaklı bir bülten var! Her Çarşamba günü gelen kutunuza almak için buraya kaydolun.
