Cisco’nun son “Yapay Zeka Savunması” duyurusu güvenlik ve mahremiyet, yapay zekanın ilerleyişini zorlaştıran en büyük zorluklar arasında yer alırken; Teknolojinin insanlığı sona erdirme potansiyeli, düzenleyiciler ve hükümet de dahil olmak üzere herkes için büyük bir endişe kaynağı olmaya devam ediyor. Bu amaçla, üretken yapay zekanın araştırılmasına ilişkin düzenleme ve politikalar en iyi ihtimalle zayıf kaldı ve bu da yapay zekanın raydan çıkma şansını son derece yüksek hale getirdi.
Yapay zeka güvenlik araştırmacısı ve Louisville Üniversitesi Siber Güvenlik Laboratuvarı yöneticisi Roman Yampolskiy, p(doom)’a göre yapay zekanın insanlığı sona erdirme olasılığının %99,999999 olduğunu ve bunu aşmanın tek yolunun yapay zekayı inşa etmemek olduğunu belirtti. ilk yer. İlginçtir ki tünelin sonunda bir ışık görünüyor.
Bağlamda AI Defense, yapay zeka destekli uygulamaların geliştirilmesini ve kullanımını korumak için tasarlanmış, kuruluşların yapay zekayı güvenli bir şekilde geliştirmesine olanak tanıyan gelişmiş bir güvenlik çözümüdür.
bir The Rundown AI’dan Rowan Cheung ile özel röportajCisco Genel Müdür Yardımcısı ve Baş Ürün Sorumlusu Jeetu Patel, yapay zekanın hızlı ilerlemesini ve güvenlik ve koruma kaygılarını tartışarak AI Defense’in piyasaya sürülmesini sağladı:
“Gerçek şu ki gelecekte iki tür şirket olacak: Yapay zeka konusunda lider olanlar ve ilgisiz olanlar. Her şirket – geliştirmiyorsa da – binlerce yapay zeka uygulamasını ve hızlı yapay zeka inovasyonunu kullanacak önemli güvenlik ve koruma endişelerini geride bırakıyor.
AI uygulamalarının hem geliştirilmesini hem de kullanımını korumak için AI Defense’i geliştirdik. Genel olarak AI Defense, AI araçlarının kötüye kullanılmasına, veri sızıntısına ve giderek karmaşıklaşan tehditlere karşı koruma sağlar. Mevcut güvenlik çözümlerinin üstesinden gelemeyeceği zorluklara çözüm bulmak için radikal bir yaklaşım benimsiyoruz.”
AI Defense, teknolojinin varoluşsal tehditlerine tartışmasız en yakın güvenlik çözümüdür. Belki daha endişe verici, Cisco’nun 2024 Yapay Zeka Hazırlık raporu “Ankete katılanların yalnızca %29’u yapay zekaya yetkisiz müdahaleyi tespit etmek ve önlemek için tam donanımlı hissettiğini” belirtiyor.
Bu, yapay zeka ortamının nispeten yeni ve karmaşık olmasına bağlanabilir. Ek olarak, AI uygulamaları çok modelli ve çoklu buluttur; bu da onları model veya uygulama düzeyinde dağıtılabildiklerinden güvenlik saldırılarına karşı daha duyarlı hale getirir.
Devamını oku: İşte AGI’nin Microsoft ve OpenAI için anlamı:
Cisco, AGI’nin ilerlemesini izleyecek mi?
Anthropic ve OpenAI dahil olmak üzere önde gelen yapay zeka laboratuvarları, imrenilen AGI standardına ulaşmak için yarışırken, güvenlik çözümünün piyasaya sürülmesi bundan daha iyi bir zamanda olamazdı. OpenAI CEO’su Sam Altman, ekibinin YGZ’yi nasıl oluşturacağını bildiğini ve şirketin odak noktasını değiştirip süper zekaya yönelmesiyle bu kritere beklenenden daha kısa sürede ulaşılacağını belirtti.
İlgili: Çalışan, OpenAI’nin o1 akıl yürütme modelinin yayınlanmasıyla zaten AGI’ye ulaştığını iddia ediyor
Güvenlik ve emniyet endişelerine rağmen Altman, kıyaslamanın hızla geçeceğini iddia etti. şaşırtıcı derecede az toplumsal etki. İfade edilen güvenlik endişelerinin AGI anında görülmeyeceğini veya yaşanmayacağını da sözlerine ekledi. Ancak son raporlar, model eğitimi için yüksek kaliteli içerik eksikliği nedeniyle yapay zeka geliştirme ve ilerlemesinin duvara toslamış olabileceğini gösterdi. Aralarında Sam Altman ve eski Google CEO’su Eric Schmidt’in de bulunduğu sektördeki önemli oyuncular, ölçeklendirme yasalarının yapay zekanın ilerleyişini engellemeye başladığına dair hiçbir kanıt bulunmadığını belirterek iddialara itiraz etti. Altman “Duvar yok” diye ekledi.
Yapay Zeka Savunması doğru yönde atılmış bir adım olsa da kuruluşlar ve büyük yapay zeka laboratuvarlarında benimsenmesi henüz beklenmiyor. İlginç bir şekilde OpenAI CEO’su, teknolojinin insanlığa yönelik tehdidini kabul ediyor ancak yapay zekanın, yapay zekanın varoluşsal felakete yol açmasını önleyecek kadar akıllı olacağına inanıyor.
