Yapay zeka dönemi, teknolojik ve bilgi güvenliği açısından önemli değişimlerin yaşanacağı bir dönem olacak. Yapay Zeka araçlarının geliştirilmesine ve dağıtılmasına, potansiyel risklere karşı koruma sağlarken faydalarını da kapsayacak şekilde rehberlik etmek için ABD hükümeti, bir dizi gönüllü taahhüt şirketlerden yapmalarını istiyorlar. Bu gönüllü taahhütlerin odak alanları şunlardır:
Emniyet. Hükümet, iç ve dış kırmızı ekip oluşturmanın yanı sıra potansiyel riskler hakkında açık bilgi paylaşımını da teşvik ediyor.
Güvenlik. Şirketler, modellerini korumak için uygun siber güvenlik önlemlerine yatırım yapmalı ve üçüncü tarafların güvenlik açıklarını sorumlu bir şekilde bildirmeleri için teşvikler sunmalıdır.
Güven. İçeriğin yapay zeka tarafından üretilip üretilmediğini belirlemek için araçlar geliştirin ve bu zararları azaltmak için yapay zekanın toplumsal düzeyde zararlı olabileceği yollara ilişkin araştırmalara öncelik verin.
Google, Beyaz Saray’ın bu gönüllü taahhütlerine imza attı ve biz de spesifik, belgelenmiş ilerleme bu üç hedefin her birine doğru. Sorumlu yapay zeka geliştirme ve dağıtımı, sektör liderleri ile hükümet arasında yakın çalışma gerektirecektir. Bu hedefe ulaşmak için Google, diğer birçok kuruluşla birlikte, Ekim ayında bir foruma ev sahipliği yapmak için ortaklık kurduk Yapay zeka ve güvenliği tartışmak için.
Ekim yapay zeka güvenlik forumunun bir parçası olarak, ABD kamu sektöründe yapay zekaya odaklanan yeni bir Google raporunu tartıştık: Yapay Zekada Amerikan Liderliği için Güvenli Bir Temel Oluşturmak. Bu teknik inceleme, Google’ın sonuçları, erişilebilirliği ve verimliliği iyileştirmek için devlet kurumlarıyla halihazırda nasıl çalıştığını vurgulamaktadır. Rapor, güvenliğe bütünsel bir yaklaşımı savunuyor ve güvenli bir yapay zeka vakfının kamu sektörüne sağlayacağı fırsatları açıklıyor.
Güvenli Yapay Zekanın Potansiyeli
Teknoloji sağlayıcılarının saldırılar meydana gelmeden önce yeni gelişmelerin risklerini ve zayıf noktalarını dikkate alması gerektiğinden, güvenlik çoğu zaman bir yarış gibi hissedilebilir. Yapay zeka araçlarının kamuya açık olduğu çağın henüz başında olduğumuz için kuruluşlar, yapay zeka destekli tehditler yaygınlaşmadan önce güvenlik önlemleri ve savunmalar oluşturabilirler. Ancak bu fırsat penceresi sonsuza kadar sürmeyecek.
Yapay zekanın sosyal mühendislik saldırılarını güçlendirmek ve kötü amaçlarla manipüle edilmiş görüntüler ve videolar oluşturmak için potansiyel kullanımı, teknoloji ilerledikçe daha da acil hale gelecek bir tehdittir; bu nedenle yapay zeka geliştiricilerinin, Beyaz Saray’ın bir parçası olarak özetlenen güven araçlarına öncelik vermesi gerekir. gönüllü taahhütler.
Ancak tehditler gerçek olsa da, özellikle güvenli bir şekilde geliştirilip dağıtıldığında yapay zekanın olumlu potansiyelinin farkına varmak da önemlidir. Yapay zeka zaten insanların çalışma şeklini değiştiriyor yeni beceriler öğrenin ve geliştirinYapay zeka araçlarının hem kamu hem de özel sektörde sorumlu kullanımı, çalışan verimliliğini ve son kullanıcı açısından sonuçları önemli ölçüde artırabilir.
Google, yapay zekayı temel ulusal öncelikleri ilerletecek şekilde güvenli bir şekilde dağıtmak için ABD devlet kurumları ve ilgili kuruluşlarla birlikte çalışıyor. Yapay zeka yardımcı olabilir sağlık hizmetlerine erişimi iyileştirmek, farklı veri kümelerinden oluşturulmuş bir bilgi tabanından yararlanarak hasta sorularına yanıt vermek. Yapay zeka aynı zamanda şu potansiyele de sahiptir: Sivil katılımda devrim yaratıntoplantılardan elde edilen ilgili bilgilerin otomatik olarak özetlenmesi ve seçmenlere net bir dille yanıtlar sağlanması.
Güvenli Yapay Zeka için Üç Temel Yapı Taşı
Ekim yapay zeka forumunda Google, ABD’de yapay zeka araçlarının faydalarını en üst düzeye çıkarmak için üç temel organizasyonel yapı taşını sundu.
Öncelikle tehdit aktörlerinin halihazırda yapay zeka yeteneklerini nasıl kullandığını ve bu kullanımların nasıl gelişeceğini anlamak çok önemli. Gibi Mandiant’ın kimliği belirlendiTehdit aktörleri yapay zeka teknolojilerini muhtemelen iki önemli şekilde kullanacaklardır: “aktörlerin doğal araçlarının ötesinde faaliyetin verimli bir şekilde ölçeklendirilmesi ve aldatıcı amaçlara yönelik gerçekçi uydurma içerik üretme yetenekleri.” Bu riskleri akılda tutmak, teknoloji ve hükümet liderlerinin araştırmaya ve azaltma tekniklerinin geliştirilmesine öncelik vermesine yardımcı olacaktır.
İkincisi, kuruluşların güvenli yapay zeka sistemleri kurması gerekiyor. Bu, Beyaz Saray’ın tavsiyeleri ve tavsiyeleri gibi yönergeleri takip ederek başarılabilir. Google’ın Güvenli Yapay Zeka Çerçevesi (SAIF). SAIF, otomatik güvenlik önlemlerinin dağıtılması ve yapay zeka gelişimi için daha hızlı geri bildirim döngüleri oluşturulması da dahil olmak üzere altı temel öğeyi içeriyor.
Son olarak, güvenlik liderleri yapay zekanın iyileştirmeye ve iyileştirmeye yardımcı olabileceği tüm yollardan yararlanmalıdır. aşırı yükleme güvenliği. Yapay zeka teknolojileri, güvenlik araçlarını ve kontrollerini basitleştirirken aynı zamanda bunları daha hızlı ve daha etkili hale getirebilir; bunların tümü, yapay zeka sistemlerinin mümkün kılabileceği düşmanca saldırılardaki potansiyel artışa karşı savunmaya yardımcı olacaktır.
Bu üç yapı taşı, yapay zeka teknolojilerinin Amerikan toplumunda güvenli ve etkili bir şekilde uygulanmasının temelini oluşturabilir. Yapay zeka geliştirme liderlerini ve hükümet yetkililerini birlikte çalışmaya devam etmeye teşvik ederek, güvenli ve güvenilir yapay zeka sistemlerinin kamu ve özel sektöre getireceği iyileştirmelerden hepimiz yararlanacağız.
Devamını oku Google Cloud’dan İş Ortağı Perspektifleri.
