Yapay Zeka Güvenliği Hakkında Bilmek İstediğiniz Ama Sormaya Korktuğunuz Her Şey

Son zamanlarda yapay zekaya dair çok fazla reklam yapılıyor ancak bu, robotların bizim yerimizi alacağı anlamına gelmiyor. Bu makale durumu netleştiriyor ve işletmelerin yapay zekaya nasıl yaklaşması gerektiğini açıklıyor.

Kendi kendini süren arabalar hakkında düşünmekten, dünyayı yok edebilecek yapay zeka botlarından korkmaya kadar, son birkaç yılda çok fazla yapay zeka abartısı yaşandı. Yapay zeka hayal gücümüzü, hayallerimizi ve bazen de kabuslarımızı ele geçirdi. Ancak gerçek şu ki yapay zeka şu anda tahmin ettiğimizden çok daha az gelişmiş durumda. Örneğin, genellikle yapay zekanın sınırsız geleceğinin poster çocuğu olarak kabul edilen otonom arabalar, dar bir kullanım durumunu temsil ediyor ve henüz tüm ulaşım sektörlerinde yaygın bir uygulama değil.

Bu makalede yapay zekanın abartısını ortadan kaldırıyor, yapay zekaya yaklaşan işletmeler için araçlar sağlıyor ve paydaşların kendilerini eğitmesine yardımcı olacak bilgileri paylaşıyoruz.

Yapay Zeka Terminolojisinin Heyecanı Azaltıldı

AI ve ML

AI (Yapay Zeka) ve ML (Makine Öğrenimi) sıklıkla birbirinin yerine kullanılan terimlerdir ancak farklı kavramları temsil ederler. Yapay zeka, bilişsel yetenekler ve Turing testini geçme kapasitesi anlamına gelen zeka yaratmayı amaçlamaktadır. Öğrendiklerini alıp bir sonraki seviyeye yükselterek çalışır. Yapay zekayı kullanmanın amacı, insan temizleyiciye benzer şekilde çalışan bir temizlik robotu yaratmak gibi insan eylemlerini kopyalamaktır.

ML, AI’nın bir alt kümesidir. Matematiksel modellerden oluşur ve yetenekleri makineleri verilerle birleştirmeye dayanır. ML, olaylardan dersler çıkararak ve ardından bu derslere öncelik vererek çalışır. Sonuç olarak ML, geniş veri yığınlarının üzerinden geçmek, kalıpları anlamak, olasılıkları tahmin etmek ve daha fazlası gibi insanların yapamayacağı eylemleri gerçekleştirebilir.

Dar ve Genel Yapay Zeka

Genel yapay zeka kavramı çoğu insanı korkutan bir kavramdır, çünkü bu, insanların yerini alan “robot derebeylerimizin” somut bir örneğidir. Ancak bu fikir teknik olarak mümkün olsa da şu anda o aşamada değiliz.

Genel Yapay Zekanın aksine, Dar Yapay Zeka, çok özel görevler için ayarlanmış özel bir yapay zeka biçimidir. Bu odaklanma, insanları desteklemeye, bizi çok zorlu veya potansiyel olarak zararlı işlerden kurtarmaya olanak tanır. Bizim yerimizi alması amaçlanmamıştır. Dar yapay zeka halihazırda araba veya ambalaj kutusu yapımı gibi sektörlerde kullanılıyor. Siber güvenlikte Narrow AI, etkinlik verilerini ve günlüklerini analiz ederek anormallikleri veya saldırı işaretlerini arayabilir.

Vahşi Doğada Yapay Zeka ve ML

Vahşi doğada üç yaygın AI ve ML modeli vardır: üretken AI, denetimli ML ve denetlenmeyen ML.

Üretken Yapay Zeka

Üretken yapay zeka, yapay zeka alanında, LLM’ler gibi bir bilgi birikimi üzerine eğitilmiş modellerle karakterize edilen son teknoloji bir alandır. Üretken yapay zeka teknolojisi, bu külliyatın içerdiği bilgilere dayanarak yeni içerik oluşturma yeteneğine sahiptir. Üretken yapay zeka, “otomatik düzeltme” veya “ileriye yazma” biçiminin bir biçimi olarak tanımlandı, ancak steroidler üzerinde kullanıldı. Üretken yapay zeka uygulamalarına örnek olarak ChatGPT, Bing, Bard, Dall-E ve IBM Security QRadar Advisor with Watson veya MSFT Security CoPilot gibi uzmanlaşmış siber asistanlar verilebilir.

Üretken yapay zeka, beyin fırtınası, destekli metin düzenleme ve güvenilir bir derlemeye karşı araştırma yürütme gibi kullanım durumları için en uygunudur. Siber güvenlik uzmanlarıSOC ve füzyon ekipleri gibi, araştırma için Üretken Yapay Zeka’dan yararlanarak sıfır gün güvenlik açıklarını, ağ topolojilerini veya yeni güvenlik ihlali göstergelerini (IoC) anlamalarına yardımcı olabilir. Üretken yapay zekanın bazen “halüsinasyonlar”, yani yanlış cevaplar ürettiğini bilmek önemlidir.

Güvenlik Stratejisi Kıdemli Direktörü Etay Maor’a göre Cato Ağları“Üretken yapay zeka aynı zamanda suçlulara da yardımcı olabilir. Örneğin, bunu kimlik avı e-postaları yazmak için kullanabilirler. ChatGPT’den önce, kimlik avı e-postalarının temel tespitlerinden biri yazım hataları ve hatalı dil bilgisiydi. Bunlar bir şeyin şüpheli olduğunun göstergeleriydi. Şimdi ise suçlular Kimlik avı e-postasını birden çok dilde, mükemmel bir dilbilgisi ile kolayca yazabiliyorum.”

Denetimsiz Öğrenme

ML’de denetimsiz öğrenme, eğitim verilerinin ve sonuçların etiketlenmediği anlamına gelir. Bu yaklaşım, algoritmaların insan müdahalesi olmadan verilerden çıkarımlar yapmasına, kalıpları, kümeleri ve bağlantıları bulmasına olanak tanır. Denetimsiz öğrenme, perakende web sitelerinde olduğu gibi dinamik öneriler için yaygın olarak kullanılır.

Siber güvenlikte, denetimsiz öğrenme, kümeleme veya gruplama ve daha önce belirgin olmayan kalıpları bulmak için kullanılabilir; örneğin, belirli bir ulus devletten kaynaklanan belirli bir imzaya sahip tüm kötü amaçlı yazılımların tanımlanmasına yardımcı olabilir. Ayrıca veri kümeleri arasındaki ilişkileri ve bağlantıları da bulabilir. Örneğin, kimlik avı e-postalarına tıklayan kişilerin şifreleri yeniden kullanma olasılığının daha yüksek olup olmadığını belirlemek. Diğer bir kullanım durumu ise, bir saldırganın çalıntı kimlik bilgilerini kullandığını gösterebilecek etkinliklerin tespit edilmesi gibi anormallik tespitidir.

Denetimsiz öğrenme her zaman doğru seçim değildir. Çıktıyı yanlış almanın etkisi çok yüksek ve ciddi sonuçları olduğunda, kısa eğitim sürelerine ihtiyaç duyulduğunda veya tam şeffaflığa ihtiyaç duyulduğunda farklı bir yaklaşım izlenmesi önerilir.

Denetimli Öğrenme

Denetimli öğrenmede, eğitim verileri giriş/çıkış çiftleriyle etiketlenir ve modelin doğruluğu, etiketlemenin kalitesine ve veri kümesinin bütünlüğüne bağlıdır. Çıktıyı gözden geçirmek, doğruluğu artırmak ve herhangi bir sapma sapmasını düzeltmek için genellikle insan müdahalesi gerekir. Denetimli öğrenme, tahminlerde bulunmak için en uygun yöntemdir.

Siber güvenlikte, kimlik avı ve kötü amaçlı yazılımların belirlenmesine yardımcı olabilecek sınıflandırma için denetimli öğrenme kullanılır. Ayrıca geçmiş olay maliyetlerine dayalı olarak yeni bir saldırının maliyetini tahmin etmek gibi regresyon için de kullanılabilir.

Eğitmek için zaman yoksa veya verileri etiketleyecek veya eğitecek kimse yoksa denetimli öğrenme en uygun seçenek değildir. Ayrıca, büyük miktarlarda veriyi analiz etme ihtiyacı olduğunda, yeterli veri olmadığında veya nihai hedef otomatik sınıflandırma/kümeleme olduğunda da önerilmez.

Takviyeli Öğrenme (RL)

Takviyeli Öğrenme (RL), tamamen denetimli ve denetimsiz öğrenme arasında bir alanı kaplar ve makine öğrenimine benzersiz bir yaklaşımdır. Bu, mevcut eğitim belirli kullanım durumlarını öngöremediğinde bir modelin yeniden eğitilmesi anlamına gelir. Büyük veri kümelerine erişimi olan derin öğrenme bile, RL’nin ele alabileceği aykırı kullanım örneklerini hâlâ kaçırabilir. RL’nin varlığı, modellerin kusurlu olabileceğinin örtülü bir kabulüdür.

Siber Suçlular Üretken Yapay Zeka Hakkında Ne Diyor?

Üretken yapay zeka siber suçluların ilgisini çekiyor. Etay Maor’a göre “Siber suçlular, ChatGPT, Bard ve diğer GenAI uygulamalarının tanıtıldığı günden bu yana nasıl kullanılacağı hakkında konuşuyor, aynı zamanda yeteneklerine ilişkin deneyimlerini ve düşüncelerini paylaşıyorlar. Görünen o ki, GenAI’nin sınırlamaları olduğuna inanıyorlar. ve muhtemelen birkaç yıl içinde saldırganların kullanımı için daha olgun hale gelecektir.”

Bazı konuşma örnekleri şunları içerir:

NIST’in Yapay Zeka Risk Yönetimi Çerçevesi (AI RMF)

Yapay zeka ve yapay zeka tabanlı çözümlerle ilgilenirken yapay zekanın sınırlamalarını, risklerini ve güvenlik açıklarını anlamak önemlidir. NIST’ten Yapay Zeka Risk Yönetimi Çerçevesi (AI RMF) Kuruluşların yapay zeka teknolojilerinin dağıtımı ve kullanımıyla ilişkili riskleri tanımlamasına, değerlendirmesine ve yönetmesine yardımcı olmak için tasarlanmış bir dizi kılavuz ve en iyi uygulamalardır.

Çerçeve altı unsurdan oluşur:

1. Geçerli ve Güvenilir – Yapay zeka, GenAI’da “halüsinasyonlar” olarak da bilinen yanlış bilgileri sağlayabilir. Şirketlerin benimsedikleri yapay zekanın doğru ve güvenilir olduğunu doğrulayabilmeleri önemlidir.
2. Güvenli – İstenilen bilgilerin, meşhur mesajlarda olduğu gibi, diğer kullanıcılarla paylaşılmamasını sağlamak Samsung kılıfı.
3. Güvenli ve Dayanıklı – Saldırganlar siber saldırılar için yapay zekayı kullanıyor. Kuruluşlar, yapay zeka sisteminin saldırılara karşı korunduğundan ve güvende olduğundan emin olmalı ve bundan yararlanma girişimlerini başarıyla engelleyebilmeli veya saldırılara yardımcı olmak için kullanabilmelidir.
4. Hesap Verebilir ve Şeffaf – Yapay zeka tedarik zincirini açıklayabilmek ve nasıl çalıştığına dair açık bir görüşme yapılmasını sağlamak önemlidir. Yapay zeka sihir değil.
5. Gelişmiş gizlilik – İstenilen bilgilerin veri gölünde ve kullanıldığında korunmasını ve anonimleştirilmesini sağlamak.
6. Adil – Bu en önemli unsurlardan biridir. Zararlı önyargıları yönetmek anlamına gelir. Örneğin, AI yüz tanımada genellikle önyargı vardır; açık tenli erkekler, kadınlara ve koyu ten renklerine kıyasla daha doğru bir şekilde tanımlanır. Örneğin kolluk kuvvetleri için yapay zeka kullanıldığında bunun ciddi sonuçları olabilir.

Yapay zeka riskini yönetmek için ek kaynaklar şunları içerir: GÖNYE ATLASI (Yapay Zeka Sistemleri için Düşman Tehdit Ortamı), OWASP Makine Öğrenimi için İlk 10 Ve Google’ın Güvenli Yapay Zeka Çerçevesi (SAIF).

Satıcınıza Sorulacak Sorular

Yakın gelecekte satıcıların üretken yapay zeka yetenekleri sunması çok yaygın olacak. Eğitimli seçiminizi desteklemek için sorulacak soruların bir listesi.

1. Ne ve Neden?

Yapay zeka yetenekleri nelerdir ve bunlara neden ihtiyaç duyulur? Örneğin, GenAI e-posta yazma konusunda çok iyidir, bu nedenle GenAI bir e-posta sistemi için anlamlıdır. Satıcı için kullanım durumu nedir?

2. Eğitim verileri

Eğitim verilerinin düzgün ve doğru bir şekilde yönetilmesi gerekir, aksi takdirde önyargı oluşabilir. Eğitim verilerinin türlerini, nasıl temizlendiğini, nasıl yönetildiğini vb. sormak önemlidir.

3. Dayanıklılık yerleşik miydi?

Satıcı, siber suçluların sisteme saldırdığını dikkate aldı ve güvenlik kontrollerini uyguladı mı?

4. Gerçek Yatırım Getirisi ve Talepler

Yatırım getirisi nedir ve yatırım getirisi, AI veya ML’nin uygulanmasını haklı çıkarır mı (veya bunlar abartılı reklam nedeniyle ve satış amacıyla mı eklenmiştir)?

5. Gerçekten Bir Sorunu Çözüyor mu?

En önemli soru, yapay zeka sorununuzu çözüyor mu ve bunu iyi yapıyor mu? Yapay zeka sorunu çözmediği ve olması gerektiği gibi çalışmadığı sürece prim ödemenin ve fazladan masrafa katlanmanın hiçbir anlamı yok.

Yapay zeka bizi güçlendirebilir ve daha iyi performans göstermemize yardımcı olabilir, ancak bu sihirli bir değnek değildir. Bu nedenle işletmelerin şirket içinde uygulamayı seçtikleri yapay zekaya sahip araçlar hakkında bilinçli kararlar alması önemlidir.

Yapay zeka ve makine öğrenimi kullanım durumları, riskleri, uygulamaları, güvenlik açıkları ve güvenlik uzmanlarına yönelik etkileri hakkında daha fazla bilgi edinmek için, masterclass’ın tamamını buradan izleyin.