Bazı kişiler için “kara kutu” denilince akıllara, akla gelmeyen bir şey olursa postmortem analizler için değerli olan uçaklardaki kayıt cihazları geliyor. Diğerleri için küçük, minimal donanımlı tiyatroları çağrıştırıyor. Ancak kara kutu, yapay zeka dünyasında da önemli bir terimdir.
AI kara kutular kullanıcı tarafından görülemeyen dahili çalışmalara sahip yapay zeka sistemlerine bakın. Onlara girdi besleyebilir ve çıktı alabilirsiniz, ancak sistemin kodunu veya çıktıyı üreten mantığı inceleyemezsiniz.
Makine öğrenimi, yapay zekanın baskın alt kümesidir. gibi üretken AI sistemlerinin temelini oluşturur. ChatGPT Ve DALL-E 2. Makine öğreniminin üç bileşeni vardır: bir algoritma veya bir dizi algoritma, eğitim verileri ve bir model. Algoritma, bir dizi prosedürdür. Makine öğreniminde bir algoritma, çok sayıda örnekle (eğitim verileri) eğitildikten sonra kalıpları tanımlamayı öğrenir. Bir makine öğrenimi algoritması eğitildikten sonra, sonuç bir makine öğrenimi modelidir. Model, insanların kullandığı şeydir.
Örneğin, görüntülerdeki kalıpları tanımlamak için bir makine öğrenimi algoritması tasarlanabilir ve eğitim verileri köpeklerin görüntüleri olabilir. Ortaya çıkan makine öğrenimi modeli, bir köpek gözcü olacaktır. Görüntüyü girdi olarak besler ve görüntünün neresinde bir piksel kümesinin bir köpeği temsil edip etmediğini çıktı olarak alırsınız.
Bir makine öğrenimi sisteminin üç bileşeninden herhangi biri gizlenebilir veya bir kara kutu içinde olabilir. Çoğu zaman olduğu gibi, algoritma herkes tarafından biliniyor ve bu da onu bir kara kutuya koymanın daha az etkili olmasını sağlıyor. Bu nedenle, yapay zeka geliştiricileri fikri mülkiyetlerini korumak için modeli genellikle bir kara kutuya koyar. Yazılım geliştiricilerin benimsediği başka bir yaklaşım, modeli eğitmek için kullanılan verileri gizlemek, başka bir deyişle eğitim verilerini bir kara kutuya koymaktır.
Kara kutu algoritmaları, yapay zekaların nasıl çalıştığını anlamayı çok zorlaştırıyor, ancak durum tamamen siyah ve beyaz değil.
Kara kutunun tersi bazen kara kutu olarak anılır. cam kutu. AI cam kutusu, algoritmaları, eğitim verileri ve modeli herkesin görebileceği bir sistemdir. Ancak araştırmacılar bazen bunların bile özelliklerini kara kutu olarak nitelendiriyor.
Bunun nedeni, araştırmacıların tam olarak anlama makine öğrenimi algoritmaları, özellikle derin öğrenme algoritmalar, çalışır. Alanı açıklanabilir yapay zeka cam kutu olmasa da insanlar tarafından daha iyi anlaşılabilecek algoritmalar geliştirmek için çalışıyor.
AI kara kutuları neden önemlidir?
Çoğu durumda, kara kutu makine öğrenimi algoritmalarına ve modellerine karşı dikkatli olmak için iyi nedenler vardır. Bir makine öğrenimi modelinin sağlığınız hakkında bir teşhis koyduğunu varsayalım. Modelin kara kutu mu yoksa cam kutu mu olmasını isterdiniz? Peki ya tedavinizi reçete eden doktor? Belki de modelin kararına nasıl vardığını bilmek ister.
Bir bankadan işletme kredisi almaya hak kazanıp kazanmadığınızı belirleyen bir makine öğrenimi modeli sizi reddederse ne olur? Nedenini bilmek istemez misin? Bunu yaptıysanız, karara daha etkili bir şekilde itiraz edebilir veya bir dahaki sefere kredi alma şansınızı artırmak için durumunuzu değiştirebilirsiniz.
Kara kutuların ayrıca yazılım sistemi güvenliği için önemli etkileri vardır. Yıllarca bilgi işlem alanındaki birçok kişi, yazılımı bir kara kutuda tutmanın bilgisayar korsanlarının onu incelemesini engelleyeceğini ve bu nedenle güvenli olacağını düşündü. Bu varsayımın büyük ölçüde yanlış olduğu kanıtlanmıştır çünkü bilgisayar korsanları ters mühendislik yazılım – yani, bir yazılımın nasıl çalıştığını yakından gözlemleyerek bir faks kopyası oluşturun – ve yararlanılacak güvenlik açıklarını keşfedin.
Yazılım cam bir kutunun içindeyse, yazılım test uzmanları ve iyi niyetli bilgisayar korsanları yazılımı inceleyebilir ve geliştiricilere zayıf yönleri bildirebilir, böylece siber saldırıları en aza indirebilir.
Yapay zeka, sohbet robotları ve makine öğreniminin geleceği hakkında daha fazla bilgi edinmek ister misiniz? Kapsamımızın tamamına göz atın yapay zekaveya kılavuzlarımıza göz atın En İyi Ücretsiz AI Sanat Üreticileri Ve OpenAI ChatGPT Hakkında Bildiğimiz Her Şey.
saurab bagchiElektrik ve Bilgisayar Mühendisliği Profesörü, Purdue Üniversitesi
Bu makale şu adresten yeniden yayınlanmıştır: Konuşma Creative Commons lisansı altında. Okumak orijinal makale.