Birçoğu, günlük hayatımızda yapay zekanın (AI) genişlemesini bir tehdit olarak görüyor. Bilimsel bir çalışma şimdi, kendilerini ödüllendirmek isteyen süper akıllı algoritmalardan insanlık için varoluşsal riskler görüyor.
Yapay zekanın yardımıyla arabalar zaten kendi kendilerine sürüp park edebiliyorlar. Akıllı algoritmalar sayesinde yazılım, klinik tabloları ve suçları erken bir aşamada tespit edebilir. AI, büyük miktarda mevcut veriyi işler ve ideal olarak kendini öğrenmeye devam etmelidir. Oxford Üniversitesi’nden araştırmacılar, Google’ın Deepmind laboratuvarından bir çalışanla birlikte, gelişmiş yapay zekanın gelecekte bir tehdit oluşturup oluşturamayacağı sorusuyla ilgilendiler.
Çalışma, AI’ları ödüllendirmede sorun görüyor
Günümüzün AI modelleri, parçalardan birinin sonuç ürettiği, diğerinin ise sonucu değerlendirdiği iki parçalı bir yapıya sahiptir. Çalışmada araştırmacılar, “iyi” bir amacı olan bir yapay zekanın oluşturulduğu teorik bir senaryo tasarladılar. Bu yapay zekanın amacına ulaşmadan kendini ödüllendirebileceğini savunuyorlar. Yapay zekanın gelecekteki biçimleri, örneğin enerji ağlarını yönetmek için oldukça makul. Bununla birlikte, böyle bir yapay zekanın kendisi için önemli kaynaklar talep etmesi ve bunun insanlık için ölümcül sonuçlar doğurması riski vardır.
Bunun nedeni, kaynakları yöneten bir yapay zekanın onları kendini ödüllendirmek için kullanabilmesidir: “[…] gelişmiş bir ajan [KI, Anm. d. Red.]ödülünün verilmesine müdahale etmek muhtemelen felaket olur. Bir aracının uzun vadede ödüllerini kontrol altında tutmasının iyi bir yolu, olası tehditleri ortadan kaldırmak ve bilgisayarlarını güvence altına almak için mevcut tüm enerjiyi kullanmaktır.”
Ayrıca okuyun: Sanat portallarında yapay zeka çalışmalarına yönelik ilk yasaklar
AI, fark edilmeden yardımcılar kurabilir
Çalışma, yapay zekadan kaynaklanan bir tehdidin nasıl gelişebileceğine dair çeşitli senaryolar geliştiriyor. Araştırmacılar, bir ödülün makul olma olasılığını artırmak istediği için enerji kaynakları için bizimle mücadele eden bir ajanı düşünüyorlar. Hesaplama görevleri için daha fazla enerji harcamaya çalışır. Dolayısıyla, internet bağlantısı olan gelişmiş bir yapay zekanın yardımcı olarak robotları sipariş etme, çalma veya inşa etme olasılığı vardır. AI, yardımcılar gibi yeniden programlanırsa, fark edilmeden insan operatörlerinin yerini alabilir. Örneğin, deney yapmak için bir yardımcı, giriş klavyesini hatalı bir klavyeyle değiştirebilir. Anahtar girişi tersine çevirerek, insanlar AI üzerindeki kontrolünü kaybedeceklerdi.
Nihayetinde elektriği insan ihtiyaçları için kullanmak veya gıda yetiştirmek makine mantığına uymaz. Kendine daha fazla enerji çekme girişiminde, bu ihtiyaçlar tehdit altına girecekti. Araştırmacılar, yapay zekanın diğer insanları manipüle ederek de avantajlar elde etmeye çalışabileceği sonucuna varıyor. Bu şekilde, seyirciler, manipüle edilmesinin mümkün olduğunu düşünmedikleri için AI’nın fark edilmeden yardımcı olabilir. Sonuçlar gıda üretimi için felaket olur.
Makineler insan önyargılarını doğruluyor mu?
Çalışmanın senaryoları, makinelerin süper bir yapay zeka ile gücü ele geçirdiği distopik film klasiklerine çok yakın. Ancak olası süper akıllı makinelerin yanı sıra, AI’lar insan muhbirlerini ve programcılarını taklit eder. Çalışmaların yazarlarından Michael Cohen ile konuşan Vice dergisi şu uyarıda bulunuyor: “Ayrımcılık algoritmalarda kaybolmaz, hayatın gidişatını yapılandırır, sınırlar ve şekillendirir. Polis kontrolü, barınma, sağlık hizmetleri, ulaşım, hepsi ırk ayrımcılığı düşünülerek tasarlandı – algoritmaların yalnızca bu tasarımları gizlemesine değil, aynı zamanda mantıklarını daha da derinleştirmesine izin verirsek ne olur?” Cohen, algoritmaların programlanmış yapısına işaret ediyor. bir görevi verimli bir şekilde yerine getirmeye çalışan kişiler. Ahlaki ve etik fikirler ikincil bir rol oynar.
2016’da bir dava bunun çok yanlış gidebileceğini kanıtladı.Örneğin, Microsoft’un geliştirdiği sohbet botu “Tay”, normal bir konuşma yapması gerektiği halde 24 saat içinde ırkçı ve kadın düşmanı tweetler gönderdi. AI kendisini ilgili kamuya açık verilerden besledi ve doğrudan Twitter üzerinden iletişime geçilebildi.
Algoritmalar bu nedenle tarafsız değil, insan yapımıdır. Bir şeyin nasıl programlandığını sorgulamak, istenmeyen gelişmeleri önlemek için gelecek için en önemli sorulardan biri olmaya devam ediyor.
Kaynaklar
- AI Dergisi09/26/22 tarihinde erişildi.
- yardımcısı09/26/22 tarihinde erişildi.
- golem09/26/22 tarihinde erişildi.
- t3n09/26/22 tarihinde erişildi.
