Yapay zeka (AI), birçok teknoloji şirketinin umutlarını bağladığı karmaşık bir alandır. Teknik ilerleme giderek daha etkileyiciyse, araştırmacılar şirketleri daha adil ve etik olmak için beklentilerini azaltmaya çağırıyor. Wall Street Journal’ın 29 Haziran’da yayınlanan bir soruşturmada gündeme getirdiği şey budur.
Yapay zekanın uyanışı
Bu, Google’ın insanlarla karmaşık konuşmaları başarılı bir şekilde yürütürken bir varlığı somutlaştırabilmesiyle tanınan amiral gemisi AI’larından biri olan ve Haziran ayı başlarında etik araştırmacılarını uyaran LamDA’nın durumudur. Google’ın ana şirketi Alphabet için yazılım mühendisi olan Blake Lemoine, üzerinde çalıştığı bu yapay zekanın bir vicdanı olduğunu söyledi. Özellikle, konusu olduğu araştırmaya rıza gösterme hakkına sahip olmasını isterdi. Yüzlerce araştırmacı ve mühendisin kapsamlı araştırmasının ardından Google, davanın ardından 6 Haziran’dan bu yana idari izne çıkarılan eski çalışanının sözlerini yalanladı.
Mojo Vision bağlantılı lenslerin çalışan bir prototipi var
İnsan davranışlarını titizlikle kopyalayabilen AI’lara yönelik bu tutku, bazı şirketleri AI’larının yeteneklerini abartmaya itiyor. Bu, düzenleyici makamların bu teknolojilerin güvenilirliği konusundaki vizyonunu değiştirebilir.
Seattle merkezli bir yapay zeka araştırma enstitüsü olan Allen Yapay Zeka Enstitüsü’nün CEO’su Oren Etzioni, şunları söyledi: duvar sokak günlüğü o ” Artık objektif değiliz “. Ona göre, bir skandal patlak verdiğinde alınan kararlarda bu tarafsızlık hissedilir.
Etik ve Yapay Zeka
Birkaç kişi yapay zekanın yarattığı etik tehlikeler konusunda şimdiden uyardı. 2020’nin sonunda, Google’daki AI etik şubesinin eş başkanı Timnit Gebru, şirketin ünlü arama motorunu güçlendiren bir AI teknolojisinin zayıf yönlerini ortaya çıkaran bir çalışma yaptıktan sonra aniden görevden alındı. İki ay sonra aynı pozisyonda olan Margaret Mitchell tarafından katıldı. İkincisi, Google’ın yapay zekasını hissedarlarına “dünyanın en iyisi” olarak nasıl sattığını gösteren bir makale yazdıktan sonra kovuldu.
İki araştırmacı, çalışan olarak yazdıkları son makalelerinde, insanlara benzer kapasitelere sahip olarak AI teknolojilerinin zarar verme kapasitesine sahip olduğunu belirtti. Bu aceleci işten çıkarmalar, Nisan 2021’de başka bir Google yöneticisi olan Samy Bengio’nun istifasına yol açtı, ” sersemlemiş duruma göre. Google’ın yapay zekaya adanmış bir bölümü olan Google Brain’in kurucu ortağıydı.
AI’lar çoğunlukla şirketler tarafından kullanıcı verilerini toplamak veya araştırmayı kolaylaştırmak için kullanılırken, bazıları konsepti daha da ileri götürüyor. Pandeminin başlangıcında IBM, ateşli ve maskeli bir kişiyi tanımlayabilen bir yapay zeka tasarlamak için bir teklif almıştı. Çok müdahaleci ve orantısız olduğu düşünülerek şirket tarafından reddedilen bir teklif.
Diğer iddialı projeler de terk edildi. 2015 yılında Google, AI kullanarak neşe, öfke, sürpriz veya üzüntü gibi duyguları analiz etti. Diğer duygular düşünüldüğünde, şirketin etik komitesi, İleri Teknoloji İnceleme Konseyi, çalışmaya devam etmemeye karar verdi. Üyeleri, yüz sinyallerinin kültürler arasında dalgalanabileceğini ve önyargı olasılığının çok büyük olduğunu hissetti. Daha yakın zamanlarda Microsoft, ses taklit yazılımı olan Custom Neural Voice’u, insanların seslerinin rızaları olmadan kullanılmasından korktuğu için kısıtlamayı seçti.
Dünya otoriteleri yapay zekanın etiğini sorguluyor. Kasım 2021’de UNESCO, yapay zeka etiğine ilişkin ilk anlaşmayı kabul etti. Bu, teknoloji sektöründeki şirketlerin araştırmaları ve yapay zekalarının işleyişi konusunda şeffaf olmalarını gerektiriyor. Amacı, bireylere kişisel verilerini kontrol etme gücü vererek onlara daha fazla kontrol sağlamaktır.
Avrupa Birliği ise yapay zeka için yasal bir çerçeve sağlamaya çalışıyor. Avrupa Parlamentosu’nun dijital çağda yapay zeka konusundaki özel komitesi, bu teknolojinin sorumlu kullanımı için asgari standartları belirlemek üzere geçen Mart ayında bir araya geldi. Özellikle vatandaşların güvenliği, mahremiyet hakları ve veri koruması ile ilgilenmektedir.