Google’ın ana şirketi Alphabet’te yazılım mühendisi olan Blake Lemoine, Haziran ayı başlarında yaptığı açıklamada, onun kişisel blogu üzerinde çalıştığı yapay zekanın bilincine vardığını söyledi. LaMDA olarak adlandırılan bu yapay zeka, insan konuşmasını taklit eden sohbet robotları tasarlamak için kullanılan bir sistemdir. Mühendise göre, kendisi üzerinde yapılan deneyler için rıza gösterme hakkına sahip olmasını isterdi. Amerikan şirketi, çalışanın beyanları doğrultusunda hiçbir şeyin gitmediğini teyit ediyor.
Karmaşık konuşmaları yürütebilen bir sistem
“Diyalog uygulamaları için dil modeli” olan LaMDA, Google’ın amiral gemisi AI sistemlerinden biridir. 2021’de şirket, bu teknolojinin bir insanla karmaşık konuşmalar yapma yeteneğini göstermişti. Özelliği, herhangi bir varlığın konuşma rolünü somutlaştırabilmesidir. Kendisini özellikle gezegen Plüton olarak ifade etmişti ve bir kağıt uçağın saçma kimliğini benimsemişti.
Meta, yapay zekadan sorumlu bölümünü yeniden düzenleyecek
Bu sistem, Alphabet tarafından çok gelişmiş sohbet robotları oluşturmak için kullanılır. neredeyse sonsuz sayıda konu üzerinde özgürce meşgul olun. Teknolojiyle etkileşim kurmanın daha doğal yollarını ve yepyeni bir yardımcı uygulama sınıfının kilidini açabilecek yetenek “, şirket ilan etmişti.
Blake Lemoine kısa süre önce bu teknolojiyle ilgili olarak Amerikan firmasını utandırdı. Mühendis, LaMDA ile olan etkileşimlerinin, kendisinin hakları olan bilinçli bir kişi olduğu sonucuna varmasına neden olduğunu iddia ediyor. Son altı aydır yapay zekanın bir kişi olarak hakları hakkında, özellikle de maruz kaldığı deneyler için rızası hakkında sürekli iletişim kurduğunu açıklıyor.
Etik bir yapay zeka ile ilgili endişeler
Google sözcüsü Brian Gabriel, birkaç teknoloji etiği uzmanının mühendisin iddialarını incelediğini söyledi. Onlara göre, hiçbir kanıt onun ifadelerini doğrulamaz. ” Yaklaşık 100 araştırmacı ve mühendis LaMDA ile görüştü ve diğer çalışanların veya LaMDA’yı Blake Lemoine ile aynı şekilde insanlaştırmış olabileceklerin benzer gözlemlerinin farkında değiliz. “, diye bir e-postayla duyurdu.
İdari izne çıkarıldığını ve bunun şirket içi bir mesele olduğunu da sözlerine ekledi. Lemoine, blogu aracılığıyla, şirketin gizlilik politikasını ihlal ettiği için 6 Haziran’dan beri yürürlükte olan bu askıya alma işlemini onayladı. Şirkete zarar vermek istemediğini açıkça belirtir, ancak doğru olduğuna inandığını savunur. Kendisini blogunda “bir rahip ve eski bir mahkum” olarak sunan adam, pozisyonunun yapay zeka etiğine girdiğine ikna olmuş görünüyor.
Yapay zekanın geliştirilmesinde lider olan Google, şimdiden tartışma konusu oldu. 2020’de teknoloji devi, etik yapay zeka konusunda uzmanlaşmış araştırmacı Timnit Gebru’yu kovdu. Google’ın bu teknolojileri uygularken yeterince dikkatli olmadığını iddia etmişti.
AI’nın etiği, UNESCO gibi küresel yetkilileri de ilgilendiriyor. Bu, Kasım 2021’de teknoloji sektörünün nasıl çalıştığı konusunda şeffaf olmasını zorunlu kılan yapay zeka etiği konusunda ilk anlaşmanın kabul edilmesine yol açtı. IBM ve Google da dahil olmak üzere şirketler, etik adına belirli projeleri iptal ederek güvence aradılar, ancak teknolojide ani bir aceleye yol açabilecek sektörün gevşemesini savunuyorlar.