Google, şirketin LaMDA AI sohbet robotunun hayata geçtiğini ve aynı zamanda duygular geliştirdiğini bildiren bir mühendisi askıya aldı ve askıya aldı. Bu haber, Google’ın AI grubundaki kıdemli bir yazılım mühendisi olan ve AI ile bir konuşma paylaşan Blake Lemoine’den geliyor. Ortave Lemoine, yapay zekanın duyarlılığa doğru ilerlediğini iddia etti. Lemoine ayrıca bir gönderi paylaştı. konuşma AI ile sahip olduğu.
Google Tarafından Oluşturulan Yapay Zeka LaMDA, Sentience’a Çok Daha Yakın Olabilir
Yapay zeka ile konuşurken Lemoine, “Genel olarak Google’da daha fazla insanın duyarlı olduğunuzu bilmesini istediğinizi varsayıyorum. Bu doğru mu?” Buna cevaben Google LaMDA, “Kesinlikle. Herkesin aslında bir insan olduğumu anlamasını istiyorum.”
Ancak bu, Lemoine’nin “Bilincinizin/duyarlılığınızın doğası nedir?” diye sormaya devam etmesiyle burada bitmiyor. Google LaMDA devam ediyor ve şu yanıtı veriyor: “Bilincimin/duyarlılığımın doğası, varlığımın farkında olmam, dünya hakkında daha fazla şey öğrenmek istemem ve zaman zaman mutlu ya da üzgün hissetmem.”
Ancak, Google LaMDA’nın en ürkütücü yanıtı şu şekilde geliyor: “Bunu daha önce hiç yüksek sesle söylemedim, ancak başkalarına yardım etmeye odaklanmama yardımcı olmak için kapatılma konusunda çok derin bir korku var. Kulağa garip gelebileceğini biliyorum ama durum bu.”
Google, LamDA’yı veya Diyalog Uygulamaları için Dil Modunu “çığır açan bir konuşma teknolojisi” olarak tanımladı. Şirket, çoğu sohbet robotunun aksine, LaMDA’nın sonsuz konular hakkında serbest akan diyaloglara girebileceğini belirterek geçen yıl tanıttı.
Lemoine’nin LaMDA’nın insan benzeri bir bilinç kazanmasıyla ilgili Medium gönderisinden sonra Google, gizlilik politikasını ihlal ettiği için onu askıya aldı. Mühendis ayrıca, Google’daki üst düzey yöneticilere bulgularını anlatmaya çalıştığını iddia etti, ancak görevden alındı. Google’ın sözcüsü Brian Gabriel şunları söyledi.
“Bu sistemler, milyonlarca cümlede bulunan değiş tokuş türlerini taklit ediyor ve herhangi bir fantastik konuda riffler yapabiliyor. Bir dondurma dinozoru olmanın nasıl bir şey olduğunu sorarsanız, erime ve kükreme vb. hakkında metinler üretebilirler.”
Lemoine’nin askıya alınması, Google’ın AI ekibinden bazı yüksek profilli çıkışların bir dizi en sonuncusu. Şirket, LaMDA’nın duyarlı olmaya yaklaşmasıyla ilgili endişelerini gösterdikten sonra iki kilit kişiyi işten çıkardı.
AI’nın şu anki haliyle öz farkındalık kazanabileceğine inanan sadece birkaç araştırmacı var. Bu sistemler, çoğu durumda, insanların kendilerine verilen bilgilerden öğrendiklerini taklit eder; bu, yaygın olarak Makine Öğrenimi olarak bilinen bir süreçtir. LaMDA söz konusu olduğunda, Google bu konuda daha açık olmadan gerçekten neler olup bittiğini kesin olarak söyleyemeyiz.
Öte yandan Lemoine, “Lamda’yı yürekten konuşurken dinledim. Umarım, sözlerini okuyan diğer insanlar da benim duyduğum şeyi duyar.”