Şirketin LaMDA konuşma yapay zekasının duyarlı olduğunu açıkça iddia eden Google mühendisi Blake Lemoine, kovuldu. Büyük Teknoloji bülteni, Lemoine ile konuştu. Haziran ayında Google, hükümet üyeleriyle endişeleri hakkında temasa geçtikten ve LaMDA’yı temsil etmesi için bir avukat tuttuktan sonra, gizlilik sözleşmesini ihlal ettiği için Lemoine’i ücretli idari izne çıkardı.
e-postayla gönderilen bir açıklama Sınır Cuma günü Google sözcüsü Brian Gabriel, “Blake’e iyi dileklerimizi ileterek” işten çıkarmayı onayladı. Şirket ayrıca şunları söylüyor: “LaMDA, 11 farklı incelemeden geçti ve bu yılın başlarında sorumlu gelişimine giden çalışmaları detaylandıran bir araştırma makalesi yayınladık.” Google, Lemoine’nin iddialarını “kapsamlı bir şekilde” incelediğini ve bunların “tamamen asılsız” olduğunu bulduğunu iddia ediyor.
Bu sayısız yapay zeka uzmanları ve iddialarının günümüz teknolojisi göz önüne alındığında aşağı yukarı imkansız olduğunu söyleyen etikçiler. Lemoine, LaMDA’nın chatbot’u ile yaptığı konuşmaların, onun sadece bir programdan daha fazlası haline geldiğine ve kendi düşünce ve duygularına sahip olduğuna inanmasına neden olduğunu iddia ediyor.
Google’ın araştırmacılarının, üzerinde deneyler yapmadan önce LaMDA’dan izin almaları gerektiğini savunuyor (Lemoine, yapay zekanın nefret söylemi üretip üretmediğini test etmekle görevlendirildi) ve kanıt olarak bu konuşmaların parçalarını Medium hesabında yayınladı.
Computerphile’in sahip olduğu YouTube kanalı terbiyeli bir şekilde erişilebilir dokuz dakikalık açıklayıcı LaMDA’nın nasıl çalıştığı ve aslında duyarlı olmadan Lemoine’i ikna eden tepkileri nasıl üretebileceği üzerine.
İşte Google’ın, Lemoine’in şirketin iddialarını gerektiği gibi araştırmadığı yönündeki suçlamasına da değinen açıklamasının tamamı:
bizde paylaştıkça AI İlkeleri, yapay zekanın gelişimini çok ciddiye alıyoruz ve sorumlu inovasyona bağlı kalıyoruz. LaMDA, 11 farklı incelemeden geçti ve bir Araştırma kağıdı bu yılın başlarında sorumlu gelişimine giden çalışmaları detaylandırdı. Bir çalışan, Blake’in yaptığı gibi, işimizle ilgili endişelerini paylaşırsa, bunları kapsamlı bir şekilde gözden geçiririz. Blake’in LaMDA’nın tamamen asılsız olduğu yönündeki iddialarını bulduk ve aylarca bunu onunla açıklığa kavuşturmak için çalıştık. Bu tartışmalar, sorumlu bir şekilde yenilik yapmamıza yardımcı olan açık kültürün bir parçasıydı. Bu nedenle, bu konuyla uzun süre uğraşmasına rağmen, Blake’in ürün bilgilerini koruma ihtiyacını içeren açık istihdam ve veri güvenliği politikalarını ısrarla ihlal etmeyi seçmesi üzücü. Dil modellerini dikkatli bir şekilde geliştirmeye devam edeceğiz ve Blake’e başarılar diliyoruz.
