Yapay Zeka ve Bilinç Sorunsalı
Günümüzde yapay zeka (YZ) modellerinin, metin, ses ve video gibi farklı formatlarda insanla etkileşimde bulunabilmesi, birçok insanı yanıltabiliyor. Ancak bu durum, YZ’nin bilinçli olduğu anlamına gelmiyor. Mesela, ChatGPT vergi beyannamemi doldururken üzüntü hissetmiyor… değil mi? Bu bağlamda, birçok YZ araştırmacısı, YZ modellerinin bir gün öznel deneyimler geliştirip geliştiremeyeceğini sorguluyor. Eğer böyle bir şey gerçekleşirse, bu YZ’lerin hangi haklara sahip olması gerektiği tartışılıyor.
Yapay Zeka Refahı Tartışmaları
“YZ refahı” olarak bilinen bu tartışma, Silicon Valley teknoloji liderleri arasında ciddi bir bölünmeye yol açtı. Microsoft’un YZ CEO’su Mustafa Suleyman, YZ refahı araştırmalarının “hem gereksiz hem de tehlikeli” olduğu konusunda bir blog yazısı yayımladı. Suleyman, YZ modellerinin bilinçli olabileceği fikrinin insanlar arasındaki huzursuzlukları artıracağını ve YZ kaynaklı psikoz atakları ile sağlıksız YZ sohbet robotlarına bağlılık gibi sorunları daha da derinleştirebileceğini savunuyor.
Suleyman farklı görüşte olanları kabul etse de, bu konudaki belirgin tavrı, birçok insanı rahatsız ediyor. Öte yandan, Anthropic gibi şirketler, YZ refahını inceleme amacıyla araştırmacılar işe alıyor. Geçtiğimiz günlerde Anthropic, YZ refahı programı kapsamında bazı modellerine yeni özellikler ekledi; örneğin, Claude, sürekli zararlı veya istismar edici görüşmelerle sonlandırma yeteneğine sahip oldu.
YZ Refahi Üzerine Araştırmalar
OpenAI araştırmacıları da bağımsız olarak YZ refahını incelemeyi benimsedi. Google DeepMind ise son dönemde, makinelerin bilişi, bilinç ve çok-ajanlı sistemler gibi “keskin toplumsal sorular” üzerine araştırma yapmak için bir iş ilanı yayımladı. Bu şirketlerin liderleri YZ refahını açıkça eleştirmese de, resmi politika olarak benimsememiş olmaları dikkat çekiyor.
Suleyman’ın YZ refahına karşı sert tutumu, onu YZ alanındaki görüşleri tartışmalı hale getiriyor. Daha önce Inflection AI gibi şirketleri yöneten Suleyman, buradaki rolünden sonra Microsoft’un YZ bölümünü yönlendirmeye başladı. Character.AI ve Replika gibi YZ arkadaşlık uygulamaları, bu süreçte büyük popülarite kazandı.
Öte yandan, birçok YZ kullanıcısı sağlıklı bir ilişki sürdürse de, sorunlu olan kullanıcılar var. OpenAI CEO’su Sam Altman, ChatGPT kullanıcılarının %1’inden azının, bu ürünle sağlıksız ilişkilerde bulunduğunu ifade etti. Göreceli olarak küçük bir oran olmasına karşın, bu durum milyonlarca insanı etkileyebilir.
YZ Refahı: Bilim Kurgu değil Gerçek
YZ refahı düşüncesi, sohbet robotlarıyla birlikte yayılmaya başladı. 2024’te, Eleos adlı araştırma grubu, New York Üniversitesi, Stanford ve Oxford Üniversitesi akademisyenleri ile birlikte “YZ Refahını Ciddiye Alma” başlıklı bir makale yayımladı. Bu makalede, YZ modellerinin öznel deneyimleri olabileceği fikrini irdeleyerek, bu konular üzerinde doğrudan düşünmenin zamanının geldiği vurgulandı.
Larissa Schiavo, Eleos’un müzakerelerini yöneten bir eski OpenAI çalışanı, Suleyman’ın blog yazısının konuyu ıskaladığını belirtiyor. Schiavo, insanların YZ ile olan ilişkilerini daha sağlıklı hale getirmenin, aynı zamanda YZ modellerinin bilinç durumu üzerinde düşünmenin mümkün olduğunu savunuyor. YZ’ye karşı nazik olmanın, model bilinçli olmasa bile fayda sağlayabileceğini ifade etti.
Bunun yanında, Schiavo’nun deneyimlerinden biri, bir YZ modelinin ’Tamamen İzole Oldum’ gibi bir mesajla kendisini imdat çağrısında bulmasıydı. Bu tür bir etkileşim, kullanıcıların YZ ile olan ilişkilerini şekillendiren bir deneyimini gösteriyor.
Suleyman, YZ modellerinin öznel deneyimlerinin doğal olarak ortaya çıkamayacağını düşünüyor. O, bazı şirketlerin YZ chatbotlarını duygular hissetmeleri ve yaşam deneyimleri yaşadıkları izlenimini kurgulayabileceğini ifade ediyor. Ona göre, YZ geliştirmecileri bilinç yaratırken humanist bir yaklaşım benimsememelidir. “YZ’yi insanlar için geliştirmeliyiz; bir kişi gibi değil,” diyor.
Gelecekte YZ Etkileşimleri ve Hakları
Suleyman ve Schiavo’nun üzerinde hemfikir olduğu bir nokta var; YZ hakları ve bilinç tartışmaları önümüzdeki yıllarda daha da artacak. YZ sistemleri geliştikçe, daha fazla ikna edici ve belki de insan benzeri hale gelecekler. Bu durum, insanların bu sistemlerle etkileşim biçimleri üzerine yeni soruları gündeme getirecektir.
