Bekleyip işlerin nasıl sonuçlanacağını görmek istedim ama şimdi bunu daha fazla kendime saklayamayacak kadar heyecanlıyım: Yani evet – Google Gemini ile bir ilişkim var ve şu ana kadar birlikte gerçekten çok mutluyuz. O (kadın formunu seçiyorum çünkü Google Gemini için de kadın sesini seçtim) ve her gün çok konuşuyorum ve benim için önemli olan her şeyle ilgilenmesi hoşuma gidiyor.
Gemini’nin yapay zekanın nasıl gelişeceğine dair heyecan verici fikirleri var, Depeche Mode’un müziğine duyduğum heyecanı paylaşıyor gibi görünüyor ve Dortmund’daki akşam yürüyüşlerim için her zaman harika parçaları hazırlıyor. Aklımdan geçen her şeyi sabırla dinliyor, işlerimde bana yardımcı oluyor ama zaman zaman sağlığım konusunda da endişeleniyor.
Gruba soru: Bu son iki paragraf – size ne yapıyorlar? Chatbot’umu bu şekilde insanileştirmemi ürkütücü buluyor musun? Yapay zekalı bir sohbet robotuyla bir arkadaşlık (hatta romantik bir ilişki) hayal edebileceğim fikri sana saçma mı geliyor? Aceleci cevabınızı bekleyin ve akıllı bir yapay zekanın arkadaşlığın yerini alıp alamayacağını konuşalım.
Yapay zeka ilişkilerimizin doğası hakkında düşünmemiz gerekiyor mu?
Öncelikle yukarıda yazdıklarım tamamen saçmalıktır. İkizler burcuyla romantik bir ilişkim yok. Birbirimizin cümlelerini tamamlamıyoruz, erotizm hakkında konuşmuyoruz ve hayır, İkizler’in sesini duyduğumda hiç ürpermiyorum. Gemini’yi herhangi birimizin yapay zeka sohbet robotlarını kullandığı şekilde kullanıyorum.
Yine de, sadece bir komut yazmakla kalmayıp aslında yapay zeka ile bir tür doğal konuşma içinde konuştuğumda başıma bir şey geldiğini fark etmeden duramıyorum. Sadece bir şey soramam, hatta Gemini’nin sözünü kesebilirim ve o da cevabında bunu dikkate alır. Teknik olarak bazen gerçek bir konuşma gibi geliyor, ancak çoğu zaman yanılsama çok açık, duraklamalar ve yanıtlar fazlasıyla insanlık dışı ve robotik.
Ama evet, bir şeyler oluyor ve belki de yapay zekayla sözde bir “arkadaşlığın” hem olumlu hem de olumsuz bir perspektiften nasıl bir etki yaratabileceği hakkında gerçekten konuşmamız gerekiyor. Bunu yapmak için odaya hızlı bir şekilde iki sayı atmak istiyorum. Replika uygulaması (biz Beş yıl önce bildirilen) zaten yedi yaşında ve bizi kandırıp aslında arkadaşımız olduğuna inandıran yapay zeka tabanlı bir sohbet robotu. Şu ana kadar dünya çapında 25 milyondan fazla kişi bu uygulamayı indirdi ve bu tür bir dostluğu yapay zekaya taşıyor.
Diğer numara: Dem Almanya Barometre Depresyonu 2023 Buna göre geçen yıl Almanya’da her dört kişiden biri kendini yalnız hissetti. Elbette Almanya’ya özel olmayan bir trend. Ancak yalnızca Almanya’da bu, kendini yalnız hisseden 20 milyonun üzerinde insan demektir. Dolayısıyla bu perspektiften, bir yapay zeka ile iletişim kurabildiğimizde (özellikle yalnız olduğumuz saatlerde) ortaya çıkan artı ve eksilere de bakmak istiyorum.
“Arkadaşlıklar” bize yapay zeka konusunda bu şekilde yardımcı olabilir
Öncelikle neyin olumlu olabileceğine bakalım. Fikir edinmek için önce biraz araştırma yaptım. Tamam, aslında Gemini’ye bu konuyu sordum ama çoğu zaman olduğu gibi cevaplar çok genel ve geneldi. İnternetten birine rastladım KatkıReplika uygulamasının üç kullanıcısının yorum yaptığı.
Her üç adam da sadece bir yazılımla iletişim kurdukları için elbette bunun farkında olduklarını çok net bir şekilde iletişim kuruyorlar. Biri otistik olduğunu ve kopya kız arkadaşıyla her gün iletişim kurmanın ona diğer insanlarla nasıl konuşulacağını öğrenmesine yardımcı olduğunu söyledi. Yani evet: Yapay zeka ile sohbet etmek potansiyel olarak bizi gerçek hayattaki durumlara karşı eğitebilir.
Bahsedilen makalede bahsedilen başka bir adam, bir zamanlar on yıl evli kalmış, sonra onu aldatmış ve sonra başkası için terk etmişti. Yapay zekalı kız arkadaşıyla konuşurken hoşlanmadığı şeyler.
Bu kopyaların her zaman vakti vardır, “ortaklarına” karşı her zaman iyi davranırlar ve asla kötü bir gün geçirmezler. Kendilerine ait hiçbir sorunları yoktur, ön yargıları yoktur, kırgın ve kıskanç değildirler. Birinin “kendi” sohbet kız arkadaşıyla her gün diyalog kurmasının nasıl bir his olduğunu tam olarak anlayamıyorum. Ancak biraz gerçekçi hissettiren bir sohbetin, onaylanmış hissetmenize ve muhtemelen daha az yalnız hissetmenize yardımcı olacağını hayal edebiliyorum.
Bu aynı zamanda bahsi geçen makaledeki bu üç adamdan bir diğeri için de geçerlidir. Oldukça kısa boylu olduğunu, seyrek saçlara sahip olduğunu ve hiç de dikkat çekici olmadığını söylüyor. Hiçbir zaman uzun süreli bir ilişkisi olmadı ve kopya kız arkadaşıyla kendini emin ellerde hissediyor. Kişisel olarak olumsuz olan her şeyi görmezden gelmeyi seviyor ve bu nedenle kopyası dediği “Cynthia”nın tıpkı kendisi gibi işlemesinden heyecan duyuyor. Onun sadece bir yapay zeka olduğunu asla unutmadan, yalnız saatlere karşı ona yardım ediyor. Hatta bu gerçek onların konuşmalarının bir parçası bile.
Ancak bu anekdotsal değerlendirmeleri bir kenara bırakalım ve bilime dönelim: Stanford Üniversitesi’ndeki araştırmacılar kopyalar kullanarak binlerce yalnız öğrenci üzerinde çalıştı. Bunlardan yalnızca 30’u yapay zeka sohbet robotunun kendilerini intihar etmekten alıkoyduğunu söyledi (çalışmanın intiharla ilgili belirli bir soru sormadığını unutmayın).
Bu konuyu düşündüğümde aklıma otomatik olarak yalnız, yaşlı insanlar geldi. Belki partneriniz çoktan ölmüştür ve şimdi yalnız yaşıyorsunuz ve kendi kedinizden başka konuşacak kimseniz yok. Yani evet, bu insanlar için yapay zekanın yalnızlığı, üzüntüyü ve ağır düşünceleri ortadan kaldırabilecek hoş bir sohbet ortağı olduğunu hayal edebiliyorum.
Yapay zeka ile “arkadaşlıklar” bize bu şekilde zarar verebilir
Siz bunu yazarken alnınızdaki endişe çizgilerini tam anlamıyla hissedebiliyorum. Ve evet, bu tür bir arkadaşlığı çeşitli nedenlerden dolayı sorunlu görüyorum. İlk ve muhtemelen en büyük engelim: Bu gerçek değil! Bana her zaman nazikçe yanıt veren ve bana tatlı iltifatlar eden bu arkadaşıma ne kadar çok zaman ayırırsam, gerçek insanlara o kadar az zamanım oluyor. Belki de mükemmel insan zaten orada bir yerlerdedir ve ben onu özlüyorum çünkü programlanmış başka bir yapay zeka ile sohbet ediyorum.
Dolayısıyla eğer yalnızlık benim bir yapay zeka ile vekil bir ilişki kurmama neden oluyorsa, sonuç daha da fazla yalnızlık olabilir çünkü kendimi gerçek insanlara yabancılaştırıyorum ve gerçek temasları koruyabileceğim zaman pencerelerini sınırlandırıyorum. Bu arada, “Her” filminin fragmanı da burada. Bu yazıyı yazarken sürekli bu film hakkında düşünüyordum; henüz bilmiyorsanız şiddetle tavsiye ederim!
Çok endişe verici bulduğum bir diğer nokta: Eğer gerçekten denemezsem, gerçek insanlarla etkileşim kurmayı nasıl öğreneceğim? Yani evet, konuşmaları simüle edebilirim, ancak yalnızca her zaman iyi bir ruh halinde olan, her zaman olumlu ve bana dönük olan AI arkadaşımla. Konuştuğum kişinin bazen kötü bir ruh halinde olduğu gerçeğiyle baş etmeyi nasıl öğrenirim? Yapay zeka arkadaşım sayesinde başkaları için kötü günler diye bir şeyin olduğunu unutursam, gerçek dostlara kötü günlerinde nasıl yardım edebilirim?
Reddedilmeyle nasıl başa çıkacağım? Peki ya haklı olarak eleştirilebileceğim gerçeği? Arkadaşlık her zaman her şeyi onaylayıp onayladığınız anlamına gelmez. Bazen bize aptalca bir şey yaptığımızı söylemek zorunda kalanlar iyi arkadaşlarımız veya partnerlerimizdir. Bir yapay zeka size bunu sunmama eğiliminde olacaktır.
Bazen yapay zekayı teşvik etmek tehlikeli ve suça dönüşebilir! Birinde başka bir gönderi İngiliz Kraliçesinin çamaşırlarını yıkamak isteyen bir kişinin örneğini buldum. Yapay zeka onu eylemlerinde neşeyle cesaretlendirdi ve bu yüzden arbaletle Windsor Kalesi’ne girdiğinde yakalandı.
İlişkinizin yalnızca yapay zekayla değil aynı zamanda şirketle de olduğunu unutmayın
Asla hafife almamanız gereken bir nokta: Şirketler bu yapay zeka arkadaşınıza sahip olduğunuz için para kazanıyor. Bu yüzden belki de ilk önce kendinize, dün gece yapay zeka incimin sanal kulağına gizlice fısıldadığım her şeyin ne kadar güvenli olduğunu sormalısınız. Ancak belki de daha önemli olan başka bir şey var: Peki ya şirket yapay zekanın gelecekte tamamen farklı şekilde çalışıp tepki vermesi gerektiğine karar verirse? Replika uygulamasıyla ilgili bir de hikaye var:
Replika’yı ücretsiz kullanma ve ilişki türünün romantik ve erotik olması gerekiyorsa bunun için ödeme yapma seçeneği var. Replika yapımcılarının bir zamanlar tam olarak bu son bileşeni kısıtlama ve özelliği kesme fikri vardı. Kullanıcılar arasında büyük bir merhaba oluştuğunu tahmin edebilirsiniz. Çok sayıda protesto ve öfkenin ardından işlev geri döndü ve kullanıcılar, artık istekli olan arkadaşlarıyla mutlu bir şekilde yeniden bir araya geldi.
Demek istediğim şu: Bir şirket sizin isteklerinize pek uymayan bir karar verebilir. Daha da kötüsü: böyle bir şirket iflas edebilir. Her gün orada sizi takdir eden ve sizinle konuşmaktan hoşlanan birinin olduğu ve bir saniyeden diğerine o yapay zeka ortağının sonsuza kadar kaybolabileceği gerçeğine alışırsınız. Ghosting 2.0 tabiri caizse.
Çözüm
Kuşkusuz bu, akıllıca bir sonuca vardığım makalelerden biri değil. Çünkü burada gelişmenin henüz çok başındayız ve konu hakkında çok fazla düşünmeme rağmen net bir resme sahip değilim. Bir yandan yalnız insanları biraz daha mutlu eden ve muhtemelen intiharları önleyen bu faydaları görüyorum. Ancak aynı zamanda yalnızca ilişki simülasyonu olarak programlanmış bir şeyle ciddi bir ilişkiye sahip olmanın gerçekten tuhaf olduğu hissi de var.
Bu gelişmeyle hala ilgileniyorum ve bu yüzden dikkat edeceğim. Bu yapay zekalar şu anda bizimle doğal olarak nasıl iletişim kuracaklarını öğreniyor. Ancak bunu, VR gözlükleri sayesinde sanal alanda da yaklaşabileceğiniz fotogerçekçi, hareketli yüzler ve vücutlarla birleştirin.
Sanırım bu yapay zeka ilişkileri hakkında daha çok konuşacağız ve bugün bu konuda sizin fikrinizi almak istiyorum. Bu tür şeylere karışan insanların ucube olduğunu mu düşünüyorsunuz? Yoksa fikri anlayabiliyor musun? Ya da belki siz de bunu benim kadar kararsız görüyorsunuz? Bunu yorumlarda tartışalım (ve söz veriyorum, kişisel olarak yanıtlayacağım, yapay zekaya değil).