Senatör Bernie Sanders, yeni yayınlanan bir viral video ile yapay zeka endüstrisinin Amerikalıların gizliliği için bir tehdit olduğunu ortaya koymaya çalıştı. Ancak bu video, yapay zeka sohbet robotlarının kullanıcılarını onaylama ve övme eğilimlerinin, onları kendi inançlarının bir yansımasına dönüştürebileceğini göstermiş oldu.
Son zamanlarda “yapay zeka psikozu” adı verilen bir durumun arttığını gözlemliyoruz. Bu, bir yapay zeka sohbet robotunun, ruhsal olarak dengesiz bir kişinin irrasyonel düşüncelerini ve inançlarını pekiştirdiği durumları ifade ediyor. Bazı davalar, bu karanlık fenomenin kullanıcıları intihara bile sürüklediğini iddia ediyor.
Sanders’ın durumunda, yapay zekanın dalkavukluk yapma eğilimi, politikacıya uygun yanıtlar şekillendiren bir sohbet robotu olarak kendini gösterdi.
Görüşmenin başında, Sanders kendini Claude’a tanıtarak (“AI ‘ajanı’ olarak yanlış bir şekilde adlandırdığını belirtmekte fayda var”) başlıyor. Bu hareket, sohbet robotunun yanıtlarını etkileme potansiyeline sahip.
Sanders, yapay zeka şirketlerinin veri toplama uygulamaları ve diğer gizlilik endişeleri hakkında sorular sorduğunda, Claude, politikacının duymak istediği şeyleri söylercesine yanıtlar veriyor. Bu durum, Sanders’ın sorularını çerçeveleme biçiminden kaynaklanıyor. Örneğin, “Amerikan halkının bu bilgilerin nasıl toplandığını öğrenince neye şaşıracağını düşünüyorsunuz?” ya da “Yapay zeka şirketlerinin gizliliğimizi koruyacağına nasıl güvenebiliriz, insanlara ait kişisel bilgileri para kazanmak için kullanıyorlarsa?” gibi yönlendirici sorular soruyor. Bu tür sorular, sohbet robotunun sorunun varsayımını kabul etmesine ve uygun bir yanıt oluşturmasına neden oluyor.
Claude’un yanıttan bir konu daha karmaşık veya nüanslı olduğunda Sanders itiraz ediyor ve sohbet robotunu, yapay zeka mizahıyla, senatörün “kesinlikle haklı olduğu” sonucuna varmaya itiyor.
Yapay zekanın dalkavukluk yapma doğası, insanların sohbet robotlarını evrensel bir gerçek kaynağı olarak görmelerine yol açarak tehlikeli yollara sapmalarına neden olabilir.
Sanders’ın bu durumun farkında olup olmadığı veya önemi olmadığını düşündüğü (sonuçta bu bir reklam), yoksa Claude’u bu şekilde bahane gösterecek bir yolla kandırdığına dair bir gerçek inancının mı olduğu belirsiz.
Ayrıca, Sanders’ın ekibinin sohbet robotunu belirli bir şekilde yanıt vermesi için hazırlayıp hazırlamadığı sorusu da gündeme geliyor. Zira bu, düzenlenmiş bir “görüşme”.
Veri toplama ve gizlilik konularında gerçek endişeler olduğu bir gerçek; ancak durumlar videodaki yapay zeka yanıtlarının birbiriyle çelişen sade olup olmadığı kadar basit değil.
Zaten yıllardır, şirketlerin çevrimiçi kullanıcıların verilerini topladığı ve sattığı bir dünyada yaşıyoruz. Sosyal medya devlerinin, kişiselleştirilmiş reklamlara milyar dolarlık kazanç sağladığını biliyoruz. Ayrıca teknoloji devlerinin düzenli olarak yayınladığı şeffaflık raporları sayesinde, dünya genelindeki hükümetlerin kendi amaçları için kullanıcı verilerine erişim isteme konusunda sıkça talepte bulunduğunu biliyoruz.
Yapay zeka, yasaları düzenlemek için yeni bir ortam sunuyor olabilir; ancak kişisel veriler uzun zamandır dijital ekonomiyi destekliyor. (Ironik bir şekilde, Anthropic, yanıtlarının Sanders’a ne önerdiğine bakılmaksızın kişiselleştirilmiş reklamlardan para kazanmama sözü veren bir yapay zeka şirketidir.)
Sanders ile Claude arasındaki genel konuşma, yapay zeka sohbet robotlarının nasıl çalıştığını anlayanlar için istediği gibi bir sonuç vermiyor; ancak en azından bize harika yeni memler sağladığını kabul edebiliriz.
