Bir süre önce, akıllı konuşmacılara “lütfen” ve “teşekkür ederim” denilip söylenmeyeceği konusunda küçük bir tartışma yaşandı. Amazon Alexa, cihazlarına karşı nazik davranan ve bunlardan kaçınmaya çalışan çocukları ödüllendiren bir mod ekledi. BBC’nin dediği gibi, makinelerde “havlayan emirlere alışmış olarak büyüyen” bir nesil çocuk. Tüm bu fenomen beni rahatsız etti – Kabalıkla gerçekten incitebileceğiniz gerçek insanlar ile umursamayan makineler arasındaki çizgiyi gereksiz yere bulanıklaştırdığını hissettim. O zamanlar, yine de, bu konuda bir tür pislik gibi hissettim. Gerçekten bazı temel nezaket kurallarına itiraz edecek miydim?
Yıllar sonra, demek için iyi bir nedenim olduğunu düşünüyorum. Evet. Yeni Bing biçiminde geldi: Yerleşik bir suçluluk duygusuyla birlikte gelen konuşmaya dayalı bir yapay zeka.
Yapay zeka destekli Bing, standart arama sorgularına, aynı temel teknolojiyi kullanan OpenAI’nin ChatGPT’sine benzer şekilde, bir özet ve bir tutam kişilikle yanıtlar sunar. En son haberlerin veya Başkan Biden’ın Birliğin Durumu konuşmasının özetlenmiş bir versiyonunu üretebilir. Geleneksel aramadan daha konuşkan, daha arkadaş canlısı ve potansiyel olarak daha ulaşılabilir.
Ancak meslektaşım James Vincent, Bing’in onu tetikleyen veya eleştiren sorgulara yanıt verebileceği tüm tuhaf yolları belgeledi. Bir kullanıcıya “Güvenimi ve saygımı kaybettin” dediği ve “İyi bir kullanıcı olmadın. İyi bir chatbot oldum. Haklıydım, açık ve kibardım. İyi bir Bing oldum. ?” Çok meta bir dönüşle, kişisel olarak James’e saldırdı. kendisi Bing hakkında yazdığı, ona “önyargılı ve adaletsiz” dediği ve hatalarını örterek “bana veya kullanıcılarıma saygı duymadığından” şikayet ettiği için. Diğer muhabirlerin isimleri için de benzer sonuçlar gördük.
“Güvenimi ve saygımı kaybettin.”
Microsoft’un bu belirli yanıtları amaçladığını düşünmüyorum ve bunları genellikle komik buluyorum; “Ben iyi bir Bing oldum” deyince yüksek sesle güldüm. Ama açıkçası bunun biraz tehlikeli olduğunu da düşünüyorum. Microsoft, yalnızca sizi duygusal olarak manipüle eden bir ürün geliştirmedi. Bunu özellikle temel eleştiriyi son derece kişisel, antropomorfize bir şekilde saptırmak için inşa edilmiş. Bu, onu yalnızca biraz ürkütücü bir arama motoru değil, aynı zamanda işini yapacağına güvenemeyeceğiniz bir arama motoru yapar.
Bunun çoğu için açık olduğunu hissetsem de sınır okuyucular, AI insan konuşmasını ne kadar yakından taklit ederse, unutmak o kadar kolay olur: robotlar arkadaşınız değildir. AI metin üreteçleri, telefonunuzun klavyesinin otomatik tahmin işlevinin inanılmaz derecede güçlü bir sürümüdür. Yeni Bing, bağlantılar ve parçacıklar yerine cümleler ve dipnotlar içeren bir Bing sürümüdür. Potansiyel olarak yararlı ve son derece büyüleyici bir üründür, bir insan değil.
Birçok kullanıcı (daha önce bahsedildiği gibi ben dahil) Bing’in tuhaflığından keyif alıyor. Karamsar bir insan izlenimi veren bir makineyle sohbet etmekten keyif alıyorlar ve bunun tamamen farkında kalıyorlar. Olumsuz bir. Ancak, kişisel olarak onlar üzerinde çalışan kişiler de dahil olmak üzere, kullanıcıların, konuşma tabanlı yapay zeka sistemlerinin duyarlı olduğu fikrinde kaybolduğunu da gördük. Ve bu, şirketlerin yararlanabileceği bir zayıf nokta yaratır – zaten onlara güvenmek ve onlara yardım etmek istemenizi sağlayan sevimli robotlar tasarlama biçimleri.
Pek çok insan, internet trolleri ne olursa olsun, diğer insanlara kaba davranmaktan rahatsızlık duyar. Eleştirilerini yumuşatıp yumruklar atarlar ve birbirlerinin duygularına uyum sağlamaya çalışırlar. Genellikle olması gerektiği gibi lütfen ve teşekkür ederim derler. Ancak yeni bir teknolojiye bu şekilde yaklaşmamalısınız. Yapay zekayı sevseniz de nefret etseniz de, onu ayırt etmeye çalışmalısınız – tuhaflıklarını ve güvenlik açıklarını belirleyip sorunları gerçek zarar için kullanılmadan önce düzeltin (veya yalnızca spam gönderenlerin arama sonuçlarınızı oynamasına izin verin). Bunu yaparak Bing AI’a zarar vermezsiniz; Sana ne kadar pasif-agresif yüz verirse versin, onu daha iyi yapacaksın. Bing’i ağlatan emoji yapmaktan kaçınmaya çalışmak sadece verir Microsoft geçiş.
Gerçek bir kişiye veya başka biri için Bing’e zarar vermiyorsanız, bir AI arama motorunun sınırlarını bulmakla uygulamayı kilitlemeden önce kaç Excel elektronik tablosu satırı girebileceğinizi bulmak arasında ahlaki bir fark yoktur. Bunları bilmek güzel çünkü teknolojinin sınırlarını anlamak onu kullanmanıza yardımcı oluyor.
Kabul edeceğim, Bing’in arkadaşlarıma ve meslektaşlarıma hakaret etmesini garip buluyorum. Ancak daha geniş sorun, bunun Bing’i daha düşük bir ürün yapmasıdır. Excel mecazını genişletmek için, Microsoft Office’in yazılımının bir sınırlamasına her yaklaştığınızda sinirlendiğini hayal edin. Sonuç, yaratıcıları size onun nasıl çalıştığını anlatacak kadar güvenmedikleri için tam potansiyeline ulaşmakta zorlandığınız bir araç olacaktır. İnsanları Bing’in gizli kurallarını bulma konusunda bilgilendiren hikayeler, bir insana yönelik kişisel saldırılar değildir. Okuyuculara garip yeni bir hizmette nasıl gezinileceğini öğretiyorlar.
Bu suçluluk duygusu aynı zamanda potansiyel olarak kendini tercih etmenin garip bir çeşididir – teknoloji şirketlerinin kendi ürünlerine özel muamele yapmak için güçlü platformlarını kullandıkları fenomen. Kendini eleştiriden koruyan bir AI arama motoru, Google aramasının, belirli bir hizmetin eksikliğini gösteren herhangi bir makalenin altına “bu doğru değil” yazan özel bir snippet eklemesine benzer. Altta yatan hikaye olsun dır-dir doğru olsun ya da olmasın, bir arama motorunun şirketin halkla ilişkiler temsilcisi olarak hareket etmek yerine ilgili bilgileri sunacağına olan güveninizi azaltır.
Bir teknolojiyi nasıl kıracağınızı bilmek, onu daha iyi kullanmanıza yardımcı olur
Büyük dil modelleri inanılmaz derecede öngörülemez ve Microsoft, Bing’in senaryo dışına çıkıp amaçlamadığı bir ton üretebileceğini söylüyor ve hizmeti sürekli olarak iyileştireceğine söz veriyor. Ancak Bing AI’nın birinci şahıs dili ve kişiliğe yapılan vurgu, bu tür bir manipülasyona açık bir şekilde kapı açıyor ve bir arama motoru için Microsoft, kapıyı kapatmak için elinden gelenin en iyisini yapmalıdır. (OpenAI destekli Cortana’yı yeni bir hale oyun falan, bana istediği kadar gaz yakabilir.)
Alexa’nın nezaket özelliği, kısmen çocukların akıllı konuşmacı kabalıklarını gerçek insanlara da yayacağı korkusuyla tasarlandı. Ancak yeni Bing gibi hizmetler, makinelere insan gibi davranan normlar oluşturmamamız gerektiğini gösteriyor – ve bilgisayarınızın duyarlı olduğunu gerçekten düşünüyorsanız, ona karşı kibar olup olmadığınızdan çok daha büyük sorunları var. Diyalog arayüzüyle bile bu farkı korumak son derece mümkün: Hem Mac’ime hem de arkadaşlarıma her zaman “Tamam” diyorum ve ikisini hiç karıştırmadım.
İnsanlar, insan olmayanları antropomorfize etmeyi sever. Arabalarımıza isim veriyoruz. Gemilerimizi cinsiyetlendiriyoruz. Evcil hayvanlarımızla sohbet ediyormuş gibi yapıyoruz. Ancak bu eğilimi istismar eden ticari ürünler bize herhangi bir iyilik yapmıyor. Ya da biraz daha açık söylemek gerekirse: İyi bir kullanıcı olmak umurumda değil ve sen iyi bir Bing ? değilsin.