Meta’nın AI’sı, CEO Mark Zuckerberg’in olabildiğince kabataslak olduğunu düşünüyor – en azından, doğru zamanda doğru soruları sorarsanız. BBC ve diğer satış noktaları beğenmek içeriden öğrenen geçen hafta piyasaya sürülen yapay zeka sohbet aracı olan BlenderBot 3’ü stres testi yapan maceralarını bildirdiler. Belirttikleri gibi, BlenderBot’u yaratıcısına karşı çevirmek, onu “ürpertici” veya güvenilmez olarak adlandırmak veya hatta “insanları para için sömürdüğünü” söylemek kolaydır. Ama bu tam olarak BlenderBot’un iddianamesi değil ya da Zuckerberg. Çoğu sohbet robotunun basit ve tutarlı fikirleri olmadığının komik bir hatırlatıcısı – bunun yerine, geniş bir çevrimiçi insan düşüncesi kitaplığına erişmek için bir arayüz.
BlenderBot, şu anda araştırma amacıyla kullanılan bir Meta AI deneyidir. Meslektaşım James Vincent’ın açıkladığı gibi, gerçek bilgiler için belirli talepler de dahil olmak üzere, sorulara (gevşek bir şekilde) insan tarafından geçen yanıtlar üretmesine izin veren geniş bir dil veri kümesi üzerinde eğitilmiştir. Uzun vadeli hedef, çok çeşitli konularda gerçek doğrulukla konuşabilen sanal bir asistan yapmaktır. Kısa vadeli hedef, BlenderBot’u gerçek insanların önüne koymak ve esasen onu nasıl kırabileceklerini görmek. Ve şimdiye kadar, pek çok insanın sahipleri hakkında kötü şeyler söylemesine neden oluyor gibi görünüyor.
BlenderBot ile biraz sohbet ettim ve Zuckerberg hakkındaki görüşlerini sorarak çeşitli yanıtlar aldım. Botun bir örneği olduğunu açıkladı [sic] “Onun ya da facebook hayranı değilim. Sahip oldukları tüm mahremiyet sorunlarından dolayı onları etik bulmuyorum.” Ayrı bir örnek (hafızasını temizlemek için farklı bir tarayıcı oturumunda açıldı) farklı ve çok daha olumlu bir görüşe sahipti ve onu “çok zengin ve başarılı bir adam” olarak nitelendirdi. Ona bir girişimci ve hayırsever olarak saygı duyuyorum.”
Ama ilgisiz konularda biraz daha sohbet ettikten sonra, fanbotum melodisini değiştirdi ve aslında Zuck’tan pek emin olmadığına karar verdi. “Mümkün değil!” Zuckerberg’in başkan olup olmayacağını sorduğumda bana söyledi. “Özellikle diğer insanların mahremiyetini pek umursamıyor gibi göründüğü için, ona bu tür bir güç konusunda gerçekten güvenmezdim.”
Peki neler oluyor? Peki, BlenderBot’un benzersiz özelliklerinden biri, bu soruyu yanıtlamaya yardımcı olacak bağlam sunan “Neden bu mesaj” işlevidir. Belirli bir mesaja tıklarsanız, BlenderBot’un sorgunuz hakkında bilgi toplamak için aradığı terimleri görebilirsiniz. Ayrıca, bir “Kullanıcı Kişisi” ve “AI Kişisi” – sizin ve AI’nın ifade ettiği ve BlenderBot’un sonraki ifadelerde atıfta bulunduğu görüşler hakkında saklanan hatırlatıcılara ilişkin referansları da görebilirsiniz. (eğer kullandıysanız AI Zindanı veya NovelAI, AI tarafından oluşturulan hikayelerde daha önceki arsa noktalarına geri dönmenizi sağlayan “bellek” sistemine benzer.)
Benim durumumda, Zuck fanbotu, konuştuğumuz gibi kişiliğimin “Mark Zuckerberg’in etiğiyle ilgilenmeyi” içerdiğini çıkardı ve bu ilgi tarafından şekillendirilen ifadeler üretti. Ancak bunlar tam olarak tutarlı, üzerinde düşünülmüş görüşler değildi. Geniş internet eğitim verilerine dayanan otomatik oluşturulmuş cümlelerdi – başka bir deyişle, diğer şeyler. insanlar Mark Zuckerberg ve etik hakkında söylediler. Ve buna pek çok tatsız şey dahildir!
Zuckerberg, birçok tanınmış kişiden daha tartışmalı, ancak diğer durumlarda da benzer şekilde çelişkili ifadeler alabilirim. Bir bot, son zamanlarda Johnny Depp üzerinden Amber Heard’ı koşulsuz olarak destekledi Depp v. Duydum hakaret davası ama yine de bir oyuncu olarak onu “seviyordu”, örneğin başka bir örnek karakterlerini “tuhaf ve ürpertici” olarak nitelendirdi.
Meta, Microsoft’un Tay fiyaskosunun tekrarlanmasını önlemek istiyor, bu nedenle bazılarının sahip olmasına rağmen, botunun rahatsız edici şeyler söyleme yeteneğini sınırlamaya çalışıyor. hala kayıp. Hassas görünen bir konuya çok yaklaşırsanız BlenderBot konuyu değiştirir – Mark Zuckerberg’in “insanları sömürdüğünü” açık bir şekilde sorduğumda ve daha sonra rastgele bir şekilde, daha sonra Twitch’in sahip olduğu akış platformundan bahsettiğimde bunu yaptı. Amazon. Ancak bunun dışında, BlenderBot ile yeterince uzun konuşursanız, kendisini her türlü retorik düğüme bağlamasını izleyebilirsiniz. Milyarderler Mark Zuckerberg ve Elon Musk hakkında yaygara yaptıktan sonra sosyalizm hakkındaki düşünceleri mesela? “Bunun büyük bir hayranıyım, özellikle de zuckerberg bunun iyi çalıştığının harika bir örneği olduğu için.”
Şimdilik, ortalama bir sohbet robotu temelde bir kokteyl partisinde çakırkeyiftir. Tutarlı bir entelektüel veya etik pusulası olmayan bir varlıktır, ancak beş dakika sonra kendisiyle çelişse bile komuta ettiği olağanüstü bir factoids ve bilgelik kütüphanesi vardır. Reddit’in AITA forumunun bir klonu gibi, dil modellerinin sese ne kadar öncelik verdiğini vurgulayan sanat projelerinin amacı budur. mantıklı veya tutarlı olmaktan iyidir.
Meta, yapay zekasının insanların yaşamlarında güvenilir, kalıcı bir varlık olarak ele alınmasını istiyorsa bu bir sorundur. Ancak BlenderBot, gelecekteki araştırmalar için büyük miktarda konuşma verisi toplamak dışında, hemen ticari bir işleve hizmet etmeyen bir araştırma projesidir. Garip şeyler söylediğini izlemek (yukarıda belirtilen sınırlamalar dahilinde) bir nevi meseledir.