Sevgililer Günü’nde yalnız mısınız? Yapay zeka yardımcı olabilir. En azından “romantik” sohbet robotları satan bazı şirketlerin size söyleyeceği şey budur. Ancak robot aşk hikayeniz ortaya çıktıkça, farkında olmadığınız bir ödünleşme ortaya çıkar. Mozilla’nın *Gizlilik Dahil Değil projesindeki yeni bir araştırmaya göre, AI kız arkadaşları ve erkek arkadaşları şaşırtıcı derecede kişisel bilgiler topluyorlar ve neredeyse hepsi topladıkları verileri satıyor veya paylaşıyorlar.
Mozilla Araştırmacısı Misha Rykov bir basın açıklamasında, “Açıkçası, AI kız arkadaşları ve erkek arkadaşları sizin arkadaşınız değil” dedi. “Her ne kadar zihinsel sağlığınızı ve refahınızı artıracak bir şey olarak pazarlansalar da, sizden mümkün olduğunca fazla veri toplarken bağımlılık, yalnızlık ve zehirlilik sağlama konusunda uzmanlaşıyorlar.”
Mozilla’nın içine girdi 11 farklı yapay zeka romantik sohbet robotuReplika, Chai, Romantic AI, EVA AI Chat Bot & Soulmate ve CrushOn.AI gibi popüler uygulamalar dahil. Her biri Gizlilik Dahil Değil etiketini kazandı ve bu sohbet robotları Mozilla’nın şimdiye kadar incelediği en kötü ürün kategorileri arasına girdi. Bu hikayede bahsedilen uygulamalar yorum taleplerine hemen yanıt vermedi.
Daha önce veri sorunlarıyla ilgili hikayeler duymuşsunuzdur, ancak Mozilla’ya göre AI kız arkadaşları “rahatsız edici yeni yollarla” gizliliğinizi ihlal ediyor. Örneğin CrushOn.AI, cinsel sağlık, ilaç kullanımı ve cinsiyet onaylayıcı bakım hakkında bilgiler de dahil olmak üzere ayrıntıları toplar. Uygulamaların %90’ı, hedefli reklamlar ve diğer amaçlar için kullanıcı verilerini satabilir veya paylaşabilir ve yarıdan fazlası, topladıkları verileri silmenize izin vermez. Güvenlik de sorundu. Yalnızca bir uygulama, Genesia AI Friend & Partner, Mozilla’nın minimum güvenlik standartlarını karşıladı.
En çarpıcı bulgulardan biri, Mozilla’nın bu uygulamalardaki izleyicileri (veri toplayan ve bunları reklam ve diğer amaçlarla diğer şirketlerle paylaşan küçük kod parçalarını) saymasıyla ortaya çıktı. Mozilla, AI kız arkadaşı uygulamalarının dakikada ortalama 2.663 izleyici kullandığını buldu, ancak bu sayı, uygulamayı kullandıktan sadece bir dakika sonra 24.354 izleyici çağıran Romantik Yapay Zeka tarafından artırıldı.
Gizlilik karışıklığı daha da rahatsız edici çünkü uygulamalar sizi tipik bir uygulamaya girebileceğiniz türden çok daha kişisel ayrıntıları paylaşmaya aktif olarak teşvik ediyor. EVA AI Chat Bot & Soulmate, kullanıcıları “tüm sırlarınızı ve arzularınızı paylaşmaya” teşvik ediyor ve özellikle fotoğraf ve ses kayıtları istiyor. Uygulamanın güvenlik sorunları olmasına rağmen, EVA’nın bu verileri nasıl kullandığı konusunda olumsuz etkilenmeyen tek sohbet robotu olduğunu belirtmekte fayda var.
Veri sorunları bir yana, uygulamalar aynı zamanda ne işe yaradıkları konusunda da bazı şüpheli iddialarda bulunuyordu. EVA AI Chat Bot & Soulmate kendisini “ruh halinizi ve refahınızı iyileştirmek için geliştirilmiş bir yazılım ve içerik sağlayıcısı” olarak tanımlıyor. Romantik yapay zeka, “RUH SAĞLIĞINIZI korumak için burada” olduğunu söylüyor. Ancak şirketin şartlarını ve hizmetlerini okuduğunuzda, kendi iddialarından uzaklaşmak için ellerinden geleni yapıyorlar. Örneğin, Romantik Yapay Zeka’nın politikaları, onun “ne sağlık hizmeti ya da tıbbi Hizmet sağlayıcısı ne de tıbbi bakım, akıl sağlığı Hizmeti ya da başka bir profesyonel Hizmet sağlayıcısı” olmadığını söylüyor.
Bu uygulamanın geçmişi göz önüne alındığında, bu muhtemelen ele alınması gereken önemli bir yasal zemindir. Replika’nın bir adamın girişimini teşvik ettiği bildirildi İngiltere Kraliçesine suikast düzenlemek. İddiaya göre bir Chai sohbet robotu bir kullanıcıyı intihara teşvik etti.