Sinyal Başkanı Meredith Whittaker Cuma günü Ajan AI’nin kullanıcı gizliliği riskiyle gelebileceği konusunda uyardı.
Austin, Teksas’taki SXSW Konferansı’nda sahnede konuşan, AI ajanlarının “beyninizi bir kavanoza koyma” olarak kullanılmasına atıfta bulundu ve bu yeni bilgi işlem paradigmasının kullanıcılar adına görevleri gerçekleştirdiği – hem gizlilik hem de güvenlik ile “derin bir sorun” olduğu konusunda uyardı.
Whittaker, AI ajanlarının kullanıcı için çeşitli çevrimiçi görevleri ele alarak hayatınıza değer katmanın bir yolu olarak nasıl pazarlandığını açıkladı. Örneğin, AI ajanları konser aramak, bilet rezervasyonu yapmak, etkinliği takviminizdeki planlamak ve arkadaşlarınıza rezerve edildiği mesaj atmak gibi görevleri üstlenebileceklerdir.
“Yani beynimizi bir kavanoza koyabiliriz çünkü şey bunu yapıyor ve ona dokunmak zorunda değiliz, değil mi?” Diye bağırdı Whittaker.
Daha sonra, AI temsilcisinin web tarayıcımıza erişim ve onu sürmenin bir yolu ve metni arkadaşlarınıza göndermek için biletler, takvim ve mesajlaşma uygulaması için kredi kartı bilgilerimize erişim dahil bu görevleri yerine getirmesi gereken erişimin türünü açıkladı.
“Bunu sürebilmesi gerekecek [process] Tüm sistemimizde, kök izni gibi görünen, bu veritabanlarının her birine erişen bir şeyle – muhtemelen net olarak, çünkü bu şifrelenecek bir model yok ”diye uyardı.
“Ve eğer yeterince güçlü bir… bunu güçlendiren AI modelinden bahsediyorsak, cihazda olmasının bir yolu yok” diye devam etti. “Bu neredeyse kesinlikle işlendiği ve geri gönderildiği bir bulut sunucusuna gönderiliyor. Dolayısıyla, bu yutturmacaların etrafında bu hype’ı rahatsız eden güvenlik ve mahremiyetle ilgili derin bir sorun var ve sonuçta bu ayrı hizmetlerin tümünü birleştirerek uygulama katmanı ile işletim sistemi katmanı arasındaki kan-beyin bariyerini kırmakla tehdit ediyor. [and] verilerini çamurlamak ”dedi.
Signal gibi bir mesajlaşma uygulaması AI ajanlarıyla entegre olacaksa, mesajlarınızın gizliliğini zayıflatacağını söyledi. Temsilci, arkadaşlarınıza mesaj göndermek için uygulamaya erişmeli ve ayrıca bu metinleri özetlemek için verileri geri çekmelidir.
Yorumları, panel sırasında AI endüstrisinin kitle veri toplama ile bir gözetim modeli üzerine nasıl inşa edildiğine dair daha önce yaptığı açıklamaları izledi. “Daha büyük daha iyi AI paradigması” – yani ne kadar çok veri, daha iyi – iyi olduğunu düşünmediği potansiyel sonuçları olduğunu söyledi.
Ajan AI ile Whittaker, “yaşamın zorunluluklarıyla ilgilenecek sihirli bir cin botu” adına gizlilik ve güvenliği daha da zayıflatacağımız konusunda uyardı.
