Teknolojinin ne kadar büyük veriyi ele geçirdiğiyle ilgili süregelen sorunların ardından bireyler Ve işletmeler AI hizmetlerinin eğitiminde, Salesforce’a ait sohbet platformunun AI vizyonuyla nasıl ilerleme kaydettiği konusunda üzgün olan Slack kullanıcıları arasında bir fırtına yaklaşıyor.
Şirket, diğerleri gibi, yeni yapay zeka hizmetlerinden bazılarını eğitmek için kendi kullanıcı verilerinden yararlanıyor. Ancak Slack’in verilerinizi kullanmasını istemiyorsanız şirkete e-posta göndermeniz gerektiği ortaya çıktı.
Ve bu katılımın şartları, kimsenin dikkat etmediği, güncelliğini kaybetmiş, kafa karıştırıcı bir gizlilik politikasının içinde gizlenmiş durumda. Slack’te de durum böyleydi, ta ki geliştiriciler arasında oldukça popüler olan bir topluluk sitesinde kırgın bir kişi onlar hakkında paylaşım yapana ve ardından bu gönderi viral hale gelene kadar… burada da olan buydu.
Her şey dün gece başladı Hacker Haberleri üzerine bir not Slack’in yapay zeka hizmetlerini doğrudan bağlantı yoluyla nasıl eğittiği konusunu gündeme getirdi. gizlilik ilkeleri – ek yoruma gerek yoktu. Bu gönderi, Slack’in kullanıcıları varsayılan olarak yapay zeka eğitimine dahil ettiği ve bu durumdan çıkmak için belirli bir adrese e-posta göndermeniz gerektiği yönünde daha uzun bir sohbeti (ve mevcut Slack kullanıcılarına haber gibi görünen) başlattı.
Hacker News konusu daha sonra teşvik edildi çoklu üzerine konuşmalar ve sorular diğer platformlar: Yeni, jenerik isimli bir ürün var: “Gevşek AIBu, kullanıcıların diğer şeylerin yanı sıra cevapları aramasına ve konuşma konularını özetlemesine olanak tanıyor, ancak gizlilik politikasının bunun için geçerli olup olmadığını açıkça belirtmek için bile neden bu gizlilik ilkeleri sayfasında herhangi bir şekilde adı geçmiyor? Ve Slack neden hem “küresel modellere” hem de “Yapay Zeka modellerine” atıfta bulunuyor?
İnsanlar Slack’in yapay zeka gizlilik ilkelerini nerede uyguladığı konusunda kafası karışıkken, “Verileriniz sizin kontrolünüz altında” diye çığırtkanlık yapan bir şirkette, e-postayla e-posta gönderme fikrine şaşıran ve sinirlenen insanlar arasında Slack bunu yapıyor. iyi çıkmayın.
Şok yeni olabilir ama şartlar yeni değil. Sayfalardaki bilgilere göre İnternet Arşivişartlar en az Eylül 2023’ten beri geçerlidir. (Şirketten onaylamasını istedik.)
Gizlilik politikası uyarınca Slack, müşteri verilerini özellikle “küresel modelleri” eğitmek için kullanıyor ve Slack bunu kanal ve emoji önerileri ile arama sonuçlarını güçlendirmek için kullanıyor. Slack bize veri kullanımının belirli sınırları olduğunu söylüyor.
“Slack, kanal ve emoji önerileri ve arama sonuçları gibi şeyler için platform düzeyinde makine öğrenimi modellerine sahip. Bir şirket sözcüsü TechCrunch’a “Bu modelleri öğrenebilecekleri, ezberleyebilecekleri veya müşteri verilerinin bir kısmını yeniden üretebilecekleri şekilde oluşturmuyoruz veya eğitmiyoruz” dedi. Ancak politikanın genel kapsamı ve şirketin yapay zeka modellerini eğitmeye yönelik daha geniş planlarını ele aldığı görünmüyor.
Slack, müşterilerin veri eğitimini devre dışı bırakmaları halinde şirketin “küresel olarak eğitilmiş AI/ML modellerinden” faydalanmaya devam edeceklerini söylüyor. Ancak yine de bu durumda şirketin emoji önerileri gibi özellikleri desteklemek için neden müşteri verilerini ilk etapta kullandığı açık değil.
Şirket ayrıca Slack AI’yi eğitmek için müşteri verilerini kullanmadığını da söyledi.
“Slack AI, büyük dil mModelleri (LLM’ler) kullanan ancak bu LLM’leri müşteri verileri konusunda eğitmeyen, ayrıca satın alınan bir eklentidir. Slack AI, doğrudan Slack’in AWS altyapısında barındırılan LLM’leri kullanır, böylece müşteri verileri şirket içinde kalır ve herhangi bir LLM sağlayıcısıyla paylaşılmaz. Bu, müşteri verilerinin o kuruluşun kontrolünde kalmasını ve yalnızca o kuruluşun kullanımı için kalmasını sağlar” dedi bir sözcü.
Bazı karışıklıkların er ya da geç çözülmesi muhtemeldir. Slack mühendisi Aaron Maurer, mühendis ve yazar Gergely Orosz’un Threads hakkındaki eleştirel değerlendirmesine yanıt olarak kabul edildi Şirketin sayfayı “bu gizlilik ilkelerinin Slack AI ile nasıl çalıştığını” yansıtacak şekilde güncellemesi gerekiyor.
Maurer, bu terimlerin şirketin Slack AI’ye sahip olmadığı bir dönemde yazıldığını ve bu kuralların şirketin arama ve öneriler konusundaki çalışmalarını yansıttığını ekledi. Slack’in yapay zekasıyla şu anda ne yaptığına dair kafa karışıklığı göz önüne alındığında, gelecekteki güncellemelerin şartlarını incelemek faydalı olacaktır.
Slack’teki sorunlar, hızlı hareket eden yapay zeka geliştirme dünyasında kullanıcı gizliliğinin sonradan akla gelen bir düşünce olmaması gerektiğini ve bir şirketin hizmet şartlarının, verilerin nasıl ve ne zaman kullanılacağını veya kullanılıp kullanılmayacağını açıkça belirtmesi gerektiğinin açık bir hatırlatıcısıdır.
Bir AI bülteni başlatıyoruz! Üye olmak Burada 5 Haziran’da gelen kutularınıza almaya başlamak için.