siyaset yakın zamanda bildirildi Crisis Text Line (Ulusal İntiharı Önleme Yaşam Hattına bağlı olmayan), müşteri hizmetleri temsilcilerinin empatik konuşmasını artırmak için tasarlanmış yapay zeka sistemleri oluşturan Loris.ai ile yapılan görüşmelerden verileri nasıl paylaşıyor. Crisis Text Line, akıl sağlığı tartışmaları için bir metin satırı sağlayan, kar amacı gütmeyen bir hizmettir, ancak aynı zamanda Loris.ai’nin hissedarıdır ve göre, siyaset, bir noktada şirketle bir CEO paylaştı.
Yardım hattı kullanıcıları gönüllü danışmanlarla konuşmadan önce veri toplamaya izin verirler ve okuyabilirler. şirketin veri paylaşım uygulamaları. siyaset Hatta bir gönüllünün, hatta iletişim kuran kişilerin “konuşmanın sadece konuşan iki kişi arasında olduğuna dair bir beklentisi olduğunu” söylediğini aktarıyor ve CTL’nin verileri işlemesiyle ilgili endişelerini dile getirdikten sonra Ağustos ayında kovulduğunu iddia ediyor. O zamandan beri aynı çalışan, CTL’yi “veri etiğinde reform yapmaya” zorlayan bir dilekçe başlattı.
siyaset Crisis Text Line’ın veri kullanımının ve yapay zekanın işleyişinde nasıl bir rol oynadığını söylediğini kaydetti:
“Veri bilimi ve yapay zeka, organizasyonun kalbinde yer alıyor – diyor ki, en yüksek riskli durumlarda bulunanların binlerce gönüllü danışmanından biriyle mesajlaşmaya başlamadan önce 30 saniyeden fazla beklememelerini sağlıyor. Amazon, Facebook ve Google’ın beğenilerden ve aramalardan elde ettiği eğilimlerle aynı şekilde, en ihtiyaç duyulan vakaları belirlemeye veya insanların sorunlarına odaklanmaya yardımcı olabilecek içgörüler için topladığı verileri taradığını söylüyor.
Yakın tarihli bir hikaye, veri gizliliği politikalarımız hakkında özenle seçilmiş ve atlanmış bilgiler. İnsanların etik veri gizliliğinin neden işimizin temeli olduğunu anlamaları için eksik olan gerçekleri açıklığa kavuşturmak ve doldurmak istiyoruz.
Bir iş parçacığı:
— Kriz Metin Hattı (@CrisisTextLine) 29 Ocak 2022
Raporun ardından Kriz Metin Hattı yayınlandı Bir deyim web sitesinde ve bir aracılığıyla Twitter dizisi. Crisis Text Line yaptığı açıklamada, “kişisel olarak tanımlanabilir verileri herhangi bir kuruluş veya şirketle satmadığını veya paylaşmadığını” söyledi. İddiaya devam ediyor “[t]Tamamen temizlenmiş ve anonimleştirilmiş verileri paylaştığımız tek kâr amacı gütmeyen ortak Loris.ai’dir. Loris.ai’yi, müşteri desteğini daha insani ve empatik hale getirmek için hizmetimizden çıkardığımız derslerden yararlanmak için kurduk. Loris.ai, diğer kar amacı gütmeyen şirketlere, müşteri hizmetleri temsilcileri ve müşteriler arasındaki en kötü bilinen stresli ve acılı anların bazılarında gerilimi azaltma tekniklerini kullanmalarında yardımcı olan, kar amacı gütmeyen bir şirkettir.”
Crisis Text Line savunmasında, “Veri temizleme sürecimiz, Crisis Text Line’ı “kişisel verilerin bir model temsilcisi” olarak adlandıran Elektronik Gizlilik Bilgi Merkezi gibi bağımsız gizlilik gözlemcileri tarafından doğrulandı. alıntı yapıyordu FCC’ye 2018 mektubuancak, Elektronik Gizlilik Bilgi Merkezi’nin (EPIC) yanıt vermesiyle bu savunma daha da sarsıldı. kendi ifadesi alıntının orijinal bağlamının dışında kullanıldığını söyleyerek:
“Bu mektuptaki açıklamalarımız, veri uygulamalarının teknik bir incelemesine değil, akademik araştırma paylaşımı için veri anonimleştirme ve temizleme politikaları hakkında CTL ile bir tartışmaya dayanıyordu. İncelememiz, CTL ile Loris.ai arasındaki ticari veri aktarımı düzenlemesi ile ilgili değildi ve CTL ile görüşmedik. Olsaydı, mahrem mesaj verilerinin ticari kullanımıyla ilgili etik kaygıları doğrudan kuruluş ve danışmanlarıyla gündeme getirebilirdik. Ama değildik ve şimdi mektubumuza yapılan atıf, bağlam dışında yanlış.”
Loris.ai web sitesinde, iddia ediyor “Kişisel verileri korumak, yaptığımız her şeyin merkezinde yer alır” ve “içgörülerimizi, Kişisel Olarak Tanımlanabilir Bilgilerden (PII) temizlenmiş anonimleştirilmiş, toplu verilerden alıyoruz.” Bu, Loris ve CTL’nin “ruh sağlığı yardımı arayan bireylerin ve çalışkan insanların (hayatlarının) en hassas, mahrem ve savunmasız anlarından ticari değer çıkarmaya çalıştıklarını vurgulayan EPIC için yeterli değil. gönüllü müdahaleciler… Hizmet şartlarındaki hiçbir veri temizleme tekniği veya ifadesi bu etik ihlali çözemez.”