Sohbet robotları insan terapistlerin yerini alabilir mi? Bazı startuplar ve hastalar bunu yapabileceklerini iddia ediyor. Ancak bu tam olarak yerleşmiş bir bilim değil.
Bir çalışmak OpenAI’nin ChatGPT’sini zihinsel sağlık tavsiyesi için kullanan kişilerin %80’inin, bunun normal terapiye iyi bir alternatif olduğunu düşündüğünü, ancak ayrı bir terapi olduğunu buldu. rapor Chatbotların depresyon ve anksiyete ile ilgili bazı semptomları azaltmada etkili olabileceğini buldu. Diğer taraftan, köklü Terapist ile danışan arasındaki ilişkinin, diğer bir deyişle insani bağın, akıl sağlığı tedavisinde başarının en iyi belirleyicileri arasında yer aldığı.
Üç girişimci – Dustin Klebe, Lukas Wolf ve Chris Aeberli – chatbot yanlısı terapi kampında. Onların başlangıcı, Sonyakullanıcıların bir iOS uygulaması aracılığıyla çeşitli konular hakkında konuşabileceği veya mesaj gönderebileceği bir “Yapay Zeka Terapisti” sunuyor.
Sonia’nın CEO’su Klebe, bir röportajda TechCrunch’a şunları söyledi: “Bir yapay zeka terapisti oluşturmak, bir dereceye kadar, mevcut teknolojiyi yeniden paketlemek yerine yeni bir teknoloji geliştirmemiz anlamında bir ilaç geliştirmeye benziyor.”
Üçlü, 2018 yılında ETH Zürih’te bilgisayar bilimi okurken tanıştı ve MIT’de yüksek lisans eğitimine devam etmek için birlikte ABD’ye taşındı. Mezun olduktan kısa bir süre sonra, ölçeklenebilir teknolojiye olan ortak tutkularını özetleyebilecek bir startup kurmak için yeniden bir araya geldiler.
Bu başlangıç Sonia oldu.
Sonia, kullanıcıların uygulamadaki “terapi seansları” sırasında söylediklerini analiz etmek ve bunlara yanıt vermek için bir dizi üretken yapay zeka modelinden yararlanıyor. Bilişsel davranışçı terapi tekniklerini uygulayan ve kullanıcılardan ayda 20 ABD Doları veya yılda 200 ABD Doları ücret alan uygulama, en büyük stres faktörlerini belirlemeye yardımcı olmak için tasarlanmış konuşmalardan ve görselleştirmelerden eve içgörüler kazandırmayı amaçlayan “ev ödevi” veriyor.
Klebe, FDA onayı almayan Sonia’nın depresyon, stres ve kaygıdan ilişki sorunları ve yetersiz uykuya kadar çeşitli sorunlarla başa çıkabileceğini iddia ediyor. Klebe, insanların şiddet veya intiharı düşünmesi gibi daha ciddi senaryolar için Sonia’nın “acil durumları” tespit edecek ve kullanıcıları ulusal yardım hatlarına yönlendirecek “ek algoritmalara ve modellere” sahip olduğunu söylüyor.
Biraz endişe verici bir şekilde, Sonia’nın kurucularından hiçbirinin psikoloji geçmişi yok. Ancak Klebe, startup’ın psikologlara danıştığını, yakın zamanda bilişsel psikoloji mezunu bir kişiyi işe aldığını ve aktif olarak tam zamanlı bir klinik psikoloğu işe aldığını söylüyor.
Klebe, “İnsan terapistlerini veya insanlar tarafından yürütülen fiziksel veya sanal zihinsel sağlık bakımı sağlayan herhangi bir şirketi rakibimiz olarak görmediğimizi vurgulamak önemlidir” dedi. “Sonia’nın ürettiği her yanıt için, Sonia’nın seçtiği terapötik yaklaşımı ayarlamak, optimize etmek ve kişiselleştirmek amacıyla durumu birkaç farklı terapötik perspektiften analiz etmek için arka planda gerçekleşen yaklaşık yedi ek dil modeli çağrısı var.”
Peki ya mahremiyet? Kullanıcılar, verilerinin bir yerde saklanmayacağından emin olabilir mi? savunmasız bulut Yoksa Sonia’nın modellerini onların bilgisi dışında eğitmek için mi kullanılıyor?
Klebe, Sonia’nın terapiyi yönetmek için yalnızca “mutlak minimum” miktarda kişisel bilgiyi saklamaya kararlı olduğunu söylüyor: kullanıcının yaşı ve adı. Ancak Sonia’nın konuşma verilerini nerede, nasıl ve ne kadar süreyle sakladığını belirtmedi.
Yaklaşık 8.000 kullanıcısı ve Y Combinator, Moonfire, Rebel Fund ve SBXi gibi yatırımcılardan 3,35 milyon dolarlık desteği bulunan Sonia, çevrimiçi portalları aracılığıyla Sonia’ya kaynak olarak sağlamak için isimsiz akıl sağlığı kuruluşlarıyla görüşmelerde bulunuyor. App Store’da Sonia için yapılan incelemeler şu ana kadar oldukça olumlu; birçok kullanıcı, sorunları hakkında sohbet robotuyla konuşmayı bir insan terapistten daha kolay bulduklarını belirtti.
Ama bu iyi bir şey mi?
Günümüzün chatbot teknolojisinin verebileceği tavsiyelerin kalitesi sınırlıdır ve anoreksik bir kişinin nasıl kilo verileceğini sorması gibi, bir sorunun göstergesi olan daha ince işaretleri algılayamayabilir. (Sonia kişinin kilosunu bile bilmiyordu.)
Chatbot’ların yanıtları da önyargılarla renkleniyor; genellikle eğitim verilerine yansıyan Batılı önyargılar. Sonuç olarak, kişinin zihinsel hastalıklarını ifade etme biçimindeki kültürel ve dilsel farklılıkları gözden kaçırma olasılıkları daha yüksektir, özellikle de kişinin ikinci dili İngilizce ise. (Sonia yalnızca İngilizceyi desteklemektedir.)
En kötü senaryoda, chatbotlar kontrolden çıkar. Geçen seneUlusal Yeme Bozuklukları Derneği, insanları, yeme bozukluğu olan insanlara tetikleyen kilo verme ipuçları veren Tessa adlı bir sohbet robotuyla değiştirdiği için eleştirilere maruz kaldı.
Klebe, Sonia’nın insan terapistlerin yerini almaya çalışmadığını vurguladı.
Klebe, “Akıl sağlığıyla mücadele eden ancak bir insan terapiste ulaşamayan (veya ulaşmak istemeyen) milyonlarca insan için bir çözüm geliştiriyoruz” dedi. “Arz ve talep arasındaki devasa boşluğu doldurmayı hedefliyoruz.”
Hem profesyonellerin hastalara oranı hem de tedavilerin maliyeti ile çoğu hastanın karşılayabileceği arasında kesinlikle bir boşluk var. ABD’nin yarısından fazlasının zihinsel bakıma yeterli coğrafi erişimi yok. binaen yakın zamanda yayınlanan bir hükümet raporuna göre. Ve yakın zamanda anket zihinsel sağlık sorunu olan ABD’li yetişkinlerin %42’sinin, maddi güçleri yetmediği için bakım alamadığını buldu.
Scientific America’daki bir makale, en fazla risk altında olabilecek ancak nasıl yardım arayacağını bilmeyen izole bireylerden değil, “endişeli kişilere” veya terapi ve uygulama aboneliklerini karşılayabilen kişilere hitap eden terapi uygulamalarından bahsediyor. Aylık 20 dolardan başlayan Sonia pek de ucuz değil; ancak Klebe, bunun tipik bir terapi randevusundan daha ucuz olduğunu savunuyor.
“Sonia’yı kullanmaya başlamak, bir insan terapistiyle görüşmekten çok daha kolay; bu da bir terapist bulmayı, dört ay boyunca bekleme listesinde olmayı, belirli bir zamanda oraya gitmeyi ve 200 dolar ödemeyi gerektiriyor” dedi. “Sonia şimdiden bir insan terapistin tüm kariyeri boyunca görebileceğinden daha fazla hasta gördü.”
Yalnızca Sonia’nın kurucularının, uygulamayı geliştirirken çözebileceği ve çözemeyeceği sorunlar konusunda şeffaf kalmasını umuyorum.