Duygu okuyan yapay zeka konusunda fazla duygusal olmayın

Buna “yapay duygusal zeka” deyin – artık bir insan kullanıcının duygusal durumunu tespit edebilen yapay zeka (AI) türü.

Yoksa yapabilir mi?

Daha da önemlisi, yapmalı mı?

Çoğu duygu yapay zekası, “Temel duygular” teorisi, insanların evrensel olarak altı içsel duygusal durumu hissettikleri anlamına gelir: mutluluk, sürpriz, korku, iğrenme, öfke ve üzüntü ve bu durumları yüz ifadesi, beden dili ve ses tonlaması yoluyla aktarabilir.

Salgın sonrası, uzaktan çalışma dünyasında, satış görevlileri görüntülü aramalar üzerinden satış yaptıkları kişileri “okumakta” ​​zorlanıyor. Yazılımın duygusal tepkiyi aramanın diğer ucuna iletmesi güzel olmaz mıydı?

gibi şirketler tek biçimli ve Sybill üzerinde çalışıyorlar. tek biçimliÖrneğin, “Q for Sales” uygulaması, video aracılığıyla sözlü olmayan ipuçlarını ve beden dilini ve ses aracılığıyla ses tonlaması ve diğer verileri işler ve bir “duygu puan kartı” ile sonuçlanır.

Bilgisayarlar aracılığıyla insan bağlantıları kurma

Zoom’un kendisi bu fikirle flört ediyor. Nisan ayında Zoom bir deneme başlattı Satış için Zoom IQtoplantı sahipleri için Zoom çağrılarının dökümlerini ve “duygu analizini” oluşturan – gerçek zamanlı olarak değil, toplantıdan sonra; Eleştiri sertti.

Bazı insanlar duyguları okuma konusunda yapay zekadan yardım alma fikrini severken, diğerleri duygusal durumlarının makineler tarafından değerlendirilmesi ve iletilmesi fikrinden nefret eder.

Duygu tespit eden yapay zeka araçlarının kullanılıp kullanılmaması sorusu, birçok endüstrinin ve genel olarak halkın uğraşması gereken önemli bir sorudur.

İşe alım, mülakatçıların doğruluğu, samimiyeti ve motivasyonu anlamalarını sağlayan duygusal yapay zekadan faydalanabilir. İK ekipleri ve işe alım yöneticileri, bir şirkete katılma konusundaki heyecan ve öğrenmeye istekli olmaları konusunda rütbeli adayları sevecektir.

Hükümette ve kolluk kuvvetlerinde duygu algılama yapay zekası çağrıları da artıyor. Sınır devriye ajanları ve Ulusal Güvenlik yetkilileri, teknolojinin kaçakçıları ve sahtekarları yakalamasını istiyor. Kolluk kuvvetleri, duygu AI’yı polis sorgulamalarında bir araç olarak görüyor.

Duygu AI müşteri hizmetleri, reklam değerlendirme ve hatta güvenli sürüş uygulamalarına sahiptir.

Duygu yapay zekasının günlük iş uygulamalarında ortaya çıkması, çalışanlara çağrılarda ve iş toplantılarında diğerlerinin duygularını aktarması ve işyerinde sürekli ruh sağlığı danışmanlığı sunması sadece an meselesi.

Duygu AI neden insanları üzüyor?

Ne yazık ki, duygu tespiti “bilimi” hala bir tür sahte bilimdir. Duygu algılama AI ile bazen duygusal bilgi işlem olarak adlandırılan pratik sorun basittir: insanları okumak o kadar kolay değildir. Bu gülümseme mutluluğun mu yoksa utanmanın mı sonucu? Bu kaş çatma derin bir iç duygudan mı geliyor, yoksa ironik mi yoksa şaka mı?

Başkalarının duygusal durumunu tespit etmek için yapay zekaya güvenmek, kolayca yanlış bir anlayışa neden olabilir. İşe alma veya kolluk kuvvetleri gibi önemli görevlere uygulandığında, yapay zeka yarardan çok zarar verebilir.

İnsanların, özellikle iş ve satış toplantılarında, duygusal durumlarını rutin olarak maskeledikleri de doğrudur. AI yüz ifadesini algılayabilir, ancak arkasındaki düşünce ve duyguları algılayamaz. İş adamları gülümser, başlarını sallar ve empatik bir şekilde kaşlarını çatarlar çünkü bu, gerçek duygularını açığa vurdukları için değil, sosyal etkileşimlerde uygun olur.

Tersine, insanlar derine inebilir, içlerindeki Meryl Streep’i bulabilir ve işi almak için duygularını gösterebilir veya Ulusal Güvenlik’e yalan söyleyebilir. Başka bir deyişle, duygu AI’sının uygulandığı bilgisi, teknolojiyi oynamak için ters bir teşvik yaratır.

Bu, duygu AI ile ilgili en büyük ikiliğe yol açar: iş dünyasında kullanmak etik midir? İnsanlar duygularının yapay zeka tarafından okunmasını ve değerlendirilmesini istiyor mu?

Genel olarak, örneğin bir satış toplantısındaki insanlar, aktardıkları duyguları kontrol etmek isterler. Gülümsüyorsam ve heyecanlı görünüyorsam ve size bir ürün, hizmet veya girişim hakkında mutlu ve heyecanlı olduğumu söylüyorsam, buna inanmanızı istiyorum — niyetimdeki iletişimi atlamayın ve iznim olmadan gerçek hislerimi öğrenmeyin.

Satış görevlileri, gizli kalmasını istedikleri duyguları değil, potansiyel müşterilerin iletmeye çalıştığı duyguları okuyabilmelidir. Duygusal AI’nın nasıl çalıştığına dair daha kapsamlı bir anlayışa yaklaştıkça, giderek bir gizlilik meselesi gibi görünüyor.

İnsanların özel duygulara hakkı vardır. İşte bu yüzden Microsoft’un duygu yapay zekasının etik uygulamasında bir lider olarak ortaya çıktığını düşünüyorum.

Microsoft bunu nasıl doğru yapıyor?

Oldukça gelişmiş bazı duygu algılama teknolojileri geliştiren Microsoft, daha sonra AI etik ilkelerinin yenilenmesinin bir parçası olarak bunları sonlandırdı. Azure Face adlı ana aracı, cinsiyet, yaş ve diğer özellikleri de tahmin edebilir.

“Şirket içindeki ve dışındaki uzmanlar, ‘duyguların’ tanımı konusunda bilimsel fikir birliği eksikliğini, çıkarımların kullanım durumları, bölgeler ve demografiler arasında nasıl genelleştirildiğine dair zorlukları ve bu tür yeteneklerle ilgili artan gizlilik endişelerini vurguladı” diye yazdı. natasha kramponMicrosoft’un Baş Sorumlu AI Görevlisi, bir blog yazısında yazdı.

Microsoft, görme engelli kullanıcılar için Seeing AI adlı erişilebilirlik uygulamasında duygu tanıma teknolojisini kullanmaya devam edecek. Ve bence bu da doğru seçim. Görme engelli veya örneğin otizmli kişilerin başkalarının duygularını ve tepkilerini okuma mücadelesi nedeniyle güçten düşebilecekleri kişileri etkinleştirmek için yapay zekayı kullanmak, bu teknoloji için harika bir kullanımdır. Ve bence, artırılmış gerçeklik gözlüklerinin önümüzdeki döneminde oynayacağı önemli bir rol var.

Microsoft, duygu yapay zekasının etiğini yönlendiren tek kuruluş değil.

AI Now Institute ve Brookings Institution, duygu algılama AI’nın birçok kullanımının yasaklanmasını savunuyor. Ve 25’ten fazla kuruluş, Zoom’un şirketin video konferans yazılımında duygu algılamayı kullanma planlarına son vermesini istedi.

Yine de bazı yazılım şirketleri bu araçlarla ilerliyor ve müşteriler buluyorlar.

Çoğunlukla ve şimdilik, duygu AI araçlarının kullanımı yanlış yönlendirilebilir, ancak dahil olan herkes gerçekten rıza gösterdiği sürece çoğunlukla zararsızdır. Ancak teknoloji geliştikçe ve yüz yorumlama, beden dili okuma teknolojisi zihin okuma ve yalan algılamaya yaklaştıkça, iş dünyası, hükümet ve toplum için ciddi etkileri olabilir.

Ve elbette, oturma odasında başka bir fil daha var: duygusal bilgi işlem alanı aynı zamanda insan duygularını simüle edebilen konuşma yapay zekası geliştirmeye çalışıyor. Gerçekçilik için bazı duygu simülasyonları gerekli olsa da, çok fazla şey kullanıcıları AI’nın bilinçli veya duyarlı olduğuna inandırabilir. Aslında, bu inanç zaten ölçekte oluyor.

Genel olarak, tüm bunlar yapay zekanın evriminde ve teknolojiyle olan ilişkimizde yeni bir aşamanın parçası. Sayısız sorunu çözebileceğini öğrenirken, yenilerini de yaratabileceğini keşfediyoruz.