Kişisel bir krizde, birçok kişi kişisel olmayan bir destek kaynağına yönelir: Google. Şirket her gün intihar, cinsel saldırı ve aile içi taciz gibi konuları araştırıyor. Ancak Google, insanları ihtiyaç duydukları bilgilere yönlendirmek için daha fazlasını yapmak istiyor ve dilin karmaşıklığını daha iyi ayrıştıran yeni AI tekniklerinin yardımcı olduğunu söylüyor.
Özellikle Google, “daha geniş bir kişisel kriz aramaları yelpazesini daha doğru bir şekilde tespit etmek” için en son makine öğrenimi modeli MUM’u arama motoruna entegre ediyor. Şirket, geçen yıl IO konferansında MUM’u tanıttı ve o zamandan beri orijinal aramaya bağlı soruları yanıtlamaya çalışan özelliklerle aramayı artırmak için kullandı.
Google’ın sağlık ve bilgi kalitesi ürün müdürü Anne Merritt, bu durumda MUM’un daha önceki arama araçlarının bulamadığı zorlu kişisel durumlarla ilgili arama sorgularını tespit edebileceğini söylüyor.
Merrit, “MUM, ‘onu sevmediğimi söylediğimde neden bana saldırdı’ gibi daha uzun veya daha karmaşık soruları anlamamıza yardımcı oluyor” dedi. Sınır. “İnsanlar için bu sorgunun aile içi şiddetle ilgili olduğu aşikar olabilir, ancak bunun gibi uzun, doğal dildeki sorguları sistemlerimizin gelişmiş yapay zeka olmadan anlaması zor.”
MUM’un yanıt verebileceği diğer sorgu örnekleri arasında “intiharın tamamlanmasının en yaygın yolları” (bir arama Merrit’in daha önceki sistemlerin “daha önce bilgi arama olarak anlamış olabileceğini” söylüyor) ve “Sidney intihar noktaları” (yine daha önceki yanıtların “sıcak noktalar” için daha popüler bir sorgu lehine “intihar” ifadesini görmezden gelerek muhtemelen seyahat bilgilerini döndürdüler. Google bu tür kriz aramalarını tespit ettiğinde, kullanıcılara genellikle bir telefon numarası veya Samaritans gibi bir akıl sağlığı yardım kuruluşunun web sitesiyle birlikte “Yardım var” diyen bir bilgi kutusuyla yanıt verir.
Google, kişisel krizlere yanıt vermek için MUM’u kullanmanın yanı sıra, pornografi gibi müstehcen içerik arayan aramaları daha iyi belirlemek için daha eski bir AI dil modeli olan BERT’yi de kullandığını söylüyor. Google, BERT’den yararlanarak “beklenmedik şok edici sonuçları her yıl %30 azalttığını” söylüyor. Ancak şirket, kullanıcılarının ortalama olarak ne kadar “şok edici sonuç” ile karşılaştıklarına dair kesin rakamları paylaşamadı, bu nedenle bu karşılaştırmalı bir gelişme olsa da, sorunun gerçekte ne kadar büyük veya küçük olduğuna dair hiçbir gösterge vermiyor.
Google, AI’nın şirketin arama ürünlerini iyileştirmesine yardımcı olduğunu söylemeye hevesli – özellikle de “Google arama ölüyor” Ancak bu teknolojiyi entegre etmenin dezavantajları da var.
Birçok yapay zeka uzmanı, Google’ın artan makine öğrenimi dil modellerinin kullanımının, şirket için yeni sorunların ortaya çıkması, arama sonuçlarına ön yargılar ve yanlış bilgiler eklemek gibi. Yapay zeka sistemleri aynı zamanda opaktır ve mühendislere belirli sonuçlara nasıl ulaştıklarına dair kısıtlı bilgiler sunar.
Örneğin, Google’a MUM tarafından tanımlanan hangi arama terimlerinin kişisel krizlerle ilişkili olduğunu önceden nasıl doğruladığını sorduğumuzda, temsilcileri ya isteksizdi ya da cevap veremiyordu. şirket öyle diyor titiz testler insan değerlendiricileri kullanarak arama ürünlerinde değişiklik yapar, ancak bu, AI sisteminizin belirli sorgulara nasıl yanıt vereceğini önceden bilmekle aynı şey değildir. Google için olsa da, bu tür takaslar görünüşe göre buna değer.