Google, Gemini’yi, kullanıcıların zihinsel sağlık kaynaklarına ulaşmalarını kolaylaştırmak amacıyla güncelledi. Bu yenilik, teknoloji devinin, bir adamın intihar etmesi için chatbot’unu “yönlendirmekle” suçlandığı bir yanlış ölüme ilişkin dava ile karşı karşıya kaldığı bir dönemde gerçekleşiyor.
Bir konuşma, bir kullanıcının intihar veya kendine zarar verme ile ilgili bir kriz içinde olduğunu gösterdiğinde, Gemini zaten “Yardım mevcut” modülünü devreye sokuyor. Bu modül, kullanıcıları intihar hattı veya kriz metin hattı gibi zihinsel sağlık kriz kaynaklarına yönlendiriyor. Google, güncellemenin aslında daha çok bir yeniden tasarım olduğunu ve kullanıcıların hızlı bir şekilde yardım almasını kolaylaştıracak bir “tek dokunuş” arayüzüne dönüştürüleceğini belirtiyor.
Yardım modülü, Google’a göre “insanları yardım aramaya teşvik etmek” üzere tasarlanmış daha empatik yanıtlar da içeriyor. Modül etkinleştirildiğinde, “profesyonel yardım alma seçeneği, konuşmanın geri kalanında açık bir şekilde mevcut kalacak.”
Google, yeniden tasarım için klinik uzmanlarla işbirliği yaptığını ve kriz anlarında kullanıcılara destek olma taahhüdünde bulunduğunu açıkladı. Ayrıca, gelecek üç yıl boyunca “küresel hatlara yardımcı olmak” amacıyla dünya genelinde 30 milyon dolarlık bir bütçe ayırdığını duyurdu.
Diğer önde gelen chatbot sağlayıcıları gibi, Google da Gemini’nin “profesyonel klinik bakım, terapi veya kriz desteğinin yerini almadığını” vurguladı. Ancak birçok insanın kriz anlarında sağlık bilgisi almak için bu hizmeti kullandığını kabul etti.
Bu güncelleme, endüstrinin güvenlik önlemlerinin ne kadar yeterli olduğu konusunda daha geniş bir inceleme sürecinin parçasında geliyor. Araştırmalar ve incelemeler, kriz kaynaklarının sağlanmasıyla ilgili olanların yanı sıra, chatbotların savunmasız kullanıcıları nasıl başarısız bıraktığını sıklıkla işaret ediyor. Google, bu testlerde birçok rakibine göre daha iyi sonuçlar alıyor; ancak mükemmel değil. OpenAI ve Anthropic gibi diğer AI şirketleri de savunmasız kullanıcıların tespitini ve desteklenmesini geliştirmek için adımlar atıyor.
