OpenAI, kullanıcıların kendilerine zarar verme ihtimali taşıyan bir konuşma sırasında güvenilir bir üçüncü kişiyi uyarmasını sağlayan “Güvenilir Kişi” adlı yeni bir özelliği duyurdu. Bu özellik, ChatGPT kullanıcılarının, bir aile üyesi ya da arkadaş gibi güvenilir bir kişiyi hesaplarında tanımlamalarına olanak tanıyor. Eğer bir sohbet, intihar düşüncelerine doğru kayarsa, OpenAI, kullanıcının bu kişiye ulaşmasını teşvik edecek ve ilgili kişiye otomatik bir uyarı gönderecek.
OpenAI, chatbot’u ile konuşan bireylerin intihar etmesi sonrası ailelerden gelen dava dalgaları ile karşı karşıya kaldı. Bazı durumlarda, aileler ChatGPT’nin sevdiklerini intihara teşvik ettiğini ya da bu konuda yardım ettiğini iddia ediyor.
OpenAI, potansiyel olarak zararlı olayları yönetmek için otomasyon ve insan incelemesi kombinasyonu kullanıyor. Belirli konuşma tetikleyicileri, şirketin sistemine intihar düşüncelerini bildiriyor ve bu bilgiler, insan güvenlik ekibine iletiliyor. Şirket, bu tür bildirimlerin her seferinde insan tarafından incelendiğini belirtiyor. “Bu güvenlik bildirimlerini bir saatten daha kısa bir sürede incelemek için çalışıyoruz,” diyor şirket.
Eğer OpenAI’nin iç ekibi durumu ciddi bir güvenlik riski olarak değerlendirirse, ChatGPT güvenilir kişiye bir e-posta, SMS ya da uygulama içi bildirim gönderiyor. Bu uyarı, ilgili kişinin belirtilen kişiyle iletişim kurmasını teşvik edici nitelikte, fakat kullanıcı gizliliğini korumak amacıyla detaylı bilgi içermiyor.
Güvenilir Kişi özelliği, OpenAI’nin geçen Eylül ayında tanıttığı, ebeveynlere çocuklarının hesaplarının belirli bir denetimini sağlama imkanı tanıyan özelliklerin bir parçasıdır. Bu önlemler, ebeveynin, OpenAI’nin sisteminin çocuklarının “ciddi bir güvenlik riski” yaşadığını düşündüğünde uyarı almasını sağlar. ChatGPT, intihara yönelen bir konuşma trendi belirlendiğinde profesyonel sağlık hizmetleri almaya yönlendiren otomatik uyarılar da içeriyor.
Güvenilir Kişi, isteğe bağlı bir özellik olup, kullanıcılar birden fazla ChatGPT hesabına sahip olabilir. OpenAI’nin ebeveyn kontrolleri de isteğe bağlıdır ve benzer sınırlamaları içerir.
OpenAI, “Güvenilir Kişi, insanların zor anlarında yardımcı olacak yapay zeka sistemleri geliştirme çabamızın bir parçasıdır,” dedi. ” İnsanların kaygı yaşadığı durumlarda yapay zeka sistemlerinin nasıl yanıt vereceğini iyileştirmek amacıyla klinik bilimciler, araştırmacılar ve politika yapıcılarla çalışmaya devam edeceğiz,” açıklamasında bulundu.
Sizce bu özellik, kullanıcılara ne kadar fayda sağlayacak?
