Meta, gençlerin şirketin Meta AI sohbet botuyla intihar veya kendine zarar verme konularını konuştuğunda, ailelerini bilgilendireceğini duyurdu. Bu değişiklik, Meta’nın acil hizmetlerle iletişim kurma yeteneği üzerinde çalıştığını da içeriyor; böylece birinin konuşmaları, kendine zarar verme riski taşıyorsa bu durum yetkililere ulaştırılacak.
Bu adımlar, Meta ve diğer teknoloji şirketleri üzerinde düzenleyiciler ve aileler tarafından giderek artan bir baskıyla karşı karşıya kalınan bir dönemde atılıyor. Gençler, özellikle kriz anında yapay zeka sohbet botlarıyla etkileşimde bulunduklarında, tehlikeli tavsiyeler alabilme riskine sahiptir. Bu durum, AI şirketlerinin ürünlerini tasarlama ve pazarlama şekillerini de etkileyen bir sorumluluk meselesi haline geldi.
Meta, intihar veya kendine zarar verme niyetini açıkça ifade eden konuşmaları tanıyabilecek özel bir AI sistemi geliştirdi.
Meta, bir blog yazısında, “Bu uyarıların bir ebeveyn için ne kadar rahatsız edici olabileceğini anlıyoruz,” ifadelerine yer verdi. “Bu nedenle, tespit yeteneklerimizi geliştirmeye devam ederken, AI’ımız tarafından işaretlenen tüm sohbetler, bir uyarı gönderilmeden önce manuel olarak incelenecek. Eğer bir gencin niyeti belirsizse, oldukça ihtiyatlı davranır ve ebeveyni bilgilendiririz. Bu, bazen ebeveynleri gereksiz yere uyarabileceğimiz anlamına gelse de, doğru bir başlangıç noktası olduğunu düşünüyoruz ve durumu izlemeye devam edeceğiz.”
Bu uyarılar, şu anda ABD, Birleşik Krallık, Avustralya ve Kanada’daki Instagram ebeveyn denetimi kullanıcıları için aktif hale geldi ve yıl sonuna kadar dünya genelinde kullanıma sunulacak.
Bu güncelleme, Meta’nın daha önceki intihar veya kendine zarar verme terimlerini arayan gençlerin ailelerine gönderdiği uyarılara dayanıyor. Ayrıca, ebeveynlerin çocuklarının Meta AI ile son bir haftada hangi konuları tartıştıklarını görmesini sağlayan bir özelliği de içeriyor.
Meta, gençlere daha kısıtlayıcı bir deneyim sunan “Sınırlı İçerik” ayarının artık Meta AI için de geçerli olduğunu duyurdu. Meta AI, gençlerle cinsel veya romantik sohbetler yapmayı ya da alkole ilişkin tartışmaları içeren konuları kaçınmaya yönelik olarak eğitim aldı ve Sınırlı İçerik ayarı, sohbet botunun daha geniş bir dizi isteği reddetmesini sağlayarak bu korumaları genişletiyor. Meta, bu ek isteklere nelerin dahil olduğunu belirtmedi fakat daha fazla bilgi talep edildi.
Ayrıca, Meta, birinin Meta AI ile yaptığı sohbetin intihar riski barındırdığına dair ipuçları taşıması durumunda acil hizmetlerle iletişim kuracağını da belirtti. Bunun önceden Facebook veya Instagram’a benzer bir şekilde kullanılması, AI sohbet botlarına da aynı uygulamanın genişletilmesini sağlıyor.
Yazılarımızdaki bağlantılar üzerinden yapacağınız alışverişlerde küçük bir komisyon kazanabiliriz. Bu durum, editoryal bağımsızlığımızı etkilemez.
