Snapchat’in yapay zeka sohbet robotu My AI, bir süredir bazı tartışmalarla karşılaşıyordu. Aynı zamanda hükümetler tarafından da inceleniyor ve şimdi Android Başlıkları raporları Birleşik Krallık’taki bir düzenleyici kurumun, çocukların mahremiyetine yönelik potansiyel risklerden bahsederek chatbot’a karşı bir uyarı yayınladığını söyledi.
İngiltere Komiserliği, Snapchat’in AI sohbet robotuna karşı bir uyarı yayınladı
Komiserin Ofisi’nin (ICO) endişeleri temel olarak çocukların mahremiyetine ve Snap’in, chatbot’un mahremiyet risklerini resmi olarak piyasaya sürülmeden önce değerlendirmede başarısız olduğu iddiasına odaklanıyor. Yayınlanan uyarı, düzenleyici kurumun mutlaka bir ihlal tespit ettiği anlamına gelmiyor ancak gerekli önlemlerin alınamaması durumunda ICO, chatbot’u Birleşik Krallık’ta engelleyebilir. ICO’nun ana endişe odağı, düşen 13 ila 17 yaş arası çocuklardır. Çocuk Tasarım Yasası kapsamında, 2021’de uygulamaya konulan bir dizi veri koruma kuralı.
Snapchat’in My AI sohbet robotu Şubat ayında tanıtıldı. Başlangıçta yapay zeka destekli üretken sohbet robotu Premium abonelere özeldi ve soruları yanıtlayabilecek veya tavsiyelerde bulunabilecek sanal bir arkadaş olarak kullanılacaktı. İlk test döneminin ardından chatbot, reşit olmayan kullanıcılar da dahil olmak üzere Snapchat kullanan herkesin kullanımına sunuldu.
Ancak eylemlerine ilişkin bazı endişeler vardı. Snap’in sıkı denetleme ve koruma özelliklerine sahip olduğu yönündeki iddialarına rağmen, chatbot’un uygunsuz tavsiyeler verdiği bazı durumlar da yaşandı. Bahsedilen tavsiyelerden biri, 15 yaşındaki bir kullanıcıya alkol kokusunu gizlemenin yollarını öneren chatbot’tur.
Düzenleyici kurumun uyarısına yanıt olarak Snap, kullanıcı gizliliğini korumayı taahhüt ettiğinin ve ICO’nun kararını gözden geçirdiğinin altını çizdi. Şirket, şirketin risk değerlendirme prosedürlerinden memnun olmalarını sağlamak için ICO ile işbirliği yapmaya devam edeceğini söyledi.