Snapchat, AI chatbot deneyimini daha güvenli hale getirmek için yaşa uygun bir filtre ve ebeveynler için içgörüler dahil olmak üzere yeni araçları piyasaya sürüyor.
Snapchat, Snapchat+ aboneleri için GPT destekli sohbet robotunu piyasaya sürdükten günler sonra, bir Washington Post raporu, botun güvensiz ve uygunsuz bir şekilde.
Sosyal dev, lansmandan sonra insanların “yönergelerimize uymayan yanıtlar vermesi için sohbet robotunu kandırmaya” çalıştıklarını öğrendiğini söyledi. Snapchat, AI yanıtlarını kontrol altında tutmak için birkaç araç başlatıyor.
Snap, AI’nın kullanıcıların doğum tarihini bilmesini sağlayan ve onlara yaşa uygun yanıtlar sağlayan yeni bir yaş filtresi ekledi. Şirket, chatbot’un kullanıcılarla sohbet ederken “yaşlarını sürekli olarak dikkate alacağını” söyledi.
Snap ayrıca, önümüzdeki haftalarda ebeveynlere veya velilere, geçen Ağustos ayında kullanıma sunulan Aile Merkezi’nde çocukların bot ile etkileşimleri hakkında daha fazla bilgi sağlamayı da planlıyor. Yeni özellik, gençlerin yapay zeka ile iletişim kurup kurmadığını ve bu etkileşimlerin sıklığını paylaşacak. Bu ebeveyn denetimi özelliklerini kullanmak için hem velinin hem de gençlerin Aile Merkezi’ni kullanmayı seçmeleri gerekir.
İçinde bir blog yazısı, Snap, My AI sohbet robotunun “gerçek bir arkadaş” olmadığını ve yanıtları iyileştirmek için konuşma geçmişini kullandığını açıkladı. Kullanıcılar, bot ile sohbete başladıklarında veri saklama konusunda da bilgilendirilir.
Şirket, botun yanıtların yalnızca %0,01’ini “uygun olmayan” bir dilde verdiğini söyledi. Snap, şiddete, müstehcen terimlere, yasa dışı uyuşturucu kullanımına, çocukların cinsel istismarına, zorbalığa, nefret söylemine, aşağılayıcı veya önyargılı ifadelere, ırkçılığa, kadın düşmanlığına veya yeterince temsil edilmeyen grupları marjinalize etmeye atıfta bulunan herhangi bir yanıtı “uygun olmayan” olarak sayar.
Sosyal ağ, çoğu durumda, bu uygunsuz yanıtların, kullanıcıların söylediklerini papağan gibi tekrarlamanın sonucu olduğunu belirtti. Ayrıca, firmanın hizmeti kötüye kullanan bir kullanıcı için AI bot erişimini geçici olarak engelleyeceği de belirtildi.
“Yapay zekamı geliştirmek için bu öğrendiklerimizi kullanmaya devam edeceğiz. Bu veriler ayrıca My AI’ın kötüye kullanımını sınırlamak için yeni bir sistem kurmamıza yardımcı olacaktır. Mevcut araç setimize, potansiyel olarak zararlı içeriğin ciddiyetini değerlendirmemize ve hizmeti kötüye kullanmaları halinde Snapchat kullanıcılarının Yapay Zekam’a erişimini geçici olarak kısıtlamamıza izin verecek OpenAI moderasyon teknolojisini ekliyoruz” dedi.
Yapay zeka destekli araçların hızla çoğalması göz önüne alındığında, birçok kişi güvenlik ve mahremiyet konusunda endişe duyuyor. Geçen hafta, bir etik grubu Yapay Zeka ve Dijital Politika Merkezi FTC’ye yazdıajansı OpenAI’nin GPT-4 teknolojisinin piyasaya sürülmesini durdurmaya çağırarak, sonradan görme teknolojisini “önyargılı, aldatıcı ve mahremiyet ve kamu güvenliği riski” olmakla suçladı.
Geçen ay, Senatör Michael Bennet de bir mektup yazdı OpenAI, Meta, Google, Microsoft ve Snap’e, gençler tarafından kullanılan üretken yapay zeka araçlarının güvenliğiyle ilgili endişelerini dile getiriyor.
Bu yeni chatbot modellerinin zararlı girdilere açık olduğu ve buna karşılık uygun olmayan çıktılar verdiği artık açıkça görülüyor. Teknoloji şirketleri bu araçların hızlı bir şekilde kullanıma sunulmasını istese de, etraflarında sohbet robotlarının hile yapmasını önleyecek yeterli korkuluk olduğundan emin olmaları gerekecek.