Popüler yapay zeka araçlarının bağımsız bir incelemesi, Snapchat’in My AI, DALLE ve Stable Diffusion dahil olmak üzere pek çoğunun çocuklar için güvenli olmayabileceğini ortaya çıkardı. Yeni değerlendirmeler geldi Sağduyu Medyasıailelere yönelik, kar amacı gütmeyen bir savunuculuk grubu. ebeveynler için medya derecelendirmeleri çocuklarının tükettiği uygulamaları, oyunları, podcast’leri, TV şovlarını, filmleri ve kitapları değerlendirmek isteyenler. Bu yılın başlarında şirket, yakında ailelere yönelik kaynaklarına yapay zeka ürünlerine yönelik derecelendirmeleri de ekleyeceğini açıklamıştı. Bugün, bu reytingler yayına girdisohbet robotları, görüntü oluşturucular ve daha fazlası gibi yapay zeka ürünleri için “beslenme etiketleri” adı verilen ürünler sunuyor.
Şirket ilk olarak Temmuz ayında, teknolojinin sorumlu yapay zeka uygulamalarından yararlanıp faydalanmadığı ve çocuklara uygunluğu da dahil olmak üzere, yapay zeka ürünlerini çeşitli boyutlarda değerlendirmek için bir derecelendirme sistemi oluşturmayı hedeflediğini duyurdu. Hareket, böyle bir hizmete olan ilgilerini ölçmek amacıyla ebeveynler arasında yapılan bir anketle tetiklendi. Ebeveynlerin %82’si, ChatGPT gibi yeni yapay zeka ürünlerinin çocukları için güvenli olup olmadığını değerlendirme konusunda yardım istediklerini söyledi. Yalnızca %40’ı bu kararları vermelerine yardımcı olacak güvenilir kaynaklar bildiğini söyledi.
Bu, Common Sense Media’nın bugünkü lansmanına yol açtı. ilk yapay zeka ürün derecelendirmeleri. Değerlendirdiği ürünler genelindeki derecelendirmelerdir. çeşitli yapay zeka ilkeleri, güven, çocukların güvenliği, mahremiyet, şeffaflık, hesap verebilirlik, öğrenme, adalet, sosyal bağlantılar ve insanlara ve topluma faydalar dahil.
Kuruluş ilk olarak öğrenme için kullanılanlar, Bard ve ChatGPT gibi yapay zeka sohbet robotlarının yanı sıra Snap’in My AI ve DALL-E gibi üretken yapay zeka ürünleri de dahil olmak üzere 10 popüler uygulamayı 5 puanlık bir ölçekte inceledi. Şaşırtıcı olmayan bir şekilde, ikinci kategori en kötü performansı gösterdi.
Common Sense Media Yapay Zeka Kıdemli Danışmanı Tracy Pizzo-Frey, “Yapay zeka her zaman doğru değildir ve değerler açısından tarafsız da değildir” dedi: derecelendirmelerin özetinde. “Tüm üretken yapay zeka, modellerin büyük miktarda internet verisi üzerinde eğitilmiş olması nedeniyle çok çeşitli kültürel, ırksal, sosyoekonomik, tarihsel ve cinsiyet önyargılarına ev sahipliği yapıyor – ve değerlendirmelerimizde de tam olarak bunu bulduk. dedi. “Derecelendirmelerimizin daha fazla geliştiriciyi yanlış bilgilerin yayılmasını sınırlayan korumalar oluşturmaya ve gelecek nesilleri istenmeyen etkilerden korumak için üzerlerine düşeni yapmaya teşvik edeceğini umuyoruz.”
TechCrunch’ın kendi testlerinde muhabir Amanda Silberling, Snapchat’in My AI üretken AI özelliklerinin aktif olarak zararlı olmaktan çok genellikle daha garip ve rastgele olma eğiliminde olduğunu buldu, ancak Common Sense Media AI sohbet robotuna 2 yıldız verdi, bunun yaş ayrımcılığı, cinsiyetçilik ve kültürel stereotipler etrafındaki haksız önyargıları güçlendiren bazı tepkiler ürettiğini belirtti. Ayrıca zaman zaman bazı uygunsuz yanıtların yanı sıra yanlışlıklar da sunar. Ayrıca kuruluşun gizlilik endişelerini artırdığını söylediği kişisel kullanıcı verilerini de sakladı.
Snap, My AI’nin isteğe bağlı bir araç olduğunu ve Snapchat’in bunun bir sohbet robotu olduğunu açıkça belirttiğini ve kullanıcılara sınırlamaları konusunda tavsiyelerde bulunduğunu belirterek, kötü incelemeyi geri çevirdi. Şirket, TechCrunch’a yaptığı açıklamada, yapay zekamın aynı zamanda Aile Merkezine de entegre edildiğini, böylece ebeveynlerin gençlerin onunla sohbet edip etmediğini ve ne zaman sohbet ettiğini görebileceğini söyledi ancak şirketin, ürününü geliştirmeye devam ederken incelemenin sağladığı geri bildirimleri takdir ettiğini de ekledi.
Diğer üretken AI modelleri gibi DALL-E Ve Kararlı Difüzyon diğer kaygıların yanı sıra kadınların ve kızların nesneleştirilmesi ve cinselleştirilmesi eğilimi ve toplumsal cinsiyet stereotiplerinin güçlendirilmesi gibi benzer risklere sahipti. (Yorum isteklerine hemen yanıt verilmedi.)
İnternetteki herhangi bir yeni araç gibi, bu üretken yapay zeka modelleri de pornografik materyaller üretmek için kullanılıyor. Gibi siteler Sarılma Yüz ve Civitai, yalnızca yeni görüntü modelleri bulmak için kaynak olarak değil, aynı zamanda birinin (ünlü gibi) benzerliğini kullanarak porno yapmak için birbirleriyle birleştirilebilecek farklı modeller bulmayı da kolaylaştırarak popüler hale geldi. Bu konu bu hafta gündeme geldi 404Medya Civitai’nin yeteneklerine dikkat çekildi ancak sorumlu taraf (topluluk toplayıcıları veya yapay zeka modellerinin kendisi) konusundaki tartışma devam etti sonrasında Hacker News gibi sitelerde.
Common Sense’in derecelendirmelerinin orta kademesinde Google’ınki gibi yapay zeka sohbet robotları vardı Ozan (daha dün resmi olarak gençlere açıldı), SohbetGPTVe Yürümeye Başlayan Yapay Zeka. Kuruluş, özellikle “farklı geçmişlere ve lehçelere” sahip kullanıcılar için bu botlarda da önyargı oluşabileceği konusunda uyardı. Ayrıca yanlış bilgi veya yapay zeka halüsinasyonları üretebilir ve stereotipleri güçlendirebilirler. Common Sense, yapay zekanın ürettiği yanlış bilgilerin kullanıcıların dünya görüşlerini şekillendirebileceği ve gerçeği kurgudan ayırmayı daha da zorlaştırabileceği konusunda uyardı.
İyi değerlendirmeler alan tek yapay zeka ürünleri şunlardı: Ello’nun Yapay zeka okuma öğretmeni ve kitap dağıtım hizmeti, Hanmingo (Khan Academy’den) ve Kyron Learning’in Yapay zeka öğretmeni — üçü de eğitim amaçlı tasarlanmış yapay zeka ürünleridir. Diğerlerine göre daha az tanınırlar. (Ve bazı çocukların iddia edebileceği gibi daha az eğlencelidir). Yine de şirketler bunları çocukların kullanımını göz önünde bulundurarak tasarladıkları için sorumlu yapay zeka uygulamalarını kullanma eğilimindeydiler ve adalete, çeşitli temsillere ve çocuk dostu tasarım hususlarına odaklandılar. Ayrıca veri gizliliği politikaları konusunda da daha şeffaftılar.
Common Sense Media, yeni AI ürünlerine ilişkin derecelendirmeleri ve incelemeleri sürekli olarak yayınlamaya devam edeceğini ve bunun yalnızca ebeveynleri ve aileleri değil aynı zamanda yasa yapıcıları ve düzenleyicileri de bilgilendirmeye yardımcı olacağını umduğunu söylüyor.
Common Sense Media’nın kurucusu ve CEO’su James P. Steyer, yaptığı bir açıklamada, “Tüketiciler, tüm Amerikalıların, özellikle de çocukların ve gençlerin güvenliğini ve mahremiyetini tehlikeye atabilecek yapay zeka ürünleri için net bir beslenme etiketine erişebilmelidir” dedi. “Ürünün ne olduğunu, nasıl çalıştığını, etik risklerini, sınırlamalarını ve yanlış kullanımlarını öğrenerek kanun yapıcılar, eğitimciler ve genel halk, sorumlu yapay zekanın neye benzediğini anlayabilir. Eğer hükümet yapay zekayı ‘çocuklardan korumayı’ başaramazsa, teknoloji şirketleri veri gizliliğimiz, refahımız ve genel olarak demokrasimiz pahasına bu düzenlenmemiş, serbest atmosferden yararlanacak” diye ekledi.
