Apple’ın Image Playground uygulamasının bazı önyargı sorunları olduğu söyleniyor. Bir makine öğrenimi bilimcisi yakın zamanda yapay zeka (AI) uygulaması kullanılarak üretilen birkaç çıktıyı paylaştı ve birkaç kez yanlış cilt tonu ve saç dokusu içerdiğini iddia etti. Bu yanlışlıkların da soruna katkıda bulunarak belirli ırksal klişelerle eşleştirildiği söylenmiştir. İddia edilen sorunun bir kerelik bir olay mı yoksa yaygın bir sorun mu olduğunu belirtmek zordur. Özellikle, Cupertino merkezli teknoloji devi ilk olarak uygulamayı iOS 18.2 güncellemesiyle Apple Intelligence takımının bir parçası olarak tanıttı.
Apple’ın Image Playground uygulamasının önyargı sorunları olabilir
Onfido’daki makine öğrenimi bilimi liderliği olan Jochem Gietema, Blog yazısıApple’ın Image Playground uygulamasını kullanarak deneyimlerini vurgulamak. Gönderide, Image Playground uygulamasını kullanarak oluşturulan birkaç çıkış setini paylaştı ve uygulamayı güçlendiren büyük dil modeli tarafından ırksal önyargı örneklerini vurguladı. Özellikle, Gadgets 360 personeli uygulamayı test ederken bu tür önyargılar fark etmedi.
“Deneyken, uygulamanın istemine bağlı olarak cilt tonumu ve saçımı değiştirdiğini fark ettim. Yatırım bankacısı ve çiftçi gibi meslekler çok farklı cilt tonlarına sahip görüntüler üretir. Aynı şey kayak ve basketbol, sokak kıyafetleri ve en çok varlıklı ve yoksul ve fakir için de geçerlidir ”dedi. postalamak.
Resim Playground uygulaması kullanılarak oluşturulan önyargılı çıktılar iddiası
Fotoğraf kredisi: Jochem Gietema
Bu tür yanlışlıklar ve önyargılar, benzer stereotipler içerebilecek büyük veri kümelerinde eğitilmiş LLM’lerle olağandışı değildir. Geçen yıl, Google’ın Gemini AI modeli benzer önyargılar için tepki verdi. Bununla birlikte, şirketler bu tür nesilleri önlemek için tamamen çaresiz değildir ve genellikle bunları önlemek için çeşitli güvenlik katmanları uygularlar.
Apple’ın Image Playground uygulaması, AI tarafından oluşturulan görüntülerle ilişkili sorunları önlemek için bazı kısıtlamalarla birlikte geliyor. Örneğin, Apple Intelligence uygulaması yalnızca derin dişli örneklerinden kaçınmak için çizgi film ve illüstrasyon stillerini destekler. Ek olarak, oluşturulan görüntüler ayrıca genellikle yüzü az miktarda ek ayrıntı ile yakalayan dar bir görme alanı ile üretilir. Bu, bu tür önyargılar ve yanlışlık örneklerini sınırlamak için de yapılır.
Teknoloji devi ayrıca olumsuz kelimeler, ünlülerin veya kamu figürleri içeren herhangi bir istem ve daha fazlasını istenmeyen kullanım durumları için aracı kötüye kullanan kullanıcıları sınırlamak için izin vermez. Ancak, iddialar doğruysa, iPhone üreticisinin kullanıcıların uygulamayı kullanırken ayrımcılığa karşı hissetmemelerini sağlamak için ek güvenlik katmanları eklemesi gerekecektir.
