onun içinde Sorumlu Yapay Zeka Şeffaflık RaporuÇoğunlukla 2023 yılını kapsayan Microsoft, AI ürünlerini güvenli bir şekilde dağıtma konusundaki başarılarını övüyor. Yıllık AI şeffaflık raporu, şirketin geçen yıl Temmuz ayında Beyaz Saray ile gönüllü bir anlaşma imzaladıktan sonra verdiği taahhütlerden biri. Microsoft ve diğer şirketler sorumlu yapay zeka sistemleri kurma ve güvenliği taahhüt etme sözü verdi.
Microsoft, raporunda geçen yıl 30 sorumlu yapay zeka aracı oluşturduğunu, sorumlu yapay zeka ekibini büyüttüğünü ve geliştirme döngüsü boyunca riskleri ölçmek ve haritalamak için üretken yapay zeka uygulamaları yapan ekiplere ihtiyaç duyduğunu söylüyor. Şirket, görüntü oluşturma platformlarına, fotoğrafın üzerine filigran yerleştiren ve onu bir yapay zeka modeli tarafından yapılmış gibi etiketleyen İçerik Kimlik Bilgilerini eklediğini belirtiyor.
Şirket, Azure AI müşterilerine nefret söylemi, cinsel içerik ve kendine zarar verme gibi sorunlu içerikleri tespit eden araçların yanı sıra güvenlik risklerini değerlendirmeye yönelik araçlara erişim hakkı verildiğini söylüyor. Bu, kötü niyetli talimatların yapay zeka modeli tarafından alınan verilerin bir parçası olduğu dolaylı istem enjeksiyonlarını da içerecek şekilde bu yıl Mart ayında genişletilen yeni jailbreak tespit yöntemlerini içeriyor.
Aynı zamanda kapsamını da genişletiyor kırmızı takım Yapay zeka modellerindeki güvenlik özelliklerini kasıtlı olarak atlamaya çalışan şirket içi kırmızı ekiplerin yanı sıra yeni modeller piyasaya sürülmeden önce üçüncü taraf testlerine izin veren kırmızı ekip uygulamaları da dahil olmak üzere çabalar.
Ancak kırmızı takım birimlerinin işleri onlar için biçilmiş kaftan. Şirketin yapay zeka sunumları tartışmalara karşı bağışıklık kazanmadı.
Microsoft’un baş sorumlu AI yetkilisi Natasha Crampton, kendisine gönderilen bir e-postada şunu söylüyor: Sınır şirketin yapay zekanın halen devam eden bir çalışma olduğunu ve sorumlu yapay zekanın da anladığını anlaması.
“Sorumlu yapay zekanın bitiş çizgisi yoktur, dolayısıyla çalışmalarımızı hiçbir zaman Gönüllü Yapay Zeka taahhütleri kapsamında değerlendirmeyeceğiz. Ancak bunları imzaladıktan sonra güçlü bir ilerleme kaydettik ve bu yıl ivmemizi artırmayı sabırsızlıkla bekliyoruz” diyor Crampton.