Microsoft, şeklini değiştirdi politika ABD polis departmanlarının, şirketin OpenAI teknolojilerini kapsayan, tamamen yönetilen, kurumsal odaklı paketi olan Azure OpenAI Hizmeti aracılığıyla yüz tanıma için üretken yapay zeka kullanmasını yasaklamak.
Çarşamba günü Azure OpenAI Hizmetinin hizmet şartlarına eklenen ifade, OpenAI’nin metin ve konuşma analiz modelleriyle entegrasyonlar da dahil olmak üzere, Azure OpenAI Hizmeti ile entegrasyonların ABD’deki yüz tanıma için polis departmanları tarafından “tarafından veya onlar adına” kullanılmasını yasaklıyor.
Ayrı bir yeni madde işareti, “küresel düzeydeki tüm kolluk kuvvetleri”ni kapsıyor ve “kontrolsüz, olay yerindeki” bir kişiyi tanımlamaya çalışmak için vücut kameraları ve araç kameraları gibi mobil kameralarda “gerçek zamanlı yüz tanıma teknolojisinin” kullanımını açıkça yasaklıyor. -vahşi” ortamlar.
Şartlardaki değişiklikler, askeriye ve kolluk kuvvetlerine yönelik teknoloji ve silah ürünleri üreticisi Axon’un yeni bir anlaşma açıklamasından bir hafta sonra geldi. yeni ürün vücut kameralarından gelen sesi özetlemek için OpenAI’nin GPT-4 üretken metin modelinden yararlanır. Eleştirmenler, halüsinasyonlar (günümüzün en iyi üretken yapay zeka modelleri bile gerçekleri icat ediyor) ve eğitim verilerinden kaynaklanan ırksal önyargılar (özellikle farklı ırklardan insanların olduğu göz önüne alındığında endişe verici) gibi potansiyel tuzaklara dikkat çekmekte hızlı davrandılar. polis tarafından durdurulma ihtimali çok daha yüksek beyaz akranlarına göre).
Axon’un, Azure OpenAI Hizmeti aracılığıyla GPT-4 kullanıp kullanmadığı ve eğer öyleyse, güncellenen politikanın Axon’un ürün lansmanına yanıt olarak mı verildiği belli değil. OpenAI vardı önceden kısıtlanmış API’leri aracılığıyla yüz tanıma için modellerinin kullanılması. Axon, Microsoft ve OpenAI ile iletişime geçtik ve yanıt alırsak bu gönderiyi güncelleyeceğiz.
Yeni şartlar Microsoft’a hareket alanı bırakıyor.
Azure OpenAI Hizmeti kullanımına ilişkin tam yasak yalnızca ABD’yi ilgilendiriyor, uluslararası değil, polis. Ve bu, aşağıdakilerle gerçekleştirilen yüz tanımayı kapsamaz: sabit kameralar kontrollü arka ofis gibi ortamlar (şartlar ABD polisinin yüz tanıma özelliğini kullanmasını yasaklasa da).
Bu, Microsoft’un ve yakın ortağı OpenAI’nin yapay zeka ile ilgili kolluk kuvvetleri ve savunma sözleşmelerine yönelik son yaklaşımıyla örtüşüyor.
Ocak ayında Bloomberg’in raporu açıklığa kavuşmuş OpenAI’nin, siber güvenlik yetenekleri de dahil olmak üzere bir dizi proje üzerinde Pentagon ile birlikte çalıştığını ve bu, girişimin yapay zekasını ordulara sağlama konusundaki daha önceki yasağından farklı olduğunu söyledi. Başka yerlerde Microsoft, Savunma Bakanlığı’nın (DoD) askeri operasyonları yürütmek üzere yazılım geliştirmesine yardımcı olmak için OpenAI’nin görüntü oluşturma aracı DALL-E’yi kullanmayı teklif etti. başına Kesmek.
Azure OpenAI Hizmeti, kolluk kuvvetleri de dahil olmak üzere devlet kurumlarına yönelik ek uyumluluk ve yönetim özellikleri ekleyerek Microsoft’un Azure Kamu ürününde Şubat ayında kullanıma sunuldu. İçinde Blog yazısıMicrosoft’un hükümet odaklı bölümü Microsoft Federal’in Kıdemli Başkan Yardımcısı Candice Ling, Azure OpenAI Hizmetinin Savunma Bakanlığı görevlerini destekleyen iş yükleri için Savunma Bakanlığı’na “ek yetkilendirme için sunulacağını” taahhüt etti.
Güncelleme: Yayınlandıktan sonra Microsoft, hizmet koşullarındaki orijinal değişikliğinin bir hata içerdiğini ve aslında yasağın yalnızca ABD’deki yüz tanıma için geçerli olduğunu söyledi. Hizmeti kullanan polis departmanlarına yönelik genel bir yasak değil.
