Microsoft, kullanıcıların uygulamalar ve hizmetler genelinde zararlı yapay zeka ve kullanıcı tarafından oluşturulan içeriği tespit etmesine ve filtrelemesine yardımcı olan yeni bir hizmet olan Azure AI İçerik Güvenliğinin genel kullanıma sunulduğunu duyurdu.
Hizmet, metin ve resim algılamayı içerir ve küfür, yetişkinlere yönelik içerik, kan, şiddet ve belirli konuşma türleri dahil olmak üzere Microsoft’un “saldırgan, riskli veya istenmeyen” olarak nitelendirdiği içeriği tanımlar.
Azure Anomali Dedektörü ürün müdürü Louise Han, bir blog yazısında şunları yazdı: “İçerik güvenliğine odaklanarak, yapay zekanın sorumlu kullanımını teşvik eden ve bireylerin ve bir bütün olarak toplumun refahını koruyan daha güvenli bir dijital ortam yaratabiliriz.” lansmanı duyuruyor.
Azure AI İçerik Güvenliği Hem metin hem de görsel içeriği denetlemek için çeşitli içerik kategorilerini, dilleri ve tehditleri yönetme becerisine sahiptir. Ayrıca görsel içeriği taramak, analiz etmek ve denetlemek için yapay zeka algoritmalarını kullanan görüntü özellikleri sunarak Microsoft’un 360 derece kapsamlı güvenlik önlemleri olarak adlandırdığı şeyi sağlar.
Hizmet aynı zamanda birden çok dildeki içeriği denetlemek için de donatılmıştır ve belirli içeriğin önem derecesini 0 ile 7 arasında değişen bir ölçekte gösteren bir önem derecesi ölçüsü kullanır.
0-1 arasında derecelendirilen içerik tüm izleyiciler için güvenli ve uygun kabul edilirken önyargılı, yargılayıcı veya sabit görüşler ifade eden içerik 2-3 veya düşük olarak derecelendirilir.
Orta önem derecesine sahip içerik 4-5 arasında derecelendirilir ve saldırgan, aşağılayıcı, alaycı, korkutucu bir dil veya kimlik gruplarına yönelik açık saldırılar içerir; yüksek önem dereceli içerik ise zararlı eylemlerin zararlı ve açık bir şekilde tanıtımını içeren veya zararlı eylemlerin aşırı biçimlerini onaylayan veya yüceltendir. kimlik gruplarına yönelik etkinlik 6-7 arasında derecelendirilir.
Azure AI İçerik Güvenliği ayrıca nefret, şiddet, kendine zarar verme ve cinsellik de dahil olmak üzere bir dizi kritik etki alanındaki zararlı içeriği tanımlamak ve kategorilere ayırmak için çok kategorili filtrelemeyi kullanır.
“[When it comes to online safety] Özellikle yapay zeka tarafından oluşturulan içerik yaygınlaştıkça, insan tarafından oluşturulan içerikten daha fazlasını dikkate almak çok önemli,” diye yazdı Han. “Yapay zeka tarafından üretilen çıktılarda doğruluğun, güvenilirliğin ve zararlı veya uygunsuz malzemelerin bulunmamasının sağlanması esastır. İçerik güvenliği, kullanıcıları yalnızca yanlış bilgilerden ve olası zararlardan korumakla kalmıyor, aynı zamanda etik standartları destekliyor ve yapay zeka teknolojilerine güven oluşturuyor.”
Azure AI İçerik Güvenliği, kullandıkça öde esasına göre fiyatlandırılır. İlgilenen kullanıcılar fiyat seçeneklerini kontrol edebilirler. Azure AI İçerik Güvenliği fiyatlandırma sayfası.
Telif Hakkı © 2023 IDG Communications, Inc.
