Perşembe günü Google, uygunsuz ve başka şekilde yasaklanmış içeriği azaltma umuduyla, Google Play aracılığıyla dağıtılan AI uygulamaları geliştiren geliştiriciler için yeni bir kılavuz yayınlıyor. Şirket, yapay zeka özellikleri sunan uygulamaların cinsel içerik, şiddet ve daha fazlasını içeren kısıtlı içeriğin oluşturulmasını engellemesi gerektiğini ve kullanıcılara buldukları rahatsız edici içeriği işaretlemeleri için bir yol sunması gerektiğini söylüyor. Ayrıca Google, geliştiricilerin kullanıcı güvenliğine ve gizliliğine saygı duyduklarından emin olmak için AI araçlarını ve modellerini “titizlikle test etmeleri” gerektiğini söylüyor.
Aynı zamanda, pazarlama materyallerinin uygunsuz kullanım durumlarını teşvik ettiği, insanları soyan veya rıza dışı çıplak görüntüler oluşturan uygulamalar gibi uygulamalara da karşı önlem alıyor. Reklam metninde uygulamanın bu tür şeyler yapabileceği belirtiliyorsa, uygulama gerçekten bunu yapabilsin veya yapmasın, Google Play’de yasaklanabilir.
Yönergeler, son aylarda sosyal medyada kendilerini pazarlayan, giderek artan yapay zeka soyunma uygulamaları belasını takip ediyor. Örneğin 404 Media’nın Nisan ayı raporunda Instagram’ın şu amaçlarla reklam barındırdığı ortaya çıktı: Deepfake çıplaklar oluşturmak için yapay zekayı kullandığını iddia eden uygulamalar. Bir uygulama, Kim Kardashian’ın bir resmini ve “Her kızı bedavaya soyun” sloganını kullanarak kendisini pazarladı. Apple ve Google, uygulamaları ilgili uygulama mağazalarından kaldırdı ancak sorun hâlâ yaygın.
ABD genelindeki okullar sorunlar bildiriyor öğrenciler geçen etrafında AI diğer öğrencilerin derin sahte çıplak fotoğraflarını (ve bazen öğretmenler) diğer türlerin yanı sıra zorbalık ve taciz için uygunsuz Yapay zeka içeriği. Geçen ay, bir okul müdürünün ırkçı yapay zeka sahtekarlığı, tutuklamaya Baltimore’da. Daha da kötüsü sorun daha da büyüyor Ortaokuldaki öğrencileri etkiliyorbazı durumlarda.
Google, politikalarının, yapay zeka tarafından oluşturulan, kullanıcılar için uygunsuz veya zararlı olabilecek içeriğe sahip uygulamaları Google Play’den uzak tutmaya yardımcı olacağını söylüyor. Google Play’de uygulama onayı gerekliliklerini kontrol edebileceğiniz bir yer olarak mevcut Yapay Zeka Tarafından Oluşturulan İçerik Politikasına işaret ediyor. Şirket, yapay zeka uygulamalarının herhangi bir kısıtlı içeriğin oluşturulmasına izin veremeyeceğini ve aynı zamanda kullanıcılara bir yol sunması gerektiğini söylüyor. saldırgan ve uygunsuz içeriği işaretleyinve ayrıca bu geri bildirimi izleyin ve önceliklendirin. Google, popüler modellerin daha üst sıralarda veya daha belirgin şekilde sıralandığı uygulamalar gibi, kullanıcıların etkileşimlerinin “içeriği ve deneyimi şekillendirdiği” uygulamalarda özellikle önemlidir.
Geliştiriciler ayrıca Google’ın kurallarına göre uygulamalarının Google Play’in herhangi bir kuralını ihlal ettiğinin reklamını yapamaz. Uygulama Promosyonu gereksinimleri. Uygunsuz bir kullanım senaryosunun reklamını yapıyorsa uygulama, uygulama mağazasından başlatılabilir.
Ayrıca geliştiriciler, zararlı ve rahatsız edici içerik oluşturmak için yapay zeka özelliklerini değiştirebilecek istemlere karşı uygulamalarını korumaktan sorumludur. Google, geliştiricilerin kullanabileceğini söylüyor kapalı test Geri bildirim almak için uygulamalarının ilk sürümlerini kullanıcılarla paylaşma özelliği. Şirket, geliştiricilerin yalnızca lansmandan önce test yapmalarını değil, aynı zamanda Google’ın gelecekte inceleme isteyebileceği için bu testleri de belgelemelerini şiddetle tavsiye ediyor.
Şirket aynı zamanda diğer kaynakları ve en iyi uygulamaları da yayınlıyor. İnsanlar + Yapay Zeka RehberiAI uygulamaları geliştiren geliştiricileri desteklemeyi amaçlayan.