Google, Play Store’da yayınlanan Android uygulamalarının geliştiricilerinin yapay zeka tarafından oluşturulan rahatsız edici içerikleri raporlama veya işaretleme olanağı sunmasını gerektirecek ve gelecek yılın başından itibaren yürürlüğe girecek yeni bir politikayla potansiyel olarak sorunlu üretken yapay zeka uygulamalarını hedef alıyor. Şirket, yeni politikanın, işaretleme ve raporlamanın uygulama içi yapılabileceği konusunda ısrar edeceğini ve geliştiricilerin, filtreleme ve denetlemeye yönelik kendi yaklaşımlarını bilgilendirmek için raporu kullanması gerektiğini söylüyor.
Politikadaki değişiklik, geçen yıl Lensa’da olduğu gibi, yapay zeka tarafından oluşturulan uygulamalarda yaşanan patlamanın ardından geldi; bunlardan bazıları, kullanıcıların uygulamaları NSFW görüntüleri oluşturmaları için kandırdıklarıydı. Bu arada diğerlerinin daha ince sorunları var. Örneğin, bu yaz yapay zekanın vesikalık fotoğrafları için viral olan bir uygulama olan Remini’nin, bazı kadınların göğüslerinin veya dekoltesinin büyüklüğünü büyük ölçüde artırdığı ve onları incelttiği ortaya çıktı. Ayrıca, Microsoft’un ve Meta’nın yapay zeka araçlarıyla ilgili daha yeni sorunlar da vardı; insanlar, Kirpi Sonic gibi hamile görüntüleri veya 11 Eylül’ü gerçekleştiren kurgusal karakterleri oluşturmak için korkulukları aşmanın yollarını buldular.
Elbette yapay zeka görüntü oluşturucuların kullanımıyla ilgili daha da ciddi endişeler var, çünkü sübyancılar açık kaynaklı yapay zeka araçları kullanılarak keşfedildi ile çocuklara yönelik cinsel istismar materyali oluşturmak (CSAM) geniş ölçekte. Yaklaşan seçimlerle birlikte, oy veren halkı yanıltmak veya yanlış bilgilendirmek için yapay zekanın sahte görüntüler (diğer adıyla deepfake) oluşturmak amacıyla kullanılmasına ilişkin endişeler de var.
Resim Kredisi: Google
Yeni politikanın metni, yapay zeka tarafından oluşturulan içerik örneklerinin, ChatGPT gibi uygulamaların yanı sıra, sohbet robotuyla etkileşimin uygulamanın merkezi bir özelliği olduğu metinden metne konuşma üreten yapay zeka sohbet robotlarını da içerdiğini gösteriyor. görüntülerin “metin, görüntü veya sesli komutlara dayalı olarak yapay zeka tarafından oluşturulduğu” uygulamalar.
Google, kendi duyurugeliştiricilere, yapay zeka içerik oluşturucuları da dahil olmak üzere tüm uygulamaların, mevcut geliştirici politikalarına uyması gerektiğini hatırlattı. sınırlı gibi içerik CSAM ve diğerleri yanıltıcı davranışı etkinleştirin.
Google, yapay zeka içerikli uygulamalara yönelik sıkı önlemler almak için politikasını değiştirmenin ötesinde, geniş fotoğraf ve video izinleri isteyen uygulamalar da dahil olmak üzere bazı uygulama izinlerinin de Google Play ekibi tarafından ek bir incelemeye tabi tutulacağını söylüyor. Yeni politikaya göre uygulamalar, yalnızca işlevleriyle doğrudan ilgili olması durumunda fotoğraf ve videolara erişebilecek. Kullanıcılardan bir dizi selfie yüklemelerini isteyen AI uygulamaları gibi tek seferlik veya seyrek bir ihtiyaçları varsa, uygulamaların yeni gibi bir sistem seçici kullanması gerekir. Android fotoğraf seçici.
Resim Kredisi: Google
Yeni politika aynı zamanda rahatsız edici tam ekran bildirimleri yalnızca yüksek öncelikli bir ihtiyacın olduğu zamanlarla sınırlayacak. Tam ekran bildirimleri açma yeteneği, kullanıcılara ücretli abonelikler veya diğer teklifler sunmak amacıyla birçok uygulama tarafından kötüye kullanıldı; gerçekte işlevselliğin, telefon görüşmesi veya video almak gibi gerçek dünyadaki öncelikli kullanım durumlarıyla sınırlı olması gerekirken Arama. Google artık sınırlamaları değiştireceğini ve özel bir uygulama erişim izni gerektirdiğini söylüyor. Bu “Tam Ekran Amacı izni” yalnızca Android 14 ve üzerini hedefleyen ve tam ekran işlevselliği gerektiren uygulamalara verilecektir.
Google’ın AI uygulamaları ve sohbet robotlarına ilişkin bir politikayla kapıdan ilk çıkan olduğunu görmek şaşırtıcı, çünkü tarihsel olarak uygulamalardan gelen istenmeyen davranışları engellemek için yeni kurallar yayınlayan ve Google’ın daha sonra taklit ettiği Apple oldu. Ama elma resmi bir yapay zeka veya sohbet robotu politikası yok Uygulamaların kullanıcıyı veya cihazı tanımlamak amacıyla veri talep etmesi gibi diğer alanlarda ve “parmak izi” olarak bilinen bir yöntemin yanı sıra kopyalamaya çalışan uygulamalarda da sıkılaştırıldı. diğerleri.
Google Play’in politika güncellemeleri bugün kullanıma sunuluyor ancak AI uygulama geliştiricilerinin, işaretlemeyi uygulamak ve değişiklikleri uygulamalarında raporlamak için 2024’ün başlarına kadar süreleri var.