Google, üçüncü taraf Android uygulama geliştiricilerini üretken yapay zeka (GenAI) özelliklerini sorumlu bir şekilde birleştirmeye çağırıyor.
Arama ve reklam devinin yeni kılavuzu, bu tür araçlar aracılığıyla oluşturulan, cinsel içerik ve nefret söylemi de dahil olmak üzere sorunlu içeriklerle mücadele etme çabasını içeriyor.
Bu amaçla, yapay zeka kullanarak içerik üreten uygulamaların, Kısıtlanmış İçerikkullanıcıların kullanabileceği bir mekanizmaya sahip Saldırgan bilgileri bildirin veya işaretleyinve bunları uygulamanın yeteneklerini doğru şekilde temsil edecek şekilde pazarlayın. Uygulama geliştiricilerine, kullanıcı güvenliğine ve gizliliğine saygı gösterdiklerinden emin olmak için yapay zeka modellerini titizlikle test etmeleri de öneriliyor.
Google Play, Android ve Chrome’un güven ve güvenlik direktörü Prabhat Sharma, “Uygulamalarınızı çeşitli kullanıcı senaryolarında test ettiğinizden ve bunları zararlı veya rahatsız edici içerik oluşturmak için üretken AI özelliğinizi değiştirebilecek istemlere karşı koruduğunuzdan emin olun.” söz konusu.
Gelişme, 404 Media’nın yakın zamanda yaptığı bir araştırmayla ortaya çıktı kurmak Apple App Store ve Google Play Store’da rıza dışı çıplak resimler oluşturma olanağının reklamını yapan çeşitli uygulamalar.
Meta’nın Kamu Verilerini Yapay Zeka İçin Kullanımı Endişelere Yol Açıyor
Son yıllarda yapay zeka teknolojilerinin hızlı bir şekilde benimsenmesi, eğitim verileri ve model güvenliğiyle ilgili daha geniş gizlilik ve güvenlik endişelerine de yol açarak, kötü niyetli aktörlere hassas bilgileri çıkarma ve beklenmedik sonuçlar elde etmek için temel modellere müdahale etme yolu sağladı.
Dahası, Meta’nın yapay zeka tekliflerini iyileştirmeye yardımcı olmak ve “dünyanın en iyi öneri teknolojisi” Avusturyalı gizlilik kuruluşu Noyb’u harekete geçirdi şikayetçi olmak 11 Avrupa ülkesinde, bölgedeki GDPR gizlilik yasalarının ihlal edildiği iddia ediliyor.
Şirket, “Bu bilgiler herkese açık gönderiler veya herkese açık fotoğraflar ve bunların altyazıları gibi şeyleri içerir” dedi. duyuruldu geçen ayın sonlarında. “Gelecekte, insanların Meta AI gibi üretken AI özelliklerimizle veya bir işletmeyle etkileşimde bulunurken paylaştığı bilgileri, AI ürünlerimizi geliştirmek ve iyileştirmek için de kullanabiliriz.”
Özellikle Noyb, Meta’yı yükü kullanıcıların sırtına yüklemekle (yani dahil olmak yerine devre dışı bırakmakla) ve şirketin müşteri verilerini nasıl kullanmayı planladığı konusunda yeterli bilgi sağlayamamakla suçladı.
Meta ise yapay zekayı geliştirmek ve daha iyi deneyimler oluşturmak için “Avrupa Bölgesi ve Birleşik Krallık’taki belirli birinci ve üçüncü taraf verilerinin işlenmesinde ‘Meşru Menfaatlerin’ yasal dayanağına dayanacağını” belirtti. AB kullanıcılarının 26 Haziran’a kadar işleme dışında kalmayı seçmeleri gerekiyor. istek gönderme.
Sosyal medya devi, yaklaşımın diğer teknoloji şirketlerinin Avrupa’daki yapay zeka deneyimlerini nasıl geliştirdikleri ve iyileştirdikleriyle uyumlu olduğunu vurgularken, Norveçli veri koruma yetkilisi Datatilsynet, sürecin yasallığı konusunda “şüpheli” olduğunu söyledi.
Ajans, “Bizim açımızdan en doğal şey, gönderilerinin ve fotoğraflarının bu şekilde kullanılmasından önce kullanıcılardan izin istemek olurdu.” söz konusu Bir açıklamada.
Noyb’dan Max Schrems, “Avrupa Adalet Divanı, Meta’nın reklam söz konusu olduğunda kullanıcıların veri koruma hakkını geçersiz kılma yönünde ‘meşru menfaati’ olmadığını zaten açıkça ortaya koydu.” dedi. “Yine de şirket aynı argümanları tanımlanmamış ‘Yapay Zeka teknolojisi’nin eğitimi için kullanmaya çalışıyor.”
Microsoft’un Geri Çağırılması Daha Fazla İncelemeyle Karşı Karşıya
Meta’nın en son düzenleyici karmaşası, Microsoft’un kendi yapay zeka destekli özelliği olan Recall’ın da devreye girdiği bir zamanda geldi. kabul edilmiş hızlı tepki Kullanıcıların Windows PC’lerindeki etkinliklerinin her beş saniyede bir ekran görüntülerinin alınarak aranabilir bir arşive dönüştürülmesi sonucunda ortaya çıkabilecek gizlilik ve güvenlik riskleri nedeniyle.
Güvenlik araştırmacısı Kevin Beaumont, yeni bir analizde, kötü niyetli bir aktörün bir bilgi hırsızı konuşlandırmasının ve ekran görüntülerinden ayrıştırılan bilgileri saklayan veritabanına sızmasının mümkün olduğunu buldu. Bunu başarmanın tek ön koşulu, verilere erişmenin kullanıcının makinesinde yönetici ayrıcalıkları gerektirmesidir.
Beaumont, “Geri çağırma, tehdit aktörlerinin baktığınız her şeyi saniyeler içinde otomatik olarak kazımasına olanak tanıyor.” söz konusu. “[Microsoft] Geri Çağırma’yı geri çağırmalı ve daha sonraki bir tarihte sunmayı hak ettiği özellik olması için yeniden çalışmalıyız.”
Diğer araştırmacılar da benzer şekilde Recall’ı kötüye kullanıma hazır hale getiren ve veritabanından son derece hassas bilgiler çıkaran TotalRecall gibi araçları gösterdiler. TotalRecall’ı geliştiren Alexander Hagenah, “Windows Geri Çağırma, her şeyi yerel olarak şifrelenmemiş bir SQLite veritabanında saklar ve ekran görüntüleri yalnızca bilgisayarınızdaki bir klasöre kaydedilir.” söz konusu.
6 Haziran 2024 itibarıyla TotalRecall, güvenlik araştırmacısı James Forshaw’un Geri Çağırma verilerine erişmek için yönetici ayrıcalığı gereksinimini atlamak için belirttiği iki yöntemden birini kullanarak artık yönetici hakları gerektirmeyecek şekilde güncellendi.
“Yalnızca var olmakla korunur [access control list]Forshaw, “SİSTEM’e gönderildi ve bu nedenle herhangi bir ayrıcalık artışı (veya güvenlik dışı sınır *öksürük*) bilginin sızması için yeterli” dedi. söz konusu.
İlk teknik, AIXHost.exe adlı bir programın belirtecini alarak onun kimliğine bürünmeyi veya daha iyisi, erişim kontrol listelerini değiştirmek ve veritabanının tamamına erişim kazanmak için mevcut kullanıcının ayrıcalıklarından faydalanmayı gerektirir.
Bununla birlikte, Recall’ın şu anda ön izleme aşamasında olduğunu ve Microsoft’un bu ay sonuna doğru tüm kullanıcıların kullanımına sunulmadan önce uygulamada hâlâ değişiklik yapabileceğini belirtmekte fayda var. Uyumluluk için varsayılan olarak etkinleştirilmesi bekleniyor Yardımcı Pilot+ PC’ler.
