Facebook’un sahibi Pazartesi günü yaptığı açıklamada, Meta’nın ünlülerin dolandırıcılık reklamlarıyla ve daha genel olarak mücadele etmek için dolandırıcılığa karşı bir önlem olarak yüz tanıma testlerini genişlettiğini duyurdu.
Meta’nın içerik politikasından sorumlu Başkan Yardımcısı Monika Bickert, bir blog yazısında bazı testlerin, reklam inceleme sisteminin bir parçası olarak yürütülen otomatik taramalar (makine öğrenimi sınıflandırıcılarını kullanarak) gibi mevcut dolandırıcılık önleme önlemlerini desteklemeyi amaçladığını yazdı. Dolandırıcıların radarının altına girmesini ve Facebook ve Instagram kullanıcılarının sahte reklamlara tıklamasını zorlaştırıyor.
“Dolandırıcılar, insanları kişisel bilgilerini paylaşmalarının veya para göndermelerinin istendiği dolandırıcılık web sitelerine yönlendiren reklamlarla etkileşime geçmeye ikna etmek için genellikle içerik oluşturucular veya ünlüler gibi tanınmış kişilerin resimlerini kullanmaya çalışıyor. Yaygın olarak ‘ünlü tuzağı’ olarak adlandırılan bu düzen, politikalarımızı ihlal ediyor ve ürünlerimizi kullanan insanlar için kötü” diye yazdı.
“Elbette birçok meşru reklamda ünlüler yer alıyor. Ancak ünlülere yönelik reklamlar genellikle gerçek görünecek şekilde tasarlandığından, bunları tespit etmek her zaman kolay olmuyor.”
Testler, mevcut Meta sistemleri tarafından şüpheli olarak işaretlenen reklamların, “ünlü tuzağı” olarak adlandırılan risk altında olan tanınmış bir kişinin resmini içerdiğinde, yüz tanımayı bir dayanak noktası olarak kullanıyor gibi görünüyor.
Bickert, “Reklamdaki yüzleri tanınmış kişinin Facebook ve Instagram profil fotoğraflarıyla karşılaştırmak için yüz tanıma teknolojisini kullanmaya çalışacağız” diye yazdı. “Bir eşleşmeyi onaylarsak ve reklamın dolandırıcılık olduğunu tespit edersek onu engelleriz.”
Meta, özelliğin dolandırıcılık reklamlarıyla mücadele dışında başka bir amaçla kullanılmadığını iddia ediyor. “Sistemimizin bir eşleşme bulup bulmadığına bakılmaksızın, bu tek seferlik karşılaştırma için reklamlardan oluşturulan tüm yüz verilerini derhal sileriz ve bunları başka hiçbir amaçla kullanmayız” dedi.
Şirket, “ünlülerden ve kamuya mal olmuş kişilerden oluşan küçük bir grupla” (kim olduğunu belirtmedi) yapılan yaklaşımın ilk testlerinin, bu tür dolandırıcılıkların tespit edilmesi ve bunlara karşı yaptırım uygulanmasının hızını ve etkinliğini artırmada “umut verici” sonuçlar verdiğini söyledi.
Meta ayrıca TechCrunch’a, üretken yapay zekanın ünlü kişilerin görüntülerini üretmek için kullanıldığı deepfake dolandırıcılık reklamlarını tespit etmede yüz tanıma kullanımının etkili olacağını düşündüğünü söyledi.
Sosyal medya devi, yıllardır şüpheli kripto yatırımları gibi dolandırıcılıkları masum kullanıcılara duyurmak amacıyla reklam platformunu kullanmak amacıyla ünlü kişilerin yüzlerini kötüye kullanan dolandırıcıları engelleyememekle suçlanıyor. Bu nedenle, şirketin aynı anda ticari yapay zeka modellerini eğitmek için mümkün olduğu kadar çok kullanıcı verisi toplamaya çalıştığı bir dönemde, Meta’nın bu sorun için yüz tanıma temelli dolandırıcılık önleme önlemlerini devreye sokması ilginç bir zamanlama. üretken yapay zeka araçları oluşturmak için endüstri çapındaki daha geniş mücadele).
Önümüzdeki haftalarda Meta, ünlülerin tuzağına düşen daha büyük bir grup tanınmış kişiye uygulama içi bildirimler göstermeye başlayacağını ve onlara sisteme kaydolduklarını bildireceğini söyledi.
Bickert, “Bu korumaya kayıtlı tanınmış kişiler, Hesap Merkezinde istedikleri zaman kapsam dışında kalmayı seçebilirler” dedi.
Meta aynı zamanda, sahtekarlık fırsatlarını genişletmek amacıyla platformda kamuya mal olmuş kişileri taklit etmeye çalışan ünlü empozeci hesapları tespit etmek için yüz tanıma kullanımını da test ediyor. halka açık bir kişinin Facebook ve Instagram profil resimleri.
Bickert, “Bunu ve diğer yeni yaklaşımları yakında test etmeyi umuyoruz” diye ekledi.
Hesap kilidini açmak için video selfie’ler ve yapay zeka
Ek olarak Meta, dolandırıcılar tarafından ele geçirildikten sonra Facebook/Instagram hesapları kilitlenen kişiler için hesap kilidinin daha hızlı açılmasını sağlamak amacıyla video selfielere uygulanan yüz tanıma kullanımını denediğini duyurdu (örneğin, bir kişinin şifrelerini teslim etmeleri için kandırıldılar).
Bu, kimlik doğrulama için yüz tanıma teknolojisinin belirgin faydasını teşvik ederek kullanıcılara hitap etmeyi amaçlıyor gibi görünüyor; Meta, hesap erişimini yeniden kazanmanın, devlet tarafından verilmiş bir kimliğin resmini yüklemekten (ki bu olağandır) daha hızlı ve daha kolay bir yol olacağını ima ediyor Şimdi erişim erişiminin kilidini açmak için rota).
Bickert, “Görüntülü selfie doğrulama, insanların hesap erişimini yeniden kazanma seçeneklerini genişletiyor, tamamlanması yalnızca bir dakika sürüyor ve insanların kimliklerini doğrulamasının en kolay yolu” dedi. “Her ne kadar bilgisayar korsanlarının hesap kurtarma araçlarından yararlanmaya devam edeceğini bilsek de, bu doğrulama yönteminin bilgisayar korsanları için kötüye kullanılması, geleneksel belge tabanlı kimlik doğrulamaya göre sonuçta daha zor olacaktır.”
Meta’nın test ettiği yüz tanıma tabanlı video selfie tanımlama yöntemi, kullanıcının bir video selfie yüklemesini gerektirecek ve bu selfie daha sonra, videoyu erişmeye çalıştığı hesaptaki profil resimleriyle karşılaştırmak için yüz tanıma teknolojisi kullanılarak işlenecek.
Meta, yöntemin bir telefonun kilidini açmak veya Apple’ın iPhone’daki FaceID’si gibi diğer uygulamalara erişmek için kullanılan kimlik doğrulamaya benzer olduğunu iddia ediyor. Bickert, “Birisi bir video selfie yükler yüklemez şifrelenecek ve güvenli bir şekilde saklanacak” diye ekledi. “Bu asla onların profilinde, arkadaşlarına veya Facebook ya da Instagram’daki diğer kişilere görünmeyecek. Bu karşılaştırma sonrasında oluşturulan tüm yüz verilerini, eşleşme olup olmadığına bakılmaksızın derhal siliyoruz.”
Kullanıcıları kimlik doğrulama için bir video selfie yüklemeye ve saklamaya koşullandırmak, Meta’nın dijital kimlik alanındaki tekliflerini genişletmesinin bir yolu olabilir – eğer yeterli sayıda kullanıcı biyometrik verilerini yüklemeyi seçerse.
İngiltere veya AB’de şimdilik test yok
Meta’ya göre tüm bu yüz tanıma testleri küresel olarak yürütülüyor. Ancak şirket, oldukça dikkat çekici bir şekilde, testlerin şu anda kapsamlı veri koruma düzenlemelerinin geçerli olduğu Birleşik Krallık veya Avrupa Birliği’nde yapılmadığını belirtti. (Kimlik doğrulamaya yönelik biyometri özel durumunda, bloğun veri koruma çerçevesi, böyle bir kullanım durumu için ilgili bireylerin açık rızasını talep etmektedir.)
Bu göz önüne alındığında, Meta’nın testleri, son aylarda Avrupa’da yerel yasa yapıcılara vatandaşların mahremiyet korumalarını sulandırmaları yönünde baskı yapmak için uyguladığı daha geniş bir PR stratejisine uyuyor gibi görünüyor. Bu kez, yapay zeka için sınırsız veri işlemeye yönelik baskının öne sürdüğü neden, (kendi kendine hizmet eden) bir veri çeşitliliği kavramı ya da iddiaları değil. ekonomik büyüme kaybı ancak dolandırıcılarla mücadele etmenin daha basit hedefi.
Meta sözcüsü Andrew Devoy TechCrunch’a şunları söyledi: “İleriye yönelik testleri yaparken Birleşik Krallık’taki düzenleyici kurum, politika yapıcılar ve diğer uzmanlarla iletişim halindeyiz.” “Uzmanlardan geri bildirim almaya ve özellikler geliştikçe ayarlamalar yapmaya devam edeceğiz.”
Bununla birlikte, yüz tanımanın dar bir güvenlik amacıyla kullanılması bazıları için kabul edilebilir olsa da (ve aslında Meta’nın mevcut veri koruma kuralları kapsamında bunu üstlenmesi mümkün olabilir), ticari yapay zeka modellerini eğitmek için insanların verilerini kullanmak tamamen başka bir meseledir.