Duyguyu biliyorsun; Bir flört uygulamasındasın ve birisiyle sohbete başlıyorsun ve işler tam olarak düzelmiyor gibi görünüyor. Sen gördün Tinder Dolandırıcı Netflix’te ve aniden şunu merak ediyorsunuz: Biri benden para mı isteyecek? takım video flört sitesi Filtre Kapalı Yeni bir yaklaşım benimsemeye karar verdi: Tespit edilen her dolandırıcı, yalnızca sevimli bekarlar gibi davranan kendi sohbet robotlarını ve diğer dolandırıcıları içeren bir yan flört ümidi havuzuna eklendi. Tahmin edebileceğiniz gibi, neşe başladı.
Bir platform olarak Filter Off, COVID-19 karantinalarının başlangıcında başlatılan, video öncelikli bir flört uygulamasıdır. Flörtleşme, barlar, galeriler ve pikniklerden daha çok sohbet ve video öncelikli olmaya geçerken, şirket çeşitli konularda sanal hızlı flört etkinlikleri sunmaya başladı; Harry Potter randevu gecesi, köpek severler randevu gecesi, New York City randevu gecesi – adını siz koyun. Platformun yüz binlerce kullanıcısı var ve popülaritesi aşk arayan insanlarla arttıkça, kurucular ikinci bir grup insanı da çektiğini keşfettiler – para arayan insanlar.
“Bir sorun olduğunu ilk fark ettiğimde George Clooney’nin Filter Off’a katıldığını gördüm. TechCrunch ile yaptığı röportajda Filter Off ürün müdürü Brian Weinreich, ‘Vay canına, bu vahşi, inanamıyorum…’ gibiydim ama sonra profiline daha yakından baktım” diye gülüyor. Clooney’nin muhtemelen bir arkadaşlık sitesinde olmayacağını ve olsaydı bile Nijerya, Lagos’tan 34 yaşında olmayacağını fark etti. “Onları uygulamadan çıkarmak için profillerini sildim. Sonra gerçek insanlara benzeyen tüm bu profilleri fark etmeye başladım, ancak hepsi birbiriyle örtüşmeyen bu farklı profillerdi.”
Ürün ekibi sorunu algoritmalarla çözmeye karar verdi ve kullanıcıları insanlara ve “fark etmeye başladığım belirli özelliklere dayanarak, insanların uygulamayı nasıl kullandıklarına dair belirli özelliklere dayanarak” ayıracak bir yazılım parçası yarattı. ” dolandırıcı olma ihtimalleri oldukça yüksek. Ekip, profilleri silmeye devam etti, ancak kestikleri her dolandırıcı için, Medusa tarzı yerine beş tane daha ortaya çıkıyordu.
Weinreich, “Tamam, dolandırıcılardan kurtulabileceğimiz bir yola ihtiyacımız var, ancak geri dönüp platforma yeniden katılamayacakları bir şekilde olması gerekiyor” dedi. “Reddit ve diğer platformların, kullanıcıların paylaşım yapmaya devam edebileceği ancak normal kullanıcıların içeriklerini görmediği bir tür ‘gölge yasağı’ olduğunu hatırladım.”
Ve böylece iş başladı. Kullanılan takım GPT-3 insan benzeri yüzler oluşturan bir komut dosyasıyla birleştirilmiş bir dizi sohbet robotu oluşturmak, bir dizi sahte profil oluşturmak için. Uyarı: Bu profiller “normal” kullanıcılar tarafından görülmez, yalnızca algoritmanın dolandırıcı olduğunu belirlediği kişiler tarafından görülür. Onları gerçek insanlar gibi görünen ve konuşan binlerce bottan oluşan bir havuza koyuyorlar.
“Tİşin komik yanı, iki şey oluyor. Birincisi, dolandırıcılar başka robotlarla karşılaşacaklar, ancak başka dolandırıcılarla da karşılaşacaklar ve birbirlerini dolandırmaya çalışıyorlar” diye gülüyor Weinreich. “’Bir Google Play hediye kartı için 40 dolar istiyorum’ gibiler ve diğer dolandırıcı ‘hayır, hayır hediye kartı veriyorsunuz’ diyor. ben“dedi ve tartışmaya devam ettiler. Bu çok komik bir şey, şu anda uygulamamızda muhtemelen aktif olarak sadece botlarla konuştuğunu bildiğim 1000’den fazla dolandırıcı var. Bu harika. Zamanlarını boşa harcıyorlar ve gerçek kullanıcılarımızla uğraşmak zorunda değiller.”
Platform, gerçek kullanıcıların potansiyel dolandırıcıları bildirebileceği raporlama ve engelleme özelliklerine sahiptir. Rapor edildiğinde, ekip algoritmasını iyileştirebilir ve ayrıca dolandırıcıları manuel olarak bot havuzuna yerleştirebilir.
“TRapor özelliğimizle ilgili en komik kısım, bir botla konuştuklarını bildiren dolandırıcılardan aldığım raporların sayısı. ‘Evet, biliyorum, mesele bu’ gibiyim,” diye omuz silkiyor Weinreich.
şirket toplanan dolandırıcıların kendi blogunda birbirleriyle ve botlarla yaptığı en saçma konuşmalardan bazılarıki bu da bir gözden geçirmeye değer.