Google’ın dün I/O konferansında tanıttığı ve finansal dolandırıcılıklarla ilişkili konuşma kalıplarını gerçek zamanlı olarak sesli aramaları taramak için üretken yapay zeka teknolojisini kullanan bir özellik, gizlilik ve güvenlik uzmanlarının sırtında kolektif bir ürperti yarattı. özellik kamanın ince ucunu temsil eder. İstemci tarafı taramanın mobil altyapıya dahil edilmesinin, merkezi sansür çağını başlatabileceği konusunda uyarıyorlar.
Google’ın, teknoloji devinin Android işletim sisteminin gelecekteki bir sürümüne yerleştirileceğini söylediği (dünyadaki akıllı telefonların yaklaşık dörtte üçünde çalışacağı tahmin edilen) çağrı dolandırıcılığı algılama özelliğinin demosu, en küçüğü olan Gemini Nano tarafından destekleniyor. Tamamen cihaz üzerinde çalışacak şekilde tasarlanmış mevcut nesil yapay zeka modelleri.
Bu aslında müşteri taraflı bir taramadır: Son yıllarda çocuklara yönelik cinsel istismar materyallerini (CSAM) ve hatta mesajlaşma platformlarındaki tımar faaliyetlerini tespit etme çabalarıyla ilgili olarak büyük tartışmalara yol açan yeni ortaya çıkan bir teknoloji.
Apple, büyük bir gizlilik tepkisinin ardından 2021’de CSAM için istemci tarafı taramayı dağıtma planından vazgeçti. Ancak politika yapıcılar, platformlarında gerçekleşen yasa dışı etkinlikleri tespit etmenin yollarını bulmaları için teknoloji endüstrisine baskı yapmaya devam ediyor. Bu nedenle, cihaz üzerinde tarama altyapısı oluşturmaya yönelik herhangi bir sektör hamlesi, ister hükümet öncülüğünde ister belirli bir ticari gündemle ilgili olsun, varsayılan olarak her türlü içerik taramasının önünü açabilir.
Google’ın çağrı tarama demosuna yanıt verme X’te yayınlaABD merkezli şifreli mesajlaşma uygulaması Signal’ın başkanı Meredith Whittaker şu uyarıda bulundu: “Bu inanılmaz derecede tehlikeli. Merkezi, cihaz düzeyinde istemci tarafı taramasının yolunu açar.
“‘Dolandırıcılığı’ tespit etmekten, ‘yaygın olarak ilişkilendirilen kalıpları tespit etmeye’ giden kısa bir adımdır.[ith] üreme bakımı arama’ veya ‘yaygın olarak ilişkili[ith] LGBTQ kaynaklarının sağlanması’ veya ‘genelde teknoloji çalışanlarının ihbarıyla ilişkilendirilmesi’.”
Johns Hopkins’te profesör olan kriptografi uzmanı Matthew Green de X’e götürdüm Alarmı yükseltmek için. “Gelecekte yapay zeka modelleri, yasa dışı davranışları tespit etmek ve raporlamak için mesajlarınız ve sesli aramalarınız üzerinde çıkarım yapacak” diye uyardı. “Verilerinizin servis sağlayıcılardan geçmesini sağlamak için taramanın yapıldığına dair sıfır bilgi kanıtını eklemeniz gerekecek. Bu, açık istemcileri engelleyecektir.”
Green, varsayılan sansürün bu distopik geleceğinin teknik olarak mümkün olmasına yalnızca birkaç yıl kaldığını öne sürdü. “Bu teknolojinin farkına varılacak kadar verimli olmasına çok az kaldı, ama yalnızca birkaç yıl. En fazla on yıl,” diye önerdi.
Avrupalı gizlilik ve güvenlik uzmanları da hemen itirazda bulundu.
Google’ın demosuna tepki X’tePolonya merkezli bağımsız araştırmacı ve gizlilik ve güvenlik konularında danışman olan Lukasz Olejnik, şirketin dolandırıcılık önleme özelliğini memnuniyetle karşıladı ancak altyapının sosyal gözetim için yeniden tasarlanabileceği konusunda uyardı. “[T]Bu aynı zamanda çağrıları izlemek, oluşturmak, metin veya belge yazmak için teknik yeteneklerin zaten mevcut olduğu veya geliştirilmekte olduğu anlamına gelir; örneğin yasa dışı, zararlı, nefret dolu veya başka bir şekilde istenmeyen veya uygunsuz içeriğin (birinin standartlarına göre) aranması için.” o yazdı.
“Daha da ileri giderek böyle bir model örneğin bir uyarı görüntüleyebilir. Veya devam etme yeteneğini engelleyin,” diye vurgulayarak devam etti Olejnik. “Ya da bunu bir yere bildirin. Sosyal davranışın teknolojik modülasyonu veya benzeri. Bu, mahremiyetin yanı sıra bir dizi temel değer ve özgürlüklere yönelik de büyük bir tehdittir. Yetenekler zaten mevcut.”
Endişelerini daha da detaylandıran Olejnik, TechCrunch’a şunları söyledi: “Teknik ayrıntıları görmedim ancak Google, tespitin cihaz üzerinde yapılacağının garantisini veriyor. Bu, kullanıcı gizliliği açısından harikadır. Ancak gizlilikten çok daha fazlası söz konusu. Bu, yazılım ve işletim sistemlerine yerleşik AI/LLM’lerin çeşitli insan faaliyeti biçimlerini tespit etmek veya kontrol etmek için nasıl dönüştürülebileceğini vurguluyor.
Bu, yazılım ve işletim sistemlerine yerleşik AI/LLM’lerin çeşitli insan faaliyeti biçimlerini tespit etmek veya kontrol etmek için nasıl dönüştürülebileceğini vurgulamaktadır.
Lukasz Olejnik
“Şu ana kadar şans eseri durum daha iyi. Ancak teknik yetenek mevcutsa ve yerleşikse, ileride ne olacak? Bu tür güçlü özellikler, toplumların davranışlarını belirli ölçekte veya seçici olarak kontrol etmek için yapay zekanın kullanılmasıyla ilgili gelecekteki potansiyel risklere işaret ediyor. Bu muhtemelen şimdiye kadar geliştirilen en tehlikeli bilgi teknolojisi yeteneklerinden biridir. Ve o noktaya yaklaşıyoruz. Bunu nasıl yöneteceğiz? Çok mu ileri gidiyoruz?”
UCL’de teknoloji hukuku alanında doçent olan Michael Veale, Google’ın konuşma tarayan yapay zekasından kaynaklanan işlev kaymasının tüyler ürpertici hayaletini de gündeme getirdi; bir tepki olarak uyarıda bulundu X’te yayınla “düzenleyicilerin ve yasa koyucuların kötüye kullanmak isteyeceği, bundan daha fazla amaç için cihaz üzerinde istemci tarafı taraması için altyapı oluşturduğunu” söyledi.
Avrupa’daki gizlilik uzmanlarının özel bir endişe nedeni var: Avrupa Birliği’nin 2022’den bu yana masada tartışmalı bir mesaj tarama yasa teklifi var ve bloğun kendi Veri Koruma Denetçisi de dahil olmak üzere eleştirmenler, bunun demokratik haklar için bir taşma noktası olduğu konusunda uyarıyor. platformları varsayılan olarak özel mesajları taramaya zorlayacağından bölge.
Mevcut yasa teklifi teknolojiden bağımsız olduğunu iddia etse de, böyle bir yasanın, platformların hem bilinen hem de bilinmeyenleri tespit etmelerini talep eden sözde “tespit emrine” yanıt verebilmek için istemci tarafı tarama uygulayan platformlara yol açması bekleniyor. CSAM ve ayrıca gerçek zamanlı olarak bakım faaliyetlerini yakalar.
Bu ayın başlarında yüzlerce gizlilik ve güvenlik uzmanı, platformlar tarafından yasal bir emre yanıt olarak uygulanması muhtemel istemci tarafı tarama teknolojilerinin kanıtlanmaması nedeniyle planın günde milyonlarca hatalı pozitif sonuca yol açabileceği konusunda uyaran açık bir mektup kaleme aldı. , derinden kusurlu ve saldırılara karşı savunmasız.
Konuşmaları tarayan yapay zekanın insanların mahremiyetini aşındırabileceği yönündeki endişelere yanıt vermek için Google ile temasa geçildi, ancak haberin yayınlandığı sırada Google yanıt vermedi.
