Yapay zeka modelleri şaşırtıcı derecede çalınabilir olabilir; tabii bir şekilde modelin elektromanyetik imzasını bulmayı başarmanız koşuluyla. North Carolina Eyalet Üniversitesi’ndeki araştırmacılar, aslında insanların sinir ağlarına saldırmasına yardım etmek istemediklerini defalarca vurgulasa da, böyle bir tekniği bir makalede açıkladılar. yeni kağıt. İhtiyaç duydukları tek şey bir elektromanyetik sonda, birkaç önceden eğitilmiş, açık kaynaklı yapay zeka modeli ve bir Google Edge Tensör İşleme Birimi (TPU) idi. Yöntemleri, bir TPU çipi aktif olarak çalışırken elektromanyetik radyasyonların analiz edilmesini gerektirir.
Araştırmanın başyazarı ve NC State Ph.D., “Bir sinir ağı oluşturmak ve eğitmek oldukça pahalı” dedi. öğrencisi Ashley Kurian Gizmodo ile görüştü. “Bu, bir şirketin sahip olduğu fikri mülkiyettir ve önemli miktarda zaman ve bilgi işlem kaynağı gerektirir. Örneğin ChatGPT milyarlarca parametreden oluşuyor ve bu da bir nevi sır. Birisi onu çaldığında ChatGPT onun olur. Biliyorsunuz, bunun için para ödemelerine gerek yok, ayrıca satabilirler de.”
Hırsızlık zaten yapay zeka dünyasında yüksek profilli bir sorundur. Ancak yapay zeka geliştiricileri, modellerini insan yaratıcılarının izni olmadan telif hakkıyla korunan çalışmalar üzerinde eğittiğinden, genellikle durum tam tersidir. Bu ezici desen kıvılcım saçıyor davalar ve hatta aletler sanatçıların sanat yaratıcılarını “zehirleyerek” mücadele etmelerine yardımcı olmak.
Kurian, “Sensörden gelen elektromanyetik veriler esas olarak bize yapay zekanın işleme davranışının bir ‘imzasını’ veriyor” dedi. ifadebuna “kolay kısım” diyorlar. Ancak modelin hiperparametrelerini (mimarisi ve tanımlayıcı ayrıntıları) çözmek için, elektromanyetik alan verilerini, diğer yapay zeka modelleri aynı tür çip üzerinde çalışırken yakalanan verilerle karşılaştırmaları gerekiyordu.
Bunu yaparken, “Yapay Zeka modelinin bir kopyasını oluşturmamız gereken mimariyi ve katman ayrıntıları olarak bilinen belirli özellikleri belirleyebildiler” diye açıklayan Kurian, bunu “%99,91 doğrulukla yapabileceklerini” ekledi. ” Bunu başarmak için araştırmacıların hem diğer modelleri araştırmak hem de çalıştırmak için çipe fiziksel erişimi vardı. Ayrıca şirketin çiplerinin ne ölçüde saldırıya açık olduğunu belirlemesine yardımcı olmak için doğrudan Google ile çalıştılar.
Kurian, örneğin akıllı telefonlarda çalışan modellerin yakalanmasının da mümkün olabileceğini tahmin etti; ancak süper kompakt tasarımları, doğası gereği, elektromanyetik sinyalleri izlemeyi daha da zorlaştıracaktı.
Yapay zeka standartları kar amacı gütmeyen Atlas Computing’de güvenlik araştırmacısı olan Mehmet Sencan, Gizmodo’ya “Son cihazlara yan kanal saldırıları yeni bir şey değil” dedi. Ancak “model mimarisi hiperparametrelerinin tamamının çıkarılmasına yönelik bu özel teknik önemlidir.” Sencan, yapay zeka donanımının “düz metinde çıkarım yapması nedeniyle”, “modellerini uçta veya fiziksel güvenliği olmayan herhangi bir sunucuda konuşlandıran herkesin, mimarilerinin kapsamlı inceleme yoluyla çıkarılabileceğini varsayması gerekir” diye açıkladı.
