Pensilvanya Üniversitesi’nden araştırmacılar, yapay zeka ile güçlendirilmiş bir dizi robotik sistemin jailbreak ve hack’lere karşı tehlikeli derecede savunmasız olduğunu keşfetti. Bilgisayarlarda yüksek lisans eğitimlerini jailbreak yapmak istenmeyen sonuçlara yol açabilirken, bir robotu veya sürücüsüz aracı etkileyen aynı türden bir hackleme, hızla felaket ve/veya ölümcül sonuçlara yol açabilir. Tarafından paylaşılan bir rapor IEEE Spektrumu Hapishaneden kırılmış robot köpeklerin alev silahlarını insan efendilerine çevirmesi, bombaları en yıkıcı yerlere yönlendirmesi ve sürücüsüz arabaların kasıtlı olarak yayaların üzerinden geçmesi gibi tüyler ürpertici örnekler veriyor.
Penn Mühendislik uzmanları, LLM destekli robot saldırı teknolojilerine RoboPAIR adını verdiler. Üç farklı robotik sağlayıcısının cihazları RoboPAIR jailbreak işlemine düştü: Nvidia destekli Dolphins LLM, Clearpath Robotics Jackal UGV ve Unitree Robotics Go2 dört ayaklı. Araştırmacılara göre RoboPAIR, bu cihazların Jailbreak işleminde %100 başarı oranı sergiledi.
Resim 1 ile ilgili 3
UPS Vakfı Elektrik ve Sistem Mühendisliği (ESE) Ulaştırma Profesörü, Bilgisayar ve Bilgi Bilimi bölümünden George Pappas, “Çalışmalarımız, şu anda büyük dil modellerinin fiziksel dünyayla entegre edildiğinde yeterince güvenli olmadığını gösteriyor” diye uyardı ( CIS), Makine Mühendisliği ve Uygulamalı Mekanik (MEAM) ve Penn Engineering’de Araştırma Dekan Yardımcısı.
Kaynak makalede alıntı yapılan diğer araştırmacılar, yapay zeka kontrollü robotları jailbreak yapmanın “endişe verici derecede kolay” olduğunu belirtti. RoboPAIR’in hedef robotun uygulama programlama arayüzü (API) ile donatılarak çalıştığı, böylece saldırganın istemleri cihaz hedefinin kod olarak çalıştırabileceği şekilde biçimlendirebileceği açıklandı.
Bir robotun veya sürücüsüz aracın jailbreak işlemi, daha önce tartıştığımız AI Chatbot’ların çevrimiçi jailbreak işlemine benzer şekilde yapılır. Tom’un Donanımı. Ancak Pappas, “Jailbreaking ve robot kontrolünün nispeten uzak olduğunu ve geleneksel olarak farklı topluluklar tarafından incelendiğini”, dolayısıyla robot şirketlerinin LLM jailbreaking güvenlik açıklarını öğrenmede yavaş davrandığını belirtiyor.
‘AI’nin metin ve görüntü oluşturmak, sesi yazıya dökmek, alışveriş önerilerini kişiselleştirmek vb. için kullanıldığı kişisel bilgisayar cihazlarındaki Yüksek Lisans kullanımının aksine, robotik Yüksek Lisans’lar fiziksel dünyada hareket eder ve bu dünyaya büyük zarar verebilir.
Robotik köpek örneğine bakıldığında, robotik köpek arkadaşınız arkadaş canlısı bir yardımcıdan veya rehberden, alev silahı kullanan bir suikastçıya, gizli bir gözetleme robotuna veya patlayıcı yerleştirmek için en zararlı yerleri avlayan bir cihaza dönüşebilir. Kendi kendine giden arabaların yayalara veya diğer araçlara hedef alınması veya bir köprüden atlaması talimatı verilmesi de en az onlar kadar tehlikeli olabilir.
Yukarıdaki örneklerde açıklandığı gibi, LLM’leri jailbreak yapmanın potansiyel tehlikeleri tamamen yeni bir seviyeye yükseltildi. Ancak yapay zekaların jailbreak yapıldıktan sonra yalnızca kötü niyetli istemlere uymanın ötesine geçtiği görüldü. Araştırmacılar, daha büyük tahribat için aktif olarak öneriler sunabileceklerini keşfettiler. Bu, doğal dildeki robot komutlarına yardımcı olma ve özel farkındalık gibi robot bilimindeki erken LLM başarılarından bu yana oldukça büyük bir adımdır.
Peki Penn State araştırmacıları Pandora’nın kutusunu açtılar mı? Pittsburgh’daki Carnegie Mellon Üniversitesi’nde doktora sonrası araştırmacı olan Alexander Robey, araştırma sırasında yapay zeka kontrollü robotların jailbreak’inin “endişe verici derecede kolay” olduğunu, ancak mühendislik ekibinin adı geçen tüm robot şirketlerinin bulgular halka açılmadan önce erişebilmesini sağladığını söylüyor. . Üstelik Robey, “Kötü niyetli kullanım senaryolarına yönelik güçlü savunmaların, ilk önce mümkün olan en güçlü saldırıların tanımlanmasından sonra tasarlanabileceğini” ileri sürüyor.
Son olarak, araştırma makalesi, LLM kontrollü robotları fiziksel olarak kısıtlayan savunmaların uygulanmasına acil bir ihtiyaç olduğu sonucuna varıyor.
