Birkaç yıl önce BT’deki en aktif konulardan biri işlemcilerdeki çok sayıda güvenlik açığıydı. Şimdi aynı şey modern GPU’larda da bulundu.
Güvenlik açığının adı LeftoverLocals’tır (katalog numarası CVE-2023-4969’dur). GPU’nun yerel belleğindeki verileri kurtarmanıza olanak tanır. Apple, AMD, Intel, Qualcomm ve Imagination’ın çok sayıda GPU’su buna karşı hassastır, ancak aynı zamanda Nvidia GPU’ları ve Arm grafik çekirdekleri arasında da savunmasız olanların olmadığı görülmektedir.
Bu sorun tüketicileri doğrudan etkilemiyor ancak yapay zeka ile ilgili süreçleri etkiliyor. Bu özellikle makine öğrenimi ve büyük dil modellerinin eğitimi süreciyle ilgilidir.
Örneğin, LeftoverLocals’ı kullanarak her GPU çağrısı için yaklaşık 5,5 MB çalabilirsiniz (Radeon RX 7900 XT için bir örnek verilecektir), bu, llama.cpp’de 7 milyar parametreli bir model çalıştırıldığında her biri için yaklaşık 181 MB’a denk gelir. LLM talebi. Bu bilgi, saldırganın dil modelinin yanıtını yüksek doğrulukla yeniden yapılandırmak için yeterlidir.
Güvenlik açığını keşfeden uzmanlar, ilk olarak tüm şirketlerle iletişime geçerek onlara ilgili verileri sağladı. Sonuç olarak bazıları, yazılım güncellemeleri yoluyla bu güvenlik açığından kısmen veya tamamen kurtulmayı başardı.