AI (Yapay Zeka) bugünlerde her yerde ve hatta mütevazı Ahududu Pi 5 (ve önceki nesiller) yapay zekaya karşı bağışık değildir. Google’ın Mercanı TPU (Tensör İşleme Birimi) bir süredir ortalıkta dolaşıyor, ancak şimdi herkesin favori tek kartlı bilgisayarına daha fazla AI işleme gücü sağlamak için ek bir işlemci kullanan 70 dolarlık bir Raspberry Pi AI Kiti var.
Hailo-8L giriş seviyesi NPU (Sinir İşlem Birimi) AI hızlandırıcısını ve Raspberry Pi M.2 HAT+’ı temel alan bu kit, Raspberry Pi 5’in AI güçlerini güçlendirmek için ihtiyaç duyacağı tüm donanımı sağlar.
Bu incelemenin dayandığı erken bir üniteyi ele geçirdik. Ancak başlamadan önce incelemeyi uyaralım. Yazılım yazıldığı sırada oldukça mükemmel donanımın arkasındaydı ve önizleme demolarını çalıştırabildiğimizde kendi kodumuzu yazamıyorduk. Bu, yazılım hazır olduğunda bu kiti tekrar gözden geçireceğimiz anlamına gelir ve bu da skorun revize edilmesi anlamına gelebilir.
Bunu aklımızda tutarak test etmeye başlayalım!
Raspberry Pi Yapay Zeka Kiti Özellikleri
| M.2 Arayüzü | Raspberry Pi M.2 HAT+ |
| Yapay Zeka Hızlandırıcı | Hailo-8L “2242 paketinde Giriş Seviyesi Yapay Zeka Hızlandırıcı |
| TOPS (Saniyedeki Tera-İşlem Sayısı) | 13 |
| Desteklenen Yapay Zeka Çerçeveleri | TensorFlow, TensorFlow Lite, Keras, PyTorch ve ONNX |
| Ana Bilgisayar Mimarisi Desteği | x86 ve Kol |
Kurulum ve Kurulum
Kullanmak Raspberry Pi M.2 HAT+ tahta akıllıca bir harekettir. Zaten mevcut ve Hailo-8L kartı için bağlantı ve bant genişliğine sahip. Bu aynı zamanda plastik ayırıcılar ve GPIO geçişiyle birlikte geldiği anlamına da geliyor ki bu bizim için tartışma konusuydu. önceki inceleme. Hailo-8L’nin kurulumu M.2 NVMe SSD’nin kurulumu kadar kolaydır ancak bir soruna yol açmaktadır. Çift M.2 konnektörlü bir anakartınız olmadığı sürece yalnızca AI veya NVMe SSD’yi çalıştırabilirsiniz. İkiside değil. Korkmayın, daha sonra çift M.2 kartını test edeceğiz ve spoiler, çaba gösterirseniz işe yarayacaktır!
İnceleme kitimiz üniteyle birlikte geldi. Raspberry Pi Kamera Modülü 3 ve en son Raspberry Pi işletim sistemi sürümünün yazılı olduğu bir mikro SD kart. Ayrıca rpicam uygulama paketini temel alan bir model ve uygulama dizini de içeriyordu. Bilmeyenler için rpicam paketi, kamerayla etkileşimde kullanılan raspicam ve raspitill terminal komutlarının yerini aldı.
Bizim varsayımımız Raspberry Pi işletim sistemi güncellemesinin bu özellikleri etkinleştireceği yönünde. Bu yazının yazıldığı sırada Hailo-8L’yi kullanmanın PiCamera v2 tabanlı bir yolu yoktu ve bunu Raspberry Pi ile doğruladık. İki günün büyük bir kısmını bunu yapmanın bir yolunu bulmak için Python virtualenv’lerinde çalışarak geçirdik, ama ne yazık ki bir boşluk bıraktık.
Modelleri Hailo-8L kartı olmadan çalıştırabilir miyiz? Raspberry Pi CEO’su Eben Upton’a sorduk ve o da “şu anda bu modelleri anakart olmadan çalıştırmanın mümkün olmadığını” doğruladı. Upton, “rpicam yol haritasında süreç sonrası olarak hızlandırılmamış TensorFlow modellerini çalıştırmaya yönelik entegre desteğin bulunduğunu”, dolayısıyla gelecekte kendi modellerimizi çalıştırabilmemiz gerektiğini açıkladı.
Raspberry Pi AI Kitini Kullanma
Resim 1 ile ilgili 15
Rpicam uygulama paketini kullanarak, Raspberry Pi Kamera Modülü 3. Rpicam-hello uygulaması demo olarak kullanılmaktadır. Doğru anahtar serilerini (argümanları) iletmek, sürücüye herhangi bir veri yazmadan modelleri denememizi sağladı.
Bir nesneyi tanımlayan ve sınırlayıcı bir kutu kullanarak vurgulayan dört nesne algılama demosunu test ettik. Yapay zekanın görebildiğini düşündüğü şeyi ve güvenini belirtmek için yüzdeyi içeren sınırlayıcı kutuda bir etiket görünür. MobileNetSSD, Yolov5, Yolov8 ve YoloX modellerdi ve MobileNetSSD dışında hepsi 640 x 640 giriş çözünürlüğüyle çalışıyordu, MobileNetSSD ise 300 x 300 çözünürlüğünde çalışıyordu. Diğerlerinin yarı çözünürlüğünde çalıştığı göz önüne alındığında MobileNetSSD genel olarak en hızlısıydı. . Hızları tam olarak ölçemesek de performanslarına ilişkin bir “his” verebiliriz. MobileNetSSD en hızlı olanıydı ve giriş çözünürlüğündeki azalma önizleme penceresine yansıtılmadı. Aslında nesne algılama modellerinin tümü oldukça iyi çalıştı, ancak bir referans çerçevesi, CPU performansı olmadan herhangi bir doğru veri sağlayamayız.
Saniyede 20 karede 640 x 640 giriş çözünürlüğüyle Yolov5’i kullanan görüntü bölümleme demosunu test ettik. Bu model nesneleri algılar ve renkli bir maske kullanarak onları vurgular. Çekimdeki kişiyi ve hatta 3D baskılı muzumuzu bile doğru bir şekilde tespit etti.
Son demo, poz tahminiydi ve bu, yüz izleme de dahil olmak üzere 17 eklemlenme noktasına kadar tahmin yapacak gibi görünüyor. Demoyu başlattık ve pozumuzu takip etmek için kullandık. Eller, kollar, omuzlar ve baş oturduğumuz yerden takip edildi. Duruşumuzu temsil eden bir tel çerçeve görebiliyorduk ve bundan onu bir kukla gibi kontrol edebiliyorduk.
Demolar işe yaradı ama şimdi ne olacak? Mevcut haliyle, bu yazının yazıldığı sırada verileri kullanmanın net bir yolu yoktur. Normalde tepki vermek için verileri bir uygulamayla kullanırdık. Örneğin, nesneleri tanımlamaya dayalı olarak eylemleri tetikleyen veya pozlar kullanarak motorları tetikleyen bir Python uygulaması.
Şu anda Picamera2 desteği olmadığından, yalnızca rpicam uygulama paketini gerçekten kullanabiliyoruz. Standart çıktıya çıktı yazacak bu komutlara geçirebileceğimiz “-v 2” argümanı bulunmaktadır. Biraz Linux-Fu ile bu bilgiyi başka bir uygulamaya ayrıştırılmak üzere bir dosyada saklayabiliriz. Komutu os.system veya alt süreç Python modüllerini kullanarak da çalıştırabilir ve doğrudan etkileşime girebiliriz. Seçim kullanıcıya aittir.
Yazılım piyasaya sürüldüğünde ve yeterince olgunlaştığında incelemenin bu kısmına yeniden değineceğiz.
Hailo’nun basın bültenini okuduğumuzda, eğitimlerin ve diğer kaynakların yer aldığı çevrimiçi bir topluluğun oluşacağını anlıyoruz. Mevcut olduklarında bunlara değineceğiz.
Daha önce Raspberry Pi M.2 HAT+ kartının yalnızca bir M.2 konnektörüne sahip olduğundan bahsetmiştik. Hızlı NVMe depolamaya geçiş yaptıysanız mikro SD kart depolamaya geri dönmek istemezsiniz. Hatta Raspberry Pi için en iyi Mikro SD kartlar NVMe kadar hızlı değildir ve hızlı bir sürücü genel olarak AI projelerinize yardımcı olmasa da yardımcı olur.
Pimoroni’nin NVMe Base Duo’sunu Hailo-8L ve yakın zamanda yapılan Steam Deck yükseltmesinden kalan Phison tabanlı 2230 NVMe sürücüsüyle test ettik. NVMe sürücüsü A yuvasına, Hailo ise B yuvasına yerleştirildi. Raspberry Pi 5 donanım yazılımını mikro SD aracılığıyla 17 Mayıs 2024’e güncelledikten sonra NVMe’den başlattık! Ne mutlu ki işe yaradı. Raspberry Pi OS saniyeler içinde açıldı! En son aygıt yazılımı, çift M.2 konektörlü anakartların ilk sürücüden önyükleme yapma olanağını sağlar, ikinci M.2 yuvasını ek depolama için serbest bırakır veya bizim durumumuzda Hailo-8L’yi kullanır. PCIe Gen 3 hızları da varsayılan olarak etkindir, bu hoş bir bonus!
Demolardan birini denemeden önce ilk olarak Raspberry Pi OS’nin anakartı görebildiğini kontrol ettik. Dmesg’i kullanarak ve çıktıyı grep’e aktararak “hailo”ya yapılan tüm referansları kestik ve cihazın listelendiğini görebildik. Bu haberle neşelenerek demolardan birini çalıştırdık ve kendimizi ekranda gördük. Neyse ki yapay zeka tarafından bir “kişi” olarak sınıflandırıldık ve 3D baskılı muzumuz (Elegoo Neptune 3 Pro’ya basılmıştır) doğru bir şekilde tanımlandı.
Raspberry Pi AI Kiti kimler içindir?
Açıkçası yapay zekayı projelerine entegre etmek isteyenler. Bunun vatandaş bilimi projelerinde, sınıflarda ve robotik projelerinde kullanıldığını görebiliriz. Son Pi Savaşları etkinliğinde yapay zeka birçok robot için kullanılabilir olmanın eşiğindeydi. Hollanda Kurtarma Ekibi, robotlarının tehlikeli bir rotadaki çizgiyi tespit etmesine ve takip etmesine yardımcı olmak için OpenCV’yi kullandı. Bilim projeleri için bahçenizi ziyaret eden kuşları, böcekleri veya hayvanları tanımlayan bir modelle birlikte kullanılabilir.
Raspberry Pi’yi kullanarak projelerine/ürünlerine yapay zekayı dahil etmek isteyenler için bu kombinasyon keşfedilecek ilginç bir yol olabilir.
Sonuç olarak
Raspberry Pi AI kitiyle geçirdiğimiz zamanın tadını çıkardık, ancak bu pek de kolay olmadı. Bu yazının yazıldığı sırada yazılım donanımla aynı seviyede değildir. Donanım büyük ölçüde Linux çekirdeği 6.6.31’i çalıştırarak “çalışır”. Raspberry Pi OS, kartın orada olduğunu anlar ve onu kullanacak ürün yazılımına sahiptir. Picamera v2 ve rpicam formundaki yazılım yetiştiğinde, bu panoyu tekrar ziyaret edip üzerinde çalışacağız. Şimdilik bu, yapay zekayla uğraşmak isteyenlere veya işini bilen ve derinlemesine araştırmak isteyenlere yönelik bir pano. Herkese uygun bir tahta değil ama bir gün olabilir.