Nvidia, yapay uygulamaları yerel olarak çalıştırmaya yönelik Jetson bilgisayarının 249 dolarlık yeni bir sürümünü piyasaya sürdü. Avuç içi büyüklüğündeki Orin Nano’nun, selefinin hızını ve verimliliğini yarı fiyatına ikiye katladığı ve Nvidia’ya göre yaklaşık %70 daha fazla hesaplama görevini işleyebildiği söyleniyor.
Orin Nano, kendi yapay zeka uygulamalarını eğitmek isteyen hobiciler veya buluta bağlanmadan gelişmiş uygulamaları çalıştıran robot ve diğer endüstriyel araç geliştiricileri için idealdir.
Kısaca video YouTube’da ürünün duyurusunu yapan Nvidia CEO’su Jensen Huang, mutfağında duruyor ve fırından bir tepsi çıkarıp avuç içi büyüklüğündeki küçük bilgisayarı ortaya çıkarıyor. Huang, bilgisayarın saniyede neredeyse “yetmiş trilyon” işlemi gerçekleştirebildiğini ve yalnızca 25 watt güç çektiğini söyledi.
Huang, “Uzun zaman önce yepyeni bir işlemci türü yarattık; robotik işlemciydi” diyor. “O zamanlar kimse ne oluşturduğumuzu anlamamıştı ve bir gün bu derin öğrenme modellerinin gelişeceğini ve her şey için robotlara sahip olacağımızı hayal etmiştik.” Jetpack bilgisayarların robotlara güç vermesi amaçlanmıştı ancak bugün aynı zamanda Meta’nın Llama’sı gibi büyük dil modellerini de çalıştırabiliyor.
Sam Altman’ın iris taramalarıyla insan kimliğini doğrulamayı amaçlayan startup World (eski adıyla Worldcoin), Orb tarama cihazının içinde bir Jetpack modülü kullanıyor. bir blog yazısı Ekim ayında World şunları söyledi: “Orb, en yeni sürümünde, insan doğrulamalarının daha da hızlı, daha kusursuz bir şekilde kanıtlanmasını sağlamak için önceki sürüme göre neredeyse 5 kat daha fazla yapay zeka performansına sahip en gelişmiş NVIDIA Jetson modülüyle donatılmıştır.”
Özünde Orin Nano, yapay zeka işlevselliğini güçlendirmek için diğer donanımlara takılabilen taşınabilir bir beyindir. Amazon ve Google gibi bulut hiper ölçekleyicileri, sunuculara ve yapay zeka modellerine erişim için ücret alır ve bu maliyetler artabilir. Depo robotları gibi belirli uygulamalar garantili çalışma süresine ve minimum gecikmeye ihtiyaç duyabilir. Uzak bir bulut barındırma sağlayıcısına bağlanmak ideal değildir. Bununla birlikte, Orin Nano gibi bir bilgisayar yalnızca daha hafif yapay zeka uygulamalarını çalıştırabilecek; Nvidia’nın onbinlerce dolara mal olan ve büyük ölçekli yapay zeka modellerini eğitme ve bunlardan çıkarım yapma kapasitesine sahip üst düzey GPU’larının yerini almayacak. .
Yine de, bir çeşit yeni yapay zeka destekli robot yaratmak isteyen bir tamirciyseniz Orin Nano sizin için olabilir.