Yapay zeka (AI) hesaplaması muazzam miktarda elektrik gerektirir, ancak hedefli araştırma bunu büyük ölçüde azaltmanın anahtarını elinde tutabilir. Ancak ABD’deki bir araştırmacı ekibi, AI işlemenin gerektirdiği enerji tüketimini en az bin kat azaltabilecek bir teknoloji geliştirdi.
Minnesota Twin Cities Üniversitesi’ndeki bir grup mühendislik araştırmacısı, yapay zeka verimliliğini artıran bir teknolojiyi gösterdi ve çalışmalarını ve bulgularını özetleyen hakemli bir makale yayınladı. Makale şu şekilde yayınlandı: npj Geleneksel Olmayan Bilgi İşlemNature tarafından hakemli bir dergi. Özünde, AI hesaplamalarının normal uygulamasında görev için enerji gereksinimini büyük ölçüde azaltan bir kısayol oluşturdular.
Mevcut AI hesaplamasında, veriler onu işleyen bileşenler (mantık) ve verilerin depolandığı yer (bellek/depolama) arasında aktarılır. Bu araştırmaya göre, bilgilerin ileri geri sürekli taşınması, hesaplamada kullanılan enerjinin 200 katına kadar tüketilmesinden sorumludur.
Bu nedenle araştırmacılar bu sorunu çözmek için Hesaplamalı Rastgele Erişim Belleğine (CRAM) yöneldiler. Araştırma ekibinin geliştirdiği CRAM, bellek hücrelerinin içine yüksek yoğunluklu, yeniden yapılandırılabilir bir spintronik bellek içi hesaplama alt yapısı yerleştiriyor.
Bu, Samsung’un PIM teknolojisi gibi mevcut bellekte işleme çözümlerinden farklıdır, çünkü Samsung’un çözümü bir işleme hesaplama birimini (PCU) bellek çekirdeğine yerleştirir. Veriler yine de bellek hücrelerinden PCU’ya ve geriye gitmek zorundadır, ancak o kadar uzağa değil.
CRAM kullanıldığında, veriler asla bellekten çıkmaz, bunun yerine tamamen bilgisayarın bellek dizisi içinde işlenir. Araştırma ekibine göre, bu, AI hesaplama uygulamasını çalıştıran sisteme “son teknoloji bir çözüme kıyasla 1.000 kat mertebesinde” bir enerji tüketimi iyileştirmesi sağlar.
Diğer örnekler daha da büyük enerji tasarrufu ve daha hızlı işleme potansiyeli olduğunu gösteriyor. Bir testte, MNIST el yazısı rakam sınıflandırıcı görevi gerçekleştirildiğinde, CRAM 16nm teknoloji düğümünü kullanan yakın belleğe dayalı bir işleme sisteminden 2.500 kat daha enerji verimli ve 1.700 kat daha hızlı olduğunu kanıtladı. Bu görev, yapay zeka sistemlerini el yazısını tanımaları için eğitmek için kullanılır.
Bu tür işlerin önemi abartılamaz. Son raporlar, AI iş yüklerinin halihazırda 2021’de tüm Kıbrıs ulusunun tükettiği kadar elektrik tükettiğini gösteriyor. Toplam enerji tüketimi 2023’te 4,3 GW olarak gerçekleşti ve önümüzdeki yıllarda %26 ila %36 oranında büyümesi bekleniyor. Arm’ın CEO’su yakın zamanda 2030’a kadar AI’nın ABD’de üretilen tüm enerjinin dörtte birini tüketebileceğini öne sürdü
Makalenin ilk yazarı, Minnesota Üniversitesi Elektrik ve Bilgisayar Mühendisliği Bölümü doktora sonrası araştırmacısı Yang Lv ve araştırma ekibinin geri kalanı, yeni teknolojiye dayalı olarak birkaç patent başvurusunda bulundu. Minnesota’dakiler de dahil olmak üzere yarı iletken endüstrisindeki liderlerle birlikte çalışarak büyük ölçekli gösteriler sunmayı ve AI işlevselliğini ilerletmeye yardımcı olurken aynı zamanda daha verimli hale getirecek donanımı üretmeyi planlıyorlar.
