Yapay zeka çıkarım teknolojisi şirketi BitEnergy AI’dan bir mühendis ekibi, yapay zeka tabanlı uygulamaların güç tüketimini %95 oranında azaltacak bir yöntem duyurdu. Grup, ön baskı sunucusu arXiv’de teknolojilerini açıklayan bir makale yayınladı.
Yapay zeka uygulamaları ana akıma girdikçe kullanımları hızla arttı ve bu da enerji ihtiyaçları ve maliyetlerinde belirgin bir artışa yol açtı. ChatGPT gibi büyük dilsel modeller çok fazla bilgi işlem gücü gerektirir, bu da onların çalışması için çok fazla elektriğe ihtiyaç duydukları anlamına gelir. Örneğin, ChatGPT artık günde yaklaşık 564 MWh enerjiye ihtiyaç duyuyor ve bu da 18.000 Amerikan evine enerji sağlamaya yetiyor. Bilim ilerlemeye devam ettikçe ve bu tür uygulamalar daha popüler hale geldikçe, eleştirmenler bu uygulamaların yalnızca birkaç yıl içinde Bitcoin madenciliği operasyonlarına eşdeğer olarak yılda yaklaşık 100 TWh tüketebileceğini öne sürdü.
BitEnergy AI ekibi, yeni geliştirmeyle, performans kaybına neden olmadan AI uygulamaları için gereken hesaplama miktarını önemli ölçüde azaltmanın bir yolunu bulduklarını iddia ediyor.
Yeni teknik oldukça şık; karmaşık kayan nokta çarpımı (FPM) kullanmak yerine, yöntem tamsayı toplamayı kullanıyor. Uygulamalar, son derece büyük veya küçük sayıları işlemek için FPM’yi kullanır ve uygulamaların bu sayıları büyük bir doğrulukla kullanarak hesaplamalar yapmasına olanak tanır. Bu aynı zamanda yapay zekanın sayı hesaplamasının en enerji yoğun kısmıdır.
Araştırmacılar yeni yöntemlerine Doğrusal Karmaşıklık Çarpması adını veriyor; bu yöntem, tamsayı toplamayı kullanarak FPM’ye yaklaşarak çalışıyor. Şu ana kadar yapılan testlerin, yeni yaklaşımın elektrik tüketimini %95 oranında azalttığını gösterdiğini iddia ediyorlar.
Tek dezavantajı şu anda kullanımda olandan farklı bir donanım gerektirmesidir. Ancak araştırma ekibi ayrıca yeni tip bir ekipmanın halihazırda tasarlandığını, üretildiğini ve test edildiğini de belirtiyor. Ancak bu tür donanımların nasıl lisanslanacağı henüz belli değil; yapay zeka donanım pazarı şu anda GPU üreticisi Nvidia’nın hakimiyetinde. Şirketin iddiaları geçerliyse, bu yeni teknolojiye nasıl tepki verecekleri benimseme oranları üzerinde önemli bir etkiye sahip olabilir.
