Daha fazla şirket AI akımına katıldıkça, AI modellerinin enerji tüketimi acil bir endişe haline geliyor. En önemli oyuncular - Nvidia, Microsoft ve OpenAI - durumu küçümserken, bir şirket çözümü bulduğunu iddia ediyor.
BitEnergy AI'daki araştırmacılar, çok fazla doğruluk ve hızdan ödün vermeden AI güç tüketimini önemli ölçüde azaltabilecek bir teknik geliştirdiler . Çalışma, yöntemin enerji kullanımını %95'e kadar azaltabileceğini iddia ediyor. Ekip, bu çığır açan yönteme Linear-Complexity Multiplication veya kısaca L-Mul adını veriyor. Hesaplama süreci, AI ile ilgili görevler için kayan nokta çarpımlarından çok daha az enerji ve daha az adım gerektiren tam sayı toplamalarını kullanıyor.
Kayan nokta sayıları, çok büyük veya çok küçük sayılarla uğraşırken AI hesaplamalarında yaygın olarak kullanılır. Bu sayılar ikili biçimde bilimsel gösterim gibidir ve AI sistemlerinin karmaşık hesaplamaları hassas bir şekilde yürütmesine olanak tanır. Ancak, bu hassasiyetin bir bedeli vardır.
Yapay zeka patlamasının artan enerji talepleri endişe verici bir seviyeye ulaştı ve bazı modeller büyük miktarda elektrik gerektiriyor. Örneğin, ChatGPT 18.000 ABD evine eşdeğer elektrik kullanıyor (günlük 564 MWh). Cambridge Alternatif Finans Merkezi'ndeki analistler, yapay zeka sektörünün 2027'ye kadar yılda 85 ila 134 TWh arasında tüketebileceğini tahmin ediyor .
L-Mul algoritması, karmaşık kayan nokta çarpımlarını daha basit tam sayı toplamalarıyla yaklaştırarak bu aşırı enerji israfını ele alır. Testte, AI modelleri tensör çarpımları için enerji tüketimini %95 ve nokta ürünleri için %80 oranında azaltırken doğruluğu korudu.
L-Mul tekniği orantılı olarak geliştirilmiş performans da sunar. Algoritma, daha az bit düzeyinde hesaplamayla daha yüksek hassasiyete ulaşarak mevcut 8 bitlik hesaplama standartlarını aşar. Doğal dil işleme ve makine görüşü dahil olmak üzere çeşitli AI görevlerini kapsayan testler, yalnızca %0,07'lik bir performans düşüşü gösterdi; enerji tasarruflarına dahil edildiğinde küçük bir takas.
GPT gibi transformatör tabanlı modeller, algoritmanın bu sistemlerin önemli ancak enerji yoğun bir bileşeni olan dikkat mekanizmasına sorunsuz bir şekilde entegre olması nedeniyle L-Mul'dan en fazla faydalanabilir. Llama ve Mistral gibi popüler AI modelleri üzerinde yapılan testler, bazı görevlerde daha iyi doğruluk bile gösterdi. Ancak, iyi ve kötü haberler var.
Kötü haber şu ki L-Mul şu anda özel donanım gerektiriyor. Çağdaş AI işleme, teknikten faydalanmak için optimize edilmemiştir. İyi haber şu ki, özel donanım geliştirme ve API programlama planları yapılıyor ve makul bir zaman dilimi içinde daha enerji verimli AI'nın yolunu açıyor.
Diğer tek engel, şirketlerin, özellikle Nvidia'nın, benimseme çabalarını engellemesi olurdu ki bu da gerçek bir olasılıktır. GPU üreticisi, AI uygulamaları için başvurulacak donanım geliştiricisi olarak ün kazandı. Pazarın aslan payını elinde tuttuğunda, daha fazla enerji verimli donanıma el atması şüphelidir.
Karmaşık matematiksel çözümler için yaşayanlar için, çalışmanın ön baskı versiyonu Rutgers Üniversitesi'nin "arXiv" kütüphanesinde yayınlanmıştır.
Kaynak :
https://www.techspot.com/news/105075-ne ... ption.html