NVIDIA bir süredir ARM’de dolaşıyor ve karşılaştırmalı değerlendirmelerde hesaplama mimarisini tanıtmaya başladı bile. ARM ve x86 CPU’ya sahip A100 GPU donanımlı bir sunucunun çok benzer performansa sahip olduğu bulundu (x86’nın hala daha yüksek en yüksek performansa sahip olmasına rağmen).

Ebedi sorun, elbette, ARM’nin düşük güç/yüksek verimlilik senaryolarında (akıllı telefonları düşünün) x86’nın çoraplarını alt etmesine rağmen, bu güç verimliliğini yüksek saatlere ölçeklendirememesidir. Aslında sızıntı, Apple’ın yeni A15 yongalarının şimdiye kadar göreceli bir hayal kırıklığı olmasının nedenlerinden biri. O zaman, yüksek performanslı bilgi işlemin mutlak sınırı olan sunucular, x86’nın tipik olarak üstün olduğu bir alandır, ancak NVIDIA anlatıyı olabildiğince değiştirmek ister. ARM tabanlı A100 sunucusunun aslında niş 3d-Unet iş yükünde x86’yı yenmeyi başardığını, ResNet 50 gibi daha yaygın olanların ise x86’nın hakimiyetinde kaldığını görüyoruz.

Arm’da HPC ve Araçlar Kıdemli Direktörü David Lecomber, “MLCommons’ın kurucu üyesi olarak Arm, zorlukları daha iyi ele almak ve hızlandırılmış bilgi işlem endüstrisinde yeniliğe ilham vermek için standartlar ve kıyaslamalar oluşturma sürecine kendini adamıştır” dedi.
“En son çıkarım sonuçları, Arm tabanlı CPU’lar ve NVIDIA GPU’lar tarafından desteklenen Arm tabanlı sistemlerin veri merkezindeki çok çeşitli AI iş yüklerinin üstesinden gelmeye hazır olduğunu gösteriyor” diye ekledi.

Tabii ki, çıkarımdan bahsederken GPU’lar kral olmaya devam ediyor. NVIDIA, MLPERF karşılaştırmalarında A100 GPU’nun bir CPU’dan 104 kat daha hızlı olduğunu belirttiğinde herhangi bir baskı yapmadı.

Bir bilgisayar bir nesneyi tanımak veya bir tahminde bulunmak için AI yazılımı çalıştırdığında olan şeydir. Verileri filtrelemek için derin öğrenme modelini kullanan ve hiçbir insanın yakalayamayacağı sonuçları bulan bir süreçtir.

MLPerf’in çıkarım kıyaslamaları, bilgisayarla görme, tıbbi görüntüleme, doğal dil işleme, öneri sistemleri, pekiştirmeli öğrenme ve daha fazlasını kapsayan günümüzün en popüler AI iş yüklerini ve senaryolarını temel alır.

Popüler Görüntü Sınıflandırma ResNet-50 kıyaslamasından Doğal Dil İşleme’ye kadar her şey test edildi ve A100 GPU her şeyde üstün geldi. NVIDIA, ARM’yi satın alırken son düzenleyici engellerle karşı karşıya kalırken, Jensen’in sunucu alanında ARM hakimiyeti için baskı yaptığını ve çevredeki ekosistemin uzaya yayıldığını görmeye başlayacağız. Bir gecede olmayacak olsa da, önde gelen bilgi işlem mimarisi olarak x86’ya yönelik ilk gerçek tehdit yolda olabilir.