NVIDIA 已經開始在基準測試中推廣 ARM 架構。一台採用 ARM 架構配備了 A100 GPU 的服務器在性能上接近於 x86 CPU ，不過 x86 仍然具備更高的峰值性能。不過 ARM 在低功耗/高效率方面超過 x86。
服務器是高性能計算的絕對前沿，因此這是 x86 通常統治的領域，儘管 NVIDIA 很想改變這種說法。我們看到，基於ARM 的 A100 服務器實際上設法在小眾的 3d-Unet 工作負載中擊敗了 x86，而更常見的如 ResNet 50 仍然由 x86 主導。
ARM 公司 HPC 和工具的高級主管 David Lecomber 表示：“ARM 作為 MLCommons 的創始成員，致力於創建標準和基準的過程，以更好地應對挑戰並激發加速計算行業的創新。最新的推斷結果表明，由基於 ARM 的 CPU 和 NVIDIA GPU 驅動的 ARM 系統已經準備好在數據中心處理廣泛的 AI 工作負載”。
NVIDIA 在指出 A100 GPU 在 MLPERF 基準測試中比 CPU 快 104 倍。NVIDIA 表示：“推理是指計算機運行人工智能軟件識別物體或進行預測時的情況。這是一個使用深度學習模型來過濾數據的過程，找到人類無法捕捉的結果。MLPerf的推理基準是基於當今最流行的人工智能工作負載和場景，涵蓋計算機視覺、醫學成像、自然語言處理、推薦系統、強化學習等”。
從主流的圖像分類 ResNet-50 基準到自然語言處理都進行了測試，A100 GPU 在所有的測試中都取得了最高的地位。