斯坦福大學(xué)近日更新了DAWNBenchmark的4月份的成績。DAWNBench是一套用于端到端深度學(xué)習(xí)訓(xùn)練和推理的基準(zhǔn)套件。它提供了一套通用的深學(xué)習(xí)評價指標(biāo)，用于量化訓(xùn)練時間、訓(xùn)練成本、推理延遲以及推理成本，并通過不同的優(yōu)化策略、模型體系結(jié)構(gòu)、軟件框架、云和硬件來計算推理成本。

Intel的ResNet模型(Caffe框架)，即完全由Xeon處理器構(gòu)建的亞馬遜EC2平臺，推理延遲和推理成本上都拿下第一。

具體來說，Intel平臺處理10000張圖片的延遲是9.96ms，成本0.02美元。成本方面，最接近Intel的是NVIDIA基于MXNet框架的K80顯卡+4 CPU平臺，0.07美元、延遲29.4ms。

測試中，Intel Xeon在計算方面的主要對手，一是谷歌自研的TPU v2（張量處理器），二是NVIDIA的GPU陣列（包括Tesl V100）。

當(dāng)然，圖形識別（93%以上精度）的總訓(xùn)練時間上，基于谷歌TPU v2、TensorFlow學(xué)習(xí)框架的ResNet50模型高居第一，僅需30分鐘，比第一代提升了477倍。

這套測試我們可以這樣理解，不同硬件平臺相當(dāng)于考生，大家同時開始背一套考試題和答案，名叫谷歌的考生最先背會、Intel則是考場上作答速度和準(zhǔn)度最高的。

考慮到Intel正在全力研發(fā)圖形處理器，深度學(xué)習(xí)方面對NVIDIA和谷歌還有一場惡戰(zhàn)。