斯坦福大學近日更新了DAWNBenchmark的4月份的成績。

DAWNBench是一套用于端到端深度學習訓練和推理的基準套件。它提供了一套通用的深學習評價指標，用于量化訓練時間、訓練成本、推理延遲以及推理成本，并通過不同的優化策略、模型體系結構、軟件框架、云和硬件來計算推理成本。

Intel的ResNet模型(Caffe框架)，即完全由Xeon處理器構建的亞馬遜EC2平臺，推理延遲和推理成本上都拿下第一。

具體來說，Intel平臺處理10000張圖片的延遲是9.96ms，成本0.02美元。成本方面，最接近Intel的是NVIDIA基于MXNet框架的K80顯卡+4 CPU平臺，0.07美元、延遲29.4ms。

測試中，Intel Xeon在計算方面的主要對手，一是谷歌自研的TPU v2(張量處理器)，二是NVIDIA的GPU陣列(包括Tesl V100)。

當然，圖形識別(93%以上精度)的總訓練時間上，基于谷歌TPU v2、TensorFlow學習框架的ResNet50模型高居第一，僅需30分鐘，比第一代提升了477倍。

這套測試我們可以這樣理解，不同硬件平臺相當于考生，大家同時開始背一套考試題和答案，名叫谷歌的考生最先背會、Intel則是考場上作答速度和準度最高的。

考慮到Intel正在全力研發圖形處理器，深度學習方面對NVIDIA和谷歌還有一場惡戰。