戴爾易安信兩款服務器取得行業(yè)第一

　　新年之初

　　向各位讀者報告一則喜訊!

　　剛剛過去的12月

　　戴爾易安信PowerEdge XE8545

　　在“2021中國互聯(lián)網(wǎng)經(jīng)濟論壇”上

　　喜提“2021年度卓越人工智能產品”獎

　　祝賀XE8545!

　　恭喜戴爾易安信AI服務器再創(chuàng)佳績!

　　2021中國互聯(lián)網(wǎng)經(jīng)濟論壇由互聯(lián)網(wǎng)周刊、中國社會科學院信息化研究中心、eNet研究院、德本咨詢聯(lián)合主辦，自2002年起已成功舉辦十九屆，是業(yè)內極具分量的互聯(lián)網(wǎng)行業(yè)盛會。論壇核心板塊的“金i獎”極具權威性和專業(yè)度，覆蓋了AI、大數(shù)據(jù)、5G等各行業(yè)領域，歷來被業(yè)內視為代表互聯(lián)網(wǎng)精神和產業(yè)發(fā)展創(chuàng)新的風向標。

　　辭舊迎新之際，宜總結過去展望未來，當下AI大潮席卷全球，作為底層邏輯的AI服務器又將走向何方？或許我們能從基準( Benchmark )測試里讀出一些趨勢。

　　基準( Benchmark ) 測試是目前最主要的信息系統(tǒng)性能測試技術，它按照統(tǒng)一的測試規(guī)范(test specification)對被測對象進行測試，測試結果具有可比性和可再現(xiàn)性。在計算機領域，Benchmark測試應用最廣泛和最成功的是性能測試，主要關注響應時間、傳輸速率和吞吐量等。

　　對生產廠商而言，Benchmark測試可以為產品進行市場宣傳，發(fā)現(xiàn)系統(tǒng)瓶頸;對用戶的作用則在于指導產品選擇。一個優(yōu)秀的Benchmark測試可以為某一領域的技術發(fā)展起到積極導向作用，引導廠商采用新技術以改進產品。

　　筆者記得20年前最火的Benchmark測試無疑是TPC-C ，當年還是小型機(簡稱小機)時代，PS小機是中國特色的叫法，國外稱其為UNIX服務器。隨著x86和云原生應用的興起，TPC瞬間就不香了。

　　自2006年AlphaGo打敗李世石后，業(yè)界急需公認的AI時代基準測試程序，萬眾期待之下，MLPerf AI性能基準測試于2018年由MLCommons發(fā)布。

　　MLCommons成員包括谷歌、微軟、英特爾、NVIDIA、Facebook、阿里巴巴等多家在人工智能領域頗有建樹的領導企業(yè)。自推出后，MLPerf AI性能基準測試以其全面性、科學性、廣泛參與度，業(yè)已成為全球最受關注的AI性能基準測試，并為很多用戶AI計算方案設計及選型提供重要參考依據(jù)，(關于MLPerf AI性能基準測試詳細信息，歡迎移步這里查看)。

　　（一）

　　AI/DL落地傳統(tǒng)企業(yè)，

　　4GPU服務器是最佳平衡

　　在去年12月初發(fā)布的MLPerf Training v1.1基準測試中，戴爾易安信共提交了51項測試結果，包括全部八個項目的性能數(shù)據(jù)，取得多項世界紀錄。

　　戴爾易安信參評了兩款4GPU機型服務器——PowerEdge XE8545和R750xa，分別取得如下幾項的世界第一：

　　(1)XE8545獲得四卡GPU加速服務器的四項最佳：

　　●目標檢測Mask R-CNN(83.77分鐘)

　　●語音識別RNN-T(79.56分鐘)

　　●自然語言處理BERT(38.85分鐘)

　　●強化學習Mini Go(451.29分鐘)

　　(2)R750xa獲得四卡GPU加速服務器的語音識別RNN-T最佳（84.02分鐘）;

　　戴爾易安信的測試數(shù)據(jù)、配置及Log，均可以在GitHub上找到：

　　https://sourl.cn/3FXXed

　　和友商專注于8顆GPU的單機測試不同，戴爾易安信更關注4顆GPU的單機和集群測試。

　　根據(jù)IDC連續(xù)三年的統(tǒng)計，4個雙寬GPU的機型在2021年成為市場主流。主要在于隨著單GPU性能的提升(如A100 vs V100)，現(xiàn)如今4*GPU機器的性能已經(jīng)超越上代8*GPU的機型。

　　另一個主要原因是AI/DL(Deep Learning)的早期采用者，互聯(lián)網(wǎng)行業(yè)的GPU服務器占比正逐年下降，而金融/制造/政府/電信等行業(yè)占比則逐漸上升，AI/DL正逐漸落地傳統(tǒng)行業(yè)。

　　相比互聯(lián)網(wǎng)，傳統(tǒng)行業(yè)很少需要高密度GPU服務器，因而4GPU服務器是當前條件下的最佳平衡。

　　（二）

　　多機多卡GPU分布式訓練

　　成為必然選擇

　　MLPerf Training v1.1基準測試中，除了GPU服務器單機測試外，戴爾易安信是唯一的服務器廠家提供基于GPU多機分布式訓練測試結果的廠商。

　　萬億級參數(shù)規(guī)模的AI模型訓練、超大規(guī)模NLP/推薦系統(tǒng)特征向量、更大規(guī)模數(shù)據(jù)集更短訓練時間——AI時代洶涌而來的超級算力需求，僅靠單臺GPU服務器已經(jīng)無法滿足，多機多卡GPU分布式訓練成為必然選擇。

　　我們可以類比一下從當年128路SMP小機到現(xiàn)在主流兩路x86集群的進化歷程，戴爾易安信認為GPU服務器的進化也是類似：單機16/20個GPU的服務器已經(jīng)讓位于4/8個GPU服務器的集群。

　　2021年，戴爾易安信在國內發(fā)布了《戴爾科技AI GPU分布式訓練技術白皮書》，將戴爾易安信在構建AI GPU加速集群、進行AI GPU分布式訓練全局優(yōu)化的參考架構和最佳實踐分享給更多的用戶和朋友(本公眾號后臺回復關鍵字“白皮書”即可獲取)。

　　特別值得一提的是參與MLPerf Training v1.1基準測試的PowerEdge XE8545，它在4U機架式空間內可以支持風冷散熱的4張NVIDIA A100 80GB/500W GPU加速卡，通過最新的NVLink技術實現(xiàn)全互聯(lián)(full mesh)。

　　XE8545服務器設計簡單直接，CPU(AMD第三代EPYC米蘭)與GPU、GPU與GPU、CPU與網(wǎng)卡及NVME SSD存儲，采用PCI-E 4.0或者NVLink實現(xiàn)直連，可最大程度降低通信及IO延遲，同時大大簡化程序員工作。

　　戴爾易安信 PowerEdge XE8545

　　由于卓越的性能和市場表現(xiàn)，PowerEdge XE8545喜提“金i獎”榮譽，它歷經(jīng)層層篩選脫穎而出，表明其不凡實力已獲得行業(yè)高度認可。

　　再過幾年，戴爾服務器也將迎來30周年，作為“在中國，為中國”的“外資本土”企業(yè)，戴爾易安信一定不負用戶和媒體的支持和厚愛，持續(xù)研發(fā)各行業(yè)都適用的IT基礎設施，推動AI項目在中國傳統(tǒng)行業(yè)真正落地。