單節(jié)點能跑72個大語言模型，寧暢服務(wù)器就是這么強大

　　12月15日，2023英特爾新品發(fā)布會暨AI技術(shù)創(chuàng)新派對正式舉辦，第五代英特爾® 至強® 可擴展處理器首次在中國亮相。寧暢作為英特爾重要的合作伙伴之一受邀參展，重磅發(fā)布全新升級的G50系列服務(wù)器，并現(xiàn)場展出B5000和R620 G50兩款產(chǎn)品，與英特爾攜手共同邁向AI無處不在的新時代。

　　第五代英特爾® 至強® 可擴展處理器為AI加速而生，擁有更可靠的性能和更出色的能效。相較上一代，第五代英特爾® 至強® 可擴展處理器訓(xùn)練性能提升高達29%，推理性能提升高達42%，在相同TDP下平均性能提升高達21%，內(nèi)存帶寬提升高達16%，三級緩存容量提升2.7倍，可顯著提高內(nèi)存帶寬約束型和時延敏感型工作負載的性能。

　　寧暢G50系列服務(wù)器涵蓋通用機架服務(wù)器、人工智能服務(wù)器、邊緣計算服務(wù)器等多種類型。全新的G50系列在內(nèi)存通道等方面進行重要升級，基于最新的第五代英特爾® 至強® 可擴展處理器能夠進一步釋放AI潛能，為更多需求場景提供高性價比的強大算力支撐。

　　以寧暢高密度計算服務(wù)器B5000 G5為例，通過搭載第五代英特爾® 至強® 可擴展處理器，可執(zhí)行多個、多種AI推理任務(wù)，實現(xiàn)高模型并發(fā)。在大語言模型領(lǐng)域，寧暢B5000 G5 4節(jié)點可同時支持28個70B百億大模型并發(fā)，單節(jié)點可支持72個7B大語言模型并發(fā)，僅0.117秒即可實現(xiàn)以文生文(文章續(xù)寫與擴寫)。在以文生圖領(lǐng)域，B5000 G5單節(jié)點，不到3秒就可根據(jù)任意文本輸入生成極具逼真度和細節(jié)的高質(zhì)量圖像。在圖像識別領(lǐng)域，B5000 G5 單節(jié)點 1秒鐘可分類5566張圖像，對比第四代性能提升近10%。

　　寧暢將加快創(chuàng)新腳步，與英特爾等合作伙伴攜手滿足廣大用戶對更高效算力的需求，開創(chuàng)AI應(yīng)用的無限可能。