智算中心，為何比拼拎包入住

　　算力的發(fā)揮光靠硬件支撐是不夠的，還需要軟件層的優(yōu)化，也就是精裝算力的“軟裝修”。

　　文|任曉漁 游勇

　　編|寧靜路

　　01

　　智算熱潮里的冷思考

　　2024年，雖然融資市場(chǎng)呈現(xiàn)冰火兩重天，但全球人工智能和大模型市場(chǎng)始終保持著超強(qiáng)的吸金能力，產(chǎn)業(yè)鏈各個(gè)環(huán)節(jié)融資動(dòng)態(tài)頻出。

　　生成式AI繼續(xù)發(fā)酵，2024年的智算市場(chǎng)稱得上炙手可熱。

　　中國通信工業(yè)協(xié)會(huì)數(shù)據(jù)中心委員會(huì)在剛剛過去的12月發(fā)布了《中國智算中心產(chǎn)業(yè)發(fā)展白皮書》，其中的數(shù)據(jù)顯示，2024年11月，全國已投運(yùn)的智算中心項(xiàng)目近150個(gè)，在建及規(guī)劃建設(shè)的智算中心項(xiàng)目近400個(gè)。

　　數(shù)智前線此前也統(tǒng)計(jì)，僅2024年前7個(gè)月，包含土建基礎(chǔ)設(shè)施和IT基礎(chǔ)架構(gòu)等方方面面在內(nèi)，智算中心相關(guān)項(xiàng)目中標(biāo)公告已發(fā)布超140個(gè)。

　　行業(yè)的火爆，甚至還能從從業(yè)者在各大論壇及產(chǎn)業(yè)交流群里的熱火朝天交流身影中可見一斑。年初開始，許多計(jì)算及大模型相關(guān)產(chǎn)業(yè)群里，最活躍的人里肯定有智算從業(yè)者。

　　業(yè)界觀察到，這股建設(shè)熱潮呈現(xiàn)出了幾大特征：

　　首先，市場(chǎng)需求的爆發(fā)速度，遠(yuǎn)超業(yè)界人士的想象。

　　IDC中國企業(yè)級(jí)研究部研究經(jīng)理?xiàng)钛缶捅硎�，他們�(cè)?023年下半年預(yù)測(cè)時(shí)已經(jīng)對(duì)智算服務(wù)市場(chǎng)增長(zhǎng)充分樂觀，但從2024年的實(shí)際情況看，他們此前的預(yù)估依然偏保守，整個(gè)智算服務(wù)市場(chǎng)在以遠(yuǎn)超預(yù)期的增速在成長(zhǎng)。

　　預(yù)期以外的高增速，既使得智算中心的項(xiàng)目建設(shè)數(shù)量在大幅增加，智算中心的建設(shè)規(guī)模也在不斷膨脹。

　　根據(jù)數(shù)智前線此前對(duì)各類公開招投標(biāo)數(shù)據(jù)的不完全統(tǒng)計(jì)，僅從去年前幾個(gè)月數(shù)據(jù)看，智算中心的招投標(biāo)項(xiàng)目數(shù)量逐月遞增。而招投標(biāo)數(shù)據(jù)還顯示，許多項(xiàng)目的中標(biāo)金額超過了1億元，去年6月最大的項(xiàng)目，平潭兩岸融合智算中心項(xiàng)目(一期)，中標(biāo)金額達(dá)到了4.06億元。

　　其次，建設(shè)和需求主體越來越多樣。不同于國外的智算基礎(chǔ)設(shè)施以公有云部署為主的模式，在國內(nèi)，云計(jì)算廠商構(gòu)建的AI云，地方政府、運(yùn)營(yíng)商以及一些金融行業(yè)企業(yè)共同推動(dòng)了當(dāng)下的智算基礎(chǔ)設(shè)施建設(shè)熱潮。

　　地方政府投入多為推動(dòng)產(chǎn)業(yè)發(fā)展考量，IDC數(shù)據(jù)顯示，截至去年6月，過去幾年里政府參與建設(shè)并已投產(chǎn)上線的智算中心數(shù)量已接近百個(gè)。

　　而運(yùn)營(yíng)商的角色也凸顯出來。數(shù)智前線此前統(tǒng)計(jì)，去年前7個(gè)月的智算相關(guān)招投標(biāo)項(xiàng)目，運(yùn)營(yíng)商主導(dǎo)的比例超四成。

　　從需求方看，對(duì)智算需求的行業(yè)也非常多元。大模型創(chuàng)業(yè)企業(yè)的需求自不必提，車企、手機(jī)廠商和高校的智算需求也在步步走高。

　　車企在智算市場(chǎng)，不算新玩家。幾年前開始它們的采購規(guī)模就僅次于互聯(lián)網(wǎng)企業(yè)。生成式AI到來后，大模型上車成為行業(yè)熱點(diǎn)。一位車企行業(yè)人士判斷，未來1～2年車企智算需求將會(huì)翻兩番。

　　高校的智算需求也因?yàn)锳I For Science熱潮一路走高。許多高校在智算領(lǐng)域的投入力度不小，一些項(xiàng)目的建設(shè)規(guī)模甚至在數(shù)億元水平。醫(yī)療行業(yè)里，更高效的算力基礎(chǔ)設(shè)施可以加速醫(yī)療影像數(shù)據(jù)處理與分析的速度，提升診斷水平和服務(wù)質(zhì)量，一些大型醫(yī)療機(jī)構(gòu)和研究院校也有了不小的智算需求。

　　不過，這股建設(shè)熱潮里，業(yè)界也不乏資深人士發(fā)出一些偏理性的聲音。

　　比如有人提到，算力焦慮在當(dāng)前智算中心建設(shè)熱潮下，好像依然沒有解決。

　　中國計(jì)算機(jī)學(xué)會(huì)(CCF)副理事長(zhǎng)陳健去年9月也在中國高性能計(jì)算學(xué)術(shù)年會(huì)上指出，一味增加硬件資源而不考慮效能，是對(duì)資源和財(cái)力的浪費(fèi)。他表示，行業(yè)內(nèi)需要考量如何更有效地開發(fā)和利用現(xiàn)有資源。

　　還有聲音認(rèn)為，上一波算力基礎(chǔ)設(shè)施建設(shè)熱潮中就曾出現(xiàn)過利用率低問題，當(dāng)下的智算中心建設(shè)，不能只追求規(guī)模，重硬件輕軟件、重建設(shè)輕運(yùn)營(yíng)的建設(shè)思路并不可取。

　　國家信息中心信息化和產(chǎn)業(yè)發(fā)展部主任單志廣也曾提醒，要避免重建設(shè)、輕需求，應(yīng)以應(yīng)用為導(dǎo)向，提高整個(gè)算力中心的利用度。

　　02

　　復(fù)雜多元需求，呼喚“精裝算力”

　　冷思考背后，本質(zhì)是與當(dāng)下大模型應(yīng)用和落地呈現(xiàn)出了場(chǎng)景和業(yè)務(wù)多元、任務(wù)差異較大的特點(diǎn)密切相關(guān)。

　　比如大模型落地最積極的金融行業(yè)，需要的是低延時(shí)和高性能算力，來處理海量的金融交易數(shù)據(jù)，以及支持實(shí)時(shí)的業(yè)務(wù)決策;新能源汽車客戶，由于智駕的旺盛需求，對(duì)邊緣算力會(huì)有更高的需求;而對(duì)于很多ToC應(yīng)用為主的客戶，它們對(duì)模型推理的需求會(huì)顯著高于訓(xùn)練的需求。

　　諸如此類，業(yè)務(wù)場(chǎng)景的不同、訓(xùn)推場(chǎng)景的差異，對(duì)算力的需求千差萬別。以前只重視算力集群的規(guī)模，一昧迷信堆卡的做法越來越行不通。大模型賽道需要從全局智算角度，統(tǒng)籌算力的供給。

　　不久前的烏鎮(zhèn)互聯(lián)網(wǎng)大會(huì)上，寧暢針對(duì)上述用戶痛點(diǎn)，提出了非常形象的“精裝算力”概念，引發(fā)了行業(yè)內(nèi)的廣泛關(guān)注。

　　好比精裝修的房子一樣，依托寧暢的定制化與全棧全液能力，以算力棧為交付形態(tài)，從用戶需求與體驗(yàn)出發(fā)，提供全體系軟硬協(xié)同的精細(xì)化算力服務(wù)，最終給用戶提供拎包入住的算力服務(wù)體驗(yàn)。

　　精裝算力得以實(shí)現(xiàn)有兩大前提：一是定制化，二是全棧全液。

　　定制化在“硬裝”層面可體現(xiàn)為給用戶提供了多種交付形態(tài)的靈活組合。比如可以提供覆蓋云、邊、端等多種業(yè)務(wù)場(chǎng)景的服務(wù)器，不僅支持高密、通用、AI等多種服務(wù)器形態(tài)，也支持全閃、混閃等多種存儲(chǔ)組合。比如寧暢AI工作站-塔式服務(wù)器W350 G50可部署在辦公環(huán)境或搬運(yùn)至外景地，被廣泛應(yīng)用于影視渲染、汽車智造、工業(yè)仿真等領(lǐng)域。

　　而且，寧暢還可以根據(jù)散熱模塊提供液冷、風(fēng)冷、風(fēng)液混合等部署方案，確保根據(jù)不同場(chǎng)景和需求調(diào)整最優(yōu)的散熱方式，不僅極大提升了算力效率，也盡可能的降低了成本。

　　但算力的發(fā)揮光靠硬件支撐是不夠的，還需要軟件層的優(yōu)化，也就是精裝算力的“軟裝修”。寧暢的算力軟裝修可以從基礎(chǔ)算子優(yōu)化、系統(tǒng)功能優(yōu)化、運(yùn)營(yíng)支撐優(yōu)化、模型性能優(yōu)化到平臺(tái)級(jí)AI管理的全局優(yōu)化，涵蓋“算存網(wǎng)管用”算力運(yùn)行的完整體系。

　　比如在平臺(tái)級(jí)AI管理方面，寧暢全面支持NVIDIA AI Enterprise(NVAIE)平臺(tái)，加速數(shù)據(jù)科學(xué)工作流并簡(jiǎn)化生成式AI的開發(fā)和部署，再搭配寧暢自有的AI Manager管理平臺(tái)，提供集計(jì)算、運(yùn)營(yíng)、運(yùn)維于一體的平臺(tái)級(jí)AI管理服務(wù)。

　　另外，寧暢也是業(yè)內(nèi)少數(shù)能提供“全棧全液”AI基礎(chǔ)設(shè)施方案的廠商，涵蓋了從底層硬件到頂層應(yīng)用平臺(tái)的全棧系統(tǒng)環(huán)境支持，并提供全液冷產(chǎn)品方案，在寧暢全棧液冷模塊化解決方案支持下，智算中心的PUE值最低可達(dá)到1.08，針對(duì)超大型算力中心，寧暢的浸沒式液冷全棧解決方案最低可將PUE降至1.05，助力實(shí)現(xiàn)高效與綠色并行。

　　這意味著，在這套軟硬件全棧+定制化的精裝算力加持下，寧暢可以根據(jù)不同行業(yè)的特點(diǎn)，比如互聯(lián)網(wǎng)、汽車、制造等提供有針對(duì)性的解決方案，讓不同行業(yè)的客戶在AI時(shí)代能獲得交付省心、運(yùn)維省錢、部署省力、推訓(xùn)省時(shí)的優(yōu)質(zhì)體驗(yàn)。

　　如今，在大模型加速落地的大背景下，企業(yè)對(duì)算力的效率和成本有著更加嚴(yán)苛的要求，寧暢的算力精裝房，極大限度地給企業(yè)帶來了“拎包入住”的便利。

　　而這套全體系軟硬協(xié)同的算力服務(wù)也正在被越來越多企業(yè)所采納。寧暢在浙江桐鄉(xiāng)搭建的首個(gè)精裝算力樣板間——寧暢算力棧已吸引了超千家客戶申請(qǐng)?jiān)囉�，越來越多的大模型在寧暢的支持下順利落地�?/p>

　　03

　　全棧式服務(wù)，助力AI更快落地

　　中國信通院在《智算基礎(chǔ)設(shè)施發(fā)展研究報(bào)告(2024)》中提到，全棧式服務(wù)，正在成為智算基礎(chǔ)設(shè)施能否為用戶提供優(yōu)質(zhì)AI服務(wù)的重要標(biāo)志之一。智算基礎(chǔ)設(shè)施應(yīng)構(gòu)筑全棧技術(shù)能力，方便用戶使用智能算力。

　　服務(wù)提供商構(gòu)建全棧生態(tài)，能讓用戶獲得涵蓋硬件、軟件、算法、數(shù)據(jù)等各個(gè)方面的服務(wù)支持。這有助于智算的使用者，廣大的開發(fā)群體和企業(yè)用戶提高開發(fā)效率，減少開發(fā)成本。對(duì)智算服務(wù)提供方而言，全棧式服務(wù)的好處則在于能擴(kuò)展?jié)撛谟脩舴秶�，增加服�?wù)客戶的深度，增加客戶粘性。

　　全棧式的能力包含從算力規(guī)劃設(shè)計(jì)、中心建設(shè)和平臺(tái)運(yùn)營(yíng)多個(gè)環(huán)節(jié)。目前寧暢能提供從集群搭建、業(yè)務(wù)接入、訓(xùn)推任務(wù)、集群運(yùn)維、算力運(yùn)營(yíng)等貫穿算力中心全生命周期的設(shè)、建、運(yùn)一體化服務(wù)。它也是“全局智算”戰(zhàn)略和產(chǎn)品理念的反映。

　　全棧式的服務(wù)之下，寧暢精裝算力能覆蓋軟硬件全體系及全液冷產(chǎn)品，可提供咨詢、測(cè)試、運(yùn)維、售后的全流程服務(wù)，滿足各行業(yè)用戶大模型開發(fā)、適配、部署的全場(chǎng)景需求，并能按用戶發(fā)展階段，定制專業(yè)且性價(jià)比高的AI計(jì)算方案，為企業(yè)的AI應(yīng)用和落地提供了更好的支撐。

　　目前，精裝算力理念，已經(jīng)在互聯(lián)網(wǎng)、醫(yī)療、科研、汽車等多個(gè)行業(yè)取得了顯著成效，助力這些領(lǐng)域提升算力利用率，降低使用成本。

　　比如一些互聯(lián)網(wǎng)企業(yè)也研發(fā)了自己的模型。他們希望能夠加速模型研發(fā)進(jìn)度，從而在激烈的市場(chǎng)競(jìng)爭(zhēng)中保持優(yōu)勢(shì)。寧暢算力棧通過高效算力管理和GPU加速技術(shù)，就幫助某互聯(lián)網(wǎng)企業(yè)縮短了模型訓(xùn)練周期、加速產(chǎn)品迭代，并提升了20%的算力利用率，有效加速了其業(yè)務(wù)的創(chuàng)新發(fā)展。

　　AI for Science方興未艾，行業(yè)十分關(guān)注如何基于高效的基礎(chǔ)設(shè)施來加速創(chuàng)新流程。某大學(xué)在寧暢算力棧助力下，不僅在物理模擬和氣象預(yù)報(bào)中顯著提高了運(yùn)算速度，還在藥物分子模擬研究中大幅縮短了計(jì)算時(shí)間。在該案例中，寧暢算力棧支持復(fù)雜的深度學(xué)習(xí)模型訓(xùn)練，加快了自然語言處理、圖像識(shí)別等領(lǐng)域的研究進(jìn)度，將計(jì)算時(shí)間最高節(jié)省了82%，科研工作效率提升20%，直接推動(dòng)了科研成果的快速轉(zhuǎn)化。

　　同樣的情況還發(fā)生在醫(yī)療、汽車等多個(gè)行業(yè)。精裝算力理念下，寧暢的算力棧，經(jīng)受住了多家關(guān)鍵領(lǐng)域頭部企業(yè)的需求考驗(yàn)，切實(shí)支持了這些企業(yè)的創(chuàng)新。

　　智算行業(yè)的比拼正進(jìn)入新的階段。接下來的智算中心建設(shè)，規(guī)模只是其中一個(gè)考量，更重要的是要比計(jì)算效率，比算力調(diào)度管理，也要比軟件優(yōu)化。精裝算力的時(shí)代正在到來。