北京大學(xué)聯(lián)合華為發(fā)布全棧開源DeepSeek推理方案

　　據(jù)華為技術(shù)有限公司和北京大學(xué)高性能計算校級公共平臺消息，2025 年 3 月 9 日，北京大學(xué)聯(lián)合華為發(fā)布 DeepSeek 全棧開源推理方案。

　　據(jù)介紹，該方案基于北大自研 SCOW 算力平臺系統(tǒng)、鶴思調(diào)度系統(tǒng)，并整合 DeepSeek、openEuler、MindSpore 與 vLLM / RAY 等社區(qū)開源組件，實(shí)現(xiàn)華為昇騰上的 DeepSeek 高效推理，并支持大規(guī)模算力集群訓(xùn)推一體化部署。所有開發(fā)者均可獲取源碼并根據(jù)需求二次開發(fā)，性能接近閉源方案。

　　此次發(fā)布的 DeepSeek 推理方案依托全棧開源組件構(gòu)建，在 openEuler 開源操作系統(tǒng)層面進(jìn)行了深度優(yōu)化;通過異構(gòu)調(diào)度負(fù)載感知 MoE 冷熱專家，從而更細(xì)粒度調(diào)度任務(wù);通過異構(gòu)融合來高效管理內(nèi)存，減小系統(tǒng)內(nèi)存碎片;利用畢昇編譯器進(jìn)一步優(yōu)化，減少算子下發(fā)耗時，提升推理整體性能。