中國移動(dòng)助力中國石油完成DeepSeek全棧國產(chǎn)私有化部署

　　2月8日，在中國移動(dòng)的助力下，中國石油高效完成DeepSeek V3/R1全棧國產(chǎn)化的訓(xùn)推適配和私有化部署。此次部署，基于DeepSeek的關(guān)鍵技術(shù)點(diǎn)，開展了系列基礎(chǔ)模型算法創(chuàng)新，實(shí)現(xiàn)了從底層芯片到框架、模型的全棧自主可控，為推動(dòng)人工智能技術(shù)在能源化工領(lǐng)域的深度應(yīng)用與國產(chǎn)AI技術(shù)生態(tài)的規(guī)�；�落地注入了強(qiáng)大動(dòng)力。

　　面對(duì)中國石油多模態(tài)、超百億參數(shù)的大模型訓(xùn)練任務(wù)需求，移動(dòng)云憑借強(qiáng)大的算力網(wǎng)絡(luò)能力，實(shí)現(xiàn)了資源的快速響應(yīng)、彈性擴(kuò)展及高質(zhì)量供給。通過為中國石油構(gòu)建“算力泛在、算網(wǎng)共生、智能敏捷、安全可靠、綠色低碳”的一體化算力體系，移動(dòng)云已提供超過1000P的穩(wěn)定算力資源，為大模型的建設(shè)和運(yùn)行提供了堅(jiān)實(shí)的算力保障。

　　為了使DeepSeek系列模型在昆侖大模型原有的框架下，獲得更好的適配效果和執(zhí)行性能，中國移動(dòng)第一時(shí)間開展相關(guān)的分析、適配與創(chuàng)新工作。中國移動(dòng)通過配置化開發(fā)，在DeepSeek V3模型基礎(chǔ)上快速實(shí)現(xiàn)了自定義模型參數(shù)和規(guī)模的針對(duì)性優(yōu)化。團(tuán)隊(duì)在不實(shí)際啟動(dòng)集群訓(xùn)練任務(wù)的情況下，僅通過單卡即模擬出集群中所有卡的內(nèi)存占用情況，從而制定整體的集群分布式訓(xùn)練策略。

　　中國移動(dòng)復(fù)現(xiàn)并優(yōu)化了DeepSeek MTP多Tokens預(yù)測(cè)功能，通過DeepSeek-V3/R1主模型和MTP Module的分布式調(diào)度，實(shí)現(xiàn)一次解碼生成多個(gè)Token，并通過使整圖編譯功能，組合計(jì)算圖的通用算子，實(shí)現(xiàn)自動(dòng)融合加速，提升DeepSeek-V3/R1端到端的推理性能。