DeepSeek R1在壁仞國(guó)產(chǎn)AI算力平臺(tái)發(fā)布

　　近日，壁仞科技憑借自主研發(fā)的壁礪系列產(chǎn)品出色的兼容性能，僅用數(shù)小時(shí)即完成對(duì)DeepSeek R1全系列蒸餾模型的支持，涵蓋了從1.5B到70B各等級(jí)參數(shù)版本，包括LLaMA蒸餾模型和千問(wèn)蒸餾模型。為開(kāi)發(fā)者提供高性能、低成本的大模型部署與開(kāi)發(fā)解決方案。

　　這也讓壁仞科技成為少數(shù)實(shí)現(xiàn)國(guó)際、國(guó)內(nèi)多模型同步高效適配的芯片平臺(tái)之一，證明了國(guó)產(chǎn)芯片對(duì)復(fù)雜AI應(yīng)用任務(wù)的駕馭能力。DeepSeek提供了一種高效的模型蒸餾技術(shù)，能夠?qū)⒋笠?guī)模模型的能力遷移至更小、更高效的版本，并且通過(guò)Multi-Head Latent Attention(MLA)和DeepSeek MoE兩大核心技術(shù)，顯著降低顯存占用，優(yōu)化模型性能。

　　此次壁仞科技壁礪系列產(chǎn)品在較短時(shí)間內(nèi)成功支持DeepSeek全系列蒸餾模型，也意味著其在AI推理任務(wù)中具備強(qiáng)大的兼容性和易用性，能夠滿足日益增長(zhǎng)的AI應(yīng)用需求。

　　即日起，壁仞AI算力平臺(tái)正式上線 DeepSeek R1 蒸餾模型推理服務(wù)，全球開(kāi)發(fā)者可云端體驗(yàn) 1.5B、7B、8B、14B、32B、70B 全系列模型服務(wù)。該服務(wù)具備以下兩大核心優(yōu)勢(shì)：1、零部署成本：免去硬件采購(gòu)與環(huán)境搭建，實(shí)現(xiàn)“開(kāi)箱即用”的云端推理體驗(yàn)。2、多場(chǎng)景覆蓋：針對(duì)LLM等不同任務(wù)預(yù)置優(yōu)化配置方案。

　　目前，壁仞科技已構(gòu)建起從底層硬件到模型服務(wù)的完整AI技術(shù)棧，可為中小企業(yè)和研究機(jī)構(gòu)提供“芯片+模型”的端到端解決方案。未來(lái)將繼續(xù)加大研發(fā)投入，推動(dòng)芯片技術(shù)和開(kāi)發(fā)者生態(tài)的迭代升級(jí)，力爭(zhēng)在更多領(lǐng)域取得突破。

　　壁仞科技已聯(lián)合上海智能算力科技有限公司、中興通訊、科華數(shù)據(jù)、無(wú)問(wèn)芯穹、開(kāi)源中國(guó)(Gitee AI)、UCloud、一驀科技等戰(zhàn)略伙伴，基于壁礪系列訓(xùn)推產(chǎn)品106M、106B、106E、110E，憑借先進(jìn)的芯片架構(gòu)、高效的多模型適配能力、廣泛的數(shù)據(jù)精度支持以及強(qiáng)大的解碼能力，全面開(kāi)展包括R1在內(nèi)的DeepSeek全系列模型的適配與上線，以滿足不同規(guī)模參數(shù)量模型的部署需求：輕量級(jí)模型(1.5B-8B)：適配智能終端與邊緣計(jì)算設(shè)備，實(shí)現(xiàn)低延時(shí)實(shí)時(shí)推理。中大規(guī)模模型(14B-32B)：服務(wù)于大規(guī)模企業(yè)級(jí)應(yīng)用和高并發(fā)任務(wù)，滿足數(shù)據(jù)安全與定制化需求。大規(guī)模模型(70B)：依托云端超算集群，支撐前沿AI研究與復(fù)雜任務(wù)處理。