DeepSeek發(fā)布V2模型 GPT-4的性能白菜的價格

　　DeepSeek在開源MoE(Mixture of Experts)模型領(lǐng)域取得了重要進展，繼今年1月份開源國內(nèi)首個MoE模型后，現(xiàn)在發(fā)布了第二代MoE模型:DeepSeek-V2。這一新模型在多項性能評測中均展現(xiàn)出色的表現(xiàn)，與GPT-4等閉源模型競爭，同時在成本效益上具有顯著優(yōu)勢。

　　DeepSeek-V2在主流模型評測榜單中表現(xiàn)卓越，尤其在中文綜合能力(AlignBench)和英文綜合能力(MT-Bench)上，與頂尖閉源模型并駕齊驅(qū)。此外，在知識、數(shù)學(xué)、推理、編程等專業(yè)榜單上，DeepSeek-V2也取得了領(lǐng)先位置。

　　DeepSeek-V2采用了創(chuàng)新的模型結(jié)構(gòu)，提出了MLA(Multi-head Latent Attention)架構(gòu)，該架構(gòu)在減少計算量和推理顯存方面有顯著優(yōu)勢。結(jié)合自研的Sparse結(jié)構(gòu)DeepSeekMoE，模型在保持性能的同時，將計算量降至最低。

　　DeepSeek-V2以較低的顯存消耗實現(xiàn)了高性能，其每token成本大幅降低，使得實際部署在8卡H800機器上的輸入吞吐量超過每秒10萬tokens，輸出超過每秒5萬tokens。API定價為每百萬tokens輸入1元、輸出2元，價格極具競爭力。

　　DeepSeek秉持開源精神，將DeepSeek-V2模型和相關(guān)論文完全開源，免費商用，無需申請。模型權(quán)重可在Hugging Face平臺獲取，技術(shù)報告則發(fā)布在GitHub上。

　　DeepSeek提供了對話官網(wǎng)和開放平臺，用戶可以在chat.deepseek.com免費開啟對話，而DeepSeek API開放平臺則提供注冊即贈送大量tokens的優(yōu)惠，以支持優(yōu)質(zhì)項目的發(fā)展。