算力重器DPU，火得猝不及防

　　自計算機(jī)問世以來，一直采用的馮·諾依曼架構(gòu)，該架構(gòu)以計算和存儲為核心。其中CPU作為處理器單元，負(fù)責(zé)執(zhí)行各種算術(shù)和邏輯計算。RAM和硬盤則負(fù)責(zé)存儲數(shù)據(jù)，與CPU進(jìn)行交互。

　　再后來圖形、3D設(shè)計等多媒體軟件的高速發(fā)展，要處理的工作量越來越大，也越來越復(fù)雜。為了幫CPU分擔(dān)壓力，專門進(jìn)行圖像和圖形處理工作的GPU應(yīng)運而生。

　　如今，隨著數(shù)字經(jīng)濟(jì)的蓬勃發(fā)展，特別是生成式人工智能、大數(shù)據(jù)分析、自動駕駛、元宇宙等應(yīng)用的迅速普及與實施，全球各行各業(yè)對大規(guī)模算力的渴求呈現(xiàn)出急劇增長的態(tài)勢。這時候，DPU(數(shù)據(jù)處理單元)憑借其*的性能和獨特優(yōu)勢，逐步嶄露頭角，成為推動算力提升的關(guān)鍵技術(shù)之一。

　　英偉達(dá)首席執(zhí)行官黃仁勛曾在演講中表示：“ DPU 將成為未來計算的三大支柱之一，未來的數(shù)據(jù)中心標(biāo)配是‘ CPU + DPU + GPU ’。CPU 用于通用計算， GPU 用于加速計算， DPU 則進(jìn)行數(shù)據(jù)處理。”

　　那么DPU的主要作用為何?相比CPU、GPU有哪些優(yōu)勢?

　　DPU與CPU、GPU的主要區(qū)別

　　DPU的出現(xiàn)并非偶然，而是對日益增長的數(shù)據(jù)處理需求的有力回應(yīng)。

　　從功能上看，CPU、GPU和DPU雖都屬于計算處理器，但各自長于不同功能。CPU負(fù)責(zé)計算機(jī)系統(tǒng)的整體運行，是計算機(jī)的"大腦”，適用于各種廣泛的應(yīng)用，但在處理大規(guī)模數(shù)據(jù)和特定計算任務(wù)時性能相對有限。

　　GPU是用于圖形計算任務(wù)的專用處理器，例如3D圖像渲染或視頻處理等。對于大規(guī)模并行計算任務(wù)(如深度學(xué)習(xí)訓(xùn)練)有一定優(yōu)勢，但在一些特定任務(wù)上可能并不是*選擇。

　　而DPU專門設(shè)計用于數(shù)據(jù)處理任務(wù)，具有高度優(yōu)化的硬件結(jié)構(gòu)，適用于特定領(lǐng)域的計算需求。其靈活性和高性能使其成為未來計算的重要組成部分。

　　從架構(gòu)上看，CPU由幾個功能強(qiáng)大的處理核心組成，這些核心針對串行處理進(jìn)行了優(yōu)化，優(yōu)勢在于按順序逐個執(zhí)行任務(wù)。GPU包含大量更簡單的核心，針對并行處理進(jìn)行了優(yōu)化，優(yōu)勢在于同時處理大量任務(wù)。DPU則由處理核心、硬件加速器元件和高性能網(wǎng)絡(luò)接口組合而成，便于其處理以數(shù)據(jù)為中心的大規(guī)模任務(wù)。

　　再看應(yīng)用領(lǐng)域，CPU幾乎存在于一切計算設(shè)備當(dāng)中，包括智能手機(jī)、計算機(jī)、服務(wù)器等。GPU常被用于游戲PC設(shè)備。

　　DPU則主要用于數(shù)據(jù)中心。FPGA是DPU的核心技術(shù)之一，它具有在硬件級別上重新配置的能力，使其適用于多種計算任務(wù)。DPU利用FPGA的靈活性，通過重新配置硬件來實現(xiàn)高效的數(shù)據(jù)處理。異構(gòu)計算是DPU的另一個關(guān)鍵技術(shù)，它通過同時利用不同類型的處理單元來執(zhí)行任務(wù)，以提高整體性能。異構(gòu)計算中的處理單元可以包括CPU、GPU、FPGA等，它們共同協(xié)作完成計算任務(wù)。在兩大技術(shù)的加持下，DPU能夠充分發(fā)揮其性能優(yōu)勢，為數(shù)據(jù)中心提供強(qiáng)大的計算能力支持。

　　事實上，DPU已經(jīng)不是*個為彌補(bǔ)CPU能力不足而備受關(guān)注的產(chǎn)品，多年前GPU的大熱也是為了彌補(bǔ)CPU在圖形處理能力方面的短板。換句話說，從CPU、GPU再到今天的DPU，技術(shù)變革背后體現(xiàn)的其實是時代的變化、用戶需求的變化。

　　DPU的應(yīng)用正在走向多場景化

　　DPU 分擔(dān)的工作可以歸納為四個關(guān)鍵詞，分別是虛擬化、網(wǎng)絡(luò)、存儲以及安全。

　　DPU通過將控制平面下放，從而實現(xiàn)主機(jī)業(yè)務(wù)與控制平面的完全隔離，從而提升了虛擬環(huán)境的安全性。DPU的高效數(shù)據(jù)處理能力加速了虛擬機(jī)間的通信，提高了虛擬化性能。

　　此外，存儲行業(yè)的革新算法和實現(xiàn)，也可以在 DPU 架構(gòu)中，獨立于服務(wù)器操作系統(tǒng)進(jìn)行部署。 DPU 技術(shù)幫助存儲廠商實現(xiàn)真正的 “算存分離”。

　　在網(wǎng)絡(luò)與安全方面，隨著數(shù)據(jù)泄露和隱私泄露的事件頻發(fā)，數(shù)據(jù)安全和隱私保護(hù)已經(jīng)成為一個備受關(guān)注的問題。DPU可以利用可編程硬件卸載和加速內(nèi)聯(lián)安全服務(wù)，提供強(qiáng)大的零信任保護(hù)，有效隔離主機(jī)業(yè)務(wù)和控制平面，確保數(shù)據(jù)安全性。

　　具體到各個場景的應(yīng)用中，上文提到的數(shù)據(jù)中心只是DPU主要的應(yīng)用領(lǐng)域之一。

　　除了數(shù)據(jù)中心，DPU同樣能夠“駕馭”眾多應(yīng)用。在HPC和AI場景，DPU可提供超高帶寬、無損網(wǎng)絡(luò)和高速存儲訪問能力，可為HPC和AI提供業(yè)務(wù)所需的超高性能網(wǎng)絡(luò)。網(wǎng)絡(luò)、存儲與安全是DPU的主要應(yīng)用。

　　在風(fēng)起云涌的邊緣計算領(lǐng)域，DPU的引入大有裨益。隨著業(yè)務(wù)增多，邊緣算力和帶寬需求大幅增加，但邊緣設(shè)施的規(guī)模和能力受限，CPU主要滿足核心業(yè)務(wù)的算力需求，對本不擅長的網(wǎng)絡(luò)、存儲、安全等相關(guān)處理無暇顧及。引入DPU可大大降低此類DPU對CPU的消耗，同時使用專用硬件提升處理性能，從而大幅提升邊緣計算的處理能力。

　　在智算場景下DPU也擁有廣闊的市場空間，DPU通過高性能網(wǎng)絡(luò)及領(lǐng)域功能硬件卸載，為智算中心提供了大帶寬、高吞吐、低時延的基礎(chǔ)設(shè)施能力，從而消除了數(shù)據(jù)IO瓶頸，釋放了算力。這使得DPU成為智算中心基礎(chǔ)設(shè)施的必選項，大幅提升了計算集群的算效比。

　　多元化的應(yīng)用場景為DPU帶來了豐富的商業(yè)機(jī)遇，未來DPU有望進(jìn)一步拓展至自動駕駛、人工智能和元宇宙等領(lǐng)域。

　　DPU戰(zhàn)場百家爭鳴

　　隨著 DPU 技術(shù)方案更加成熟、數(shù)據(jù)中心在全球范圍內(nèi)加速落地，英偉達(dá)、英特爾等廠商數(shù)據(jù)處理類芯片DPU/IPU大規(guī)模量產(chǎn)，全球 DPU 市場將在未來幾年迎來爆發(fā)式增長。

　　DPU 行業(yè)市場集中度較高。根據(jù)頭豹研究院數(shù)據(jù)，近年來國內(nèi) DPU 市場中，國際三大巨頭英偉達(dá)、博通、英特爾的份額分別達(dá)到 55%、36%、9%。Xilinx、Marvell、Pensando、Fungible、Amazon、Microsoft 等多家廠商在近 2-5 年內(nèi)也均有 DPU 或相似架構(gòu)產(chǎn)品生產(chǎn)，較國內(nèi)相對較早。

　　英偉達(dá)的數(shù)據(jù)中心“野心”

　　在上表列出的諸多公司中，英偉達(dá)具有先發(fā)優(yōu)勢。2019年3月，英偉達(dá)花費69億美元收購了以色列芯片公司 Mellanox 。英偉達(dá)將 Mellanox 的 ConnectX 系列高速網(wǎng)卡技術(shù)與自己的已有技術(shù)相結(jié)合，于2020年正式推出了兩款 DPU 產(chǎn)品BlueField-2 DPU 和 BlueField-2X DPU，正式拉開 DPU 發(fā)展的序幕。

　　如今，英偉達(dá)的BlueField 系列芯片已到達(dá)第三代，英偉達(dá) BlueField-3 DPU 是一款支持 400Gb/s 速度的基礎(chǔ)設(shè)施計算平臺，能夠線速處理軟件定義網(wǎng)絡(luò)、存儲和網(wǎng)絡(luò)安全任務(wù)。BlueField-3 將強(qiáng)大的計算能力、高速網(wǎng)絡(luò)和廣泛的可編程性集于一身，可為要求苛刻的工作負(fù)載提供軟件定義的硬件加速解決方案。從加速 AI 到混合云和高性能計算，再到 5G 無線網(wǎng)絡(luò)，BlueField-3 重新定義了各種可能性。

　　英偉達(dá)的DPU主要作用是數(shù)據(jù)安全、網(wǎng)絡(luò)安全與存儲卸載等。在英偉達(dá)對DPU的布局中也足以看到，它在數(shù)據(jù)中心這一應(yīng)用領(lǐng)域的野心，也有人稱，英偉達(dá)正“試圖利用DPU再一次復(fù)制此前GPU替代顯示加速卡成為通用顯示芯片的路徑”

　　英特爾推出IPU迎戰(zhàn)數(shù)據(jù)中心

　　英特爾在2021年6月新發(fā)布的IPU產(chǎn)品(可以被視為Intel版本的DPU)，將FPGA與Xeon D系列處理器集成，成為了DPU賽道有力的競爭者。IPU是具有強(qiáng)化的加速器和以太網(wǎng)連接的高級網(wǎng)絡(luò)設(shè)備，它使用緊密耦合、專用的可編程內(nèi)核加速和管理基礎(chǔ)架構(gòu)功能。2022 年的 Vision 全球用戶大會期間，英特爾又公布了 IPU 發(fā)展藍(lán)圖，呈現(xiàn)近三年及未來即將問世的產(chǎn)品與平臺。

　　在發(fā)展藍(lán)圖中，英特爾揭露 3 款 IPU 產(chǎn)品，分別對應(yīng) ASIC、IPU 平臺、SmartNIC，此外英特爾還揭露了兩條發(fā)展路線，一個是基于專屬 ASIC 芯片的 IPU，代號為 Mount Evans;另一個則是基于 FPGA 架構(gòu)的兩種加速解決方案，代號為 Oak Springs Canyon 的 IPU 平臺。

　　針對兩種 IPU 應(yīng)用特性的差異，英特爾也在此做出最新的詮釋。若是基于 FPGA 架構(gòu)而成的 IPU，能更快供應(yīng)市場需求，支持持續(xù)演化的網(wǎng)絡(luò)標(biāo)準(zhǔn)，透過能重復(fù)進(jìn)行的可編程化特性，以及安全的資料傳輸路徑，能夠彈性處理多種特定工作負(fù)載;如果是基于 ASIC 架構(gòu)而成的 IPU，可提供*效能與功耗的搭配，能用于確保網(wǎng)絡(luò)與存儲等任務(wù)領(lǐng)域的安全性。

　　發(fā)展藍(lán)圖顯示，英特爾的第二代IPU已于2022年推出，包括Mount Evans(英特爾*ASIC IPU)和Oak Springs Canyon(英特爾第二代FPGA IPU)，目前正在向谷歌及其它服務(wù)提供商出貨。第三代IPU代號為Mount Morgan和Hot Springs Canyon的400 GB IPU預(yù)計2023/2024年開始向客戶及合作伙伴出貨。下一代800GB IPU預(yù)計2025/2026年開始向客戶及合作伙伴出貨。

　　此外，賽靈思已經(jīng)推出DPU處理器——Alveo SmartNIC產(chǎn)品組合。DPU可以用作獨立的嵌入式處理器，但通常是被集成到SmartNIC里。博通旗下有Stingray，Marvell則擁有OCTEON和ARMADA產(chǎn)品系列。

　　相比于CPU和GPU賽道，DPU毫無疑問是一個嶄新的競技場。隨著網(wǎng)絡(luò)流量指數(shù)上漲，DPU市場前景廣闊。在國際巨頭加緊布局DPU業(yè)務(wù)的同時，國內(nèi)芯片市場也頻傳好消息。

　　國內(nèi)廠商各展所長

　　近年來，國家不斷推動數(shù)字經(jīng)濟(jì)的快速發(fā)展。算力基礎(chǔ)設(shè)施是數(shù)字經(jīng)濟(jì)發(fā)展的重要基礎(chǔ)，而算力和高性能網(wǎng)絡(luò)已成為算力基礎(chǔ)設(shè)施的核心能力，尤其是在人工智能和邊緣計算等需求的推動下，高性能網(wǎng)絡(luò)和DPU已愈發(fā)重要。

　　工業(yè)和信息化部、中央網(wǎng)信辦、教育部、國家衛(wèi)生健康委、中國人民銀行、國務(wù)院國資委等六部門近日聯(lián)合印發(fā)《算力基礎(chǔ)設(shè)施高質(zhì)量發(fā)展行動計劃》。該計劃具體規(guī)定了到2025年，算力基礎(chǔ)設(shè)施發(fā)展的主要目標(biāo)、重點任務(wù)和保障措施等，并重點提出針對智能計算、超級計算和邊緣計算等場景，開展DPU等技術(shù)升級與試點應(yīng)用，實現(xiàn)算力中心網(wǎng)絡(luò)高性能傳輸。這是國家層面的文件首次對未來3年的DPU發(fā)展指明了方向。

　　隨著 DPU 產(chǎn)業(yè)的快速發(fā)展，國內(nèi)也涌現(xiàn)出了一大批 DPU 公司。

　　中科馭數(shù)

　　中科馭數(shù)基于自研敏捷異構(gòu) KPU 芯片架構(gòu)以及 DPU 軟件開發(fā)平臺 HADOS，公司自主研發(fā)了業(yè)界首顆融合高性能網(wǎng)絡(luò)與數(shù)據(jù)庫一體化加速功能的 DPU芯片和標(biāo)準(zhǔn)加速卡系列產(chǎn)品，可廣泛應(yīng)用于超低延遲網(wǎng)絡(luò)、大數(shù)據(jù)處理、5G 邊緣計算、高速存儲等場景，助力算力成為數(shù)字時代的新生產(chǎn)力。

　　在 DPU 產(chǎn)品的研發(fā)迭代方面，中科馭數(shù)于 2019 年流片了*代 DPU 芯片K1，第二代 DPU 芯片 K2 也于 2022 年初成功投片，目前已開始第三代 DPU 芯片 K2 Pro 的研發(fā)工作。針對數(shù)據(jù)中心關(guān)鍵性能瓶頸與業(yè)務(wù)需求，中科馭數(shù)也基于自研DPU芯片推出了RDMA加速卡、云原生網(wǎng)絡(luò)加速卡等系列產(chǎn)品，支持超大規(guī)模組網(wǎng)算力互連，以支撐算力底座建設(shè)所必須的100G+超高帶寬和低時延，使更多的CPU/GPU算力真正服務(wù)于業(yè)務(wù)，為智算中心建設(shè)提供全套的性能更高和算力更好的解決方案。

　　國產(chǎn)化建設(shè)浪潮之下，中科馭數(shù)也正全面擁抱國產(chǎn)化生態(tài)，積極與國內(nèi)產(chǎn)業(yè)鏈上下游廠商開展產(chǎn)品兼容性認(rèn)證。目前，中科馭數(shù)已與國內(nèi)6大CPU芯片、12家主流操作系統(tǒng)、9家主流數(shù)據(jù)庫廠商、8家頭部云/云原生廠商、17家TOP級服務(wù)器廠商完成兼容性適配。

　　芯啟源

　　芯啟源具有完全自主知識產(chǎn)權(quán)的 DPU 芯片。芯啟源 DPU 較傳統(tǒng)智能網(wǎng)卡提供了更大的處理能力、更強(qiáng)的靈活性、可編程數(shù)據(jù)包處理、可擴(kuò)展 Chiplet結(jié)構(gòu)等特性。采用 NP-SoC 模式進(jìn)行芯片設(shè)計，通用 ARM 架構(gòu)結(jié)合高度優(yōu)化面向數(shù)據(jù)包的 NP 芯片(RISC-V 內(nèi)核)、多線程的處理模式，使其可以達(dá)到 ASIC 固化芯片的數(shù)據(jù)處理能力，同時考慮到了全量可編程、靈活可擴(kuò)展的屬性，用以支持400Gbps 及以上的性能目標(biāo)、低功率且具有成本效益等。

　　芯啟源從2019年開始研發(fā)*代FPGA智能網(wǎng)卡，2020年開始推出第二代基于NP-SoC架構(gòu)的產(chǎn)品，逐步推向市場。如今，芯啟源推出了基于SoC-NP架構(gòu)的DPU芯片智能網(wǎng)卡，具有可編程性、可擴(kuò)展性和高性能三個重要特點，已成熟量產(chǎn)出貨，商業(yè)落地，能夠適應(yīng)于廣泛的應(yīng)用場景，成為了真正意義上國內(nèi)最早一批進(jìn)入DPU領(lǐng)域的芯片公司。

　　據(jù)悉，芯啟源正在研發(fā)的新一代NFP-7000 DPU芯片，將對標(biāo)Nvdia的BlueField-3，并用“通用型芯片+定制化軟件”的模式推動行業(yè)的網(wǎng)卡國產(chǎn)化。從設(shè)計目標(biāo)來看，該款芯片的性能與功能，完全不亞于英偉達(dá)的BlueField-3，同時，該芯片未來會根據(jù)不同場景需求來設(shè)定其能力范圍，這樣將大大降低芯片的成本，更符合國內(nèi)芯片的多場景需求。

　　云豹智能

　　目前云豹智能領(lǐng)跑國內(nèi)數(shù)據(jù)中心場景的國產(chǎn)DPU芯片方案。云豹智能 DPU SoC 是國內(nèi)*顆通用可編程 DPU 芯片，具備豐富的可編程性和完備的 DPU 功能，支持不同云計算場景和資源統(tǒng)一管理，優(yōu)化數(shù)據(jù)中心計算資源利用率。

　　云豹DPU通過對各種高速網(wǎng)絡(luò)、彈性存儲、安全服務(wù)及可靠運維和管控進(jìn)行卸載、加速及隔離，為云端、數(shù)據(jù)中心、人工智能及邊緣計算等提供新一代計算平臺。

　　目前云豹智能已與頭部云計算大廠、電信運營商和央企等開展深度合作，共同推進(jìn)DPU產(chǎn)業(yè)落地。

　　大禹智芯

　　大禹智芯也擁有DPU設(shè)計與研發(fā)及DPU大型商業(yè)化部署的成功經(jīng)驗。大禹智芯Paratus系列DPU產(chǎn)品采用三條產(chǎn)品線并行的方式逐步面向廣泛商用市場推出易用并好用的DPU產(chǎn)品：

　　Paratus 1.0作為大禹智芯DPU的*條產(chǎn)品線產(chǎn)品，采用ARM SoC作為主處理單元，提供多個10Gbps/25Gbps的業(yè)務(wù)網(wǎng)絡(luò)接口，同時為了方便用戶管理，單獨設(shè)置了RJ45管理口。

　　Paratus 2.0作為大禹智芯DPU的第二條產(chǎn)品線產(chǎn)品，采用ARM SoC + FPGA的硬件架構(gòu)，在Paratus 1.0產(chǎn)品基礎(chǔ)上，利用FPGA對可固化邏輯的數(shù)據(jù)包實現(xiàn)高性能轉(zhuǎn)發(fā)，提供多個10G/25G、100G的業(yè)務(wù)網(wǎng)絡(luò)接口。

　　Paratus 3.0作為第三條產(chǎn)品線產(chǎn)品，將采用大禹智芯自研DPU芯片。該芯片將結(jié)合公司對DPU相關(guān)技術(shù)及未來應(yīng)用場景的理解，和前兩條產(chǎn)品線(Paratus 1.0和Paratus 2.0)在實際場景部署中獲得的寶貴客戶反饋意見和經(jīng)驗積累，形成高度集成化的DPU產(chǎn)品。

　　阿里云 CIPU

　　2022 年阿里云峰會上，阿里云正式發(fā)布了云基礎(chǔ)設(shè)施處理器 CIPU，CIPU 的前身是MoC 卡 (Micro Server on a Card)，MoC 卡是神龍架構(gòu)的靈魂所在。MoC 卡擁有獨立的I/O、存儲和處理單元，承擔(dān)了網(wǎng)絡(luò)、存儲和設(shè)備虛擬化的工作。

　　*代和第二代 MoC 卡解決了狹義上的計算虛擬化零開銷的問題，網(wǎng)絡(luò)和存儲部分的虛擬化仍由軟件實現(xiàn)。第三代MoC 卡實現(xiàn)了部分網(wǎng)絡(luò)轉(zhuǎn)發(fā)功能硬化，網(wǎng)絡(luò)性能大幅提升。第四代 MoC 卡實現(xiàn)了網(wǎng)絡(luò)、存儲全硬件卸載，還支持了 RDMA 能力。

　　除了上文列舉的幾家公司外，星云智聯(lián)、銳文科技等多家優(yōu)秀的國產(chǎn)廠商，均憑借技術(shù)創(chuàng)新與產(chǎn)品定義方面的優(yōu)勢，沿著差異化路線搶灘市場。不過，值得注意的是，目前國內(nèi)DPU仍處于發(fā)展早期階段。對于國內(nèi)DPU企業(yè)來說，眼下最重要的事還是要先把實際產(chǎn)品做出來，并在應(yīng)用場景中進(jìn)行檢驗，畢竟DPU作為一個新興的技術(shù)領(lǐng)域，其產(chǎn)品的開發(fā)難度較高，且市場對其性能、穩(wěn)定性和安全性等方面都有極高的要求。

　　DPU進(jìn)入爆發(fā)期

　　根據(jù)賽迪顧問數(shù)據(jù)顯示，從2023年開始全球DPU市場規(guī)模將突破百億美元，并進(jìn)入年增長率超50%的快車道。而中國DPU市場規(guī)模在2023年也將超300億元人民幣，呈現(xiàn)跳躍式增長，2025年國內(nèi)市場規(guī)模將達(dá)到565.9億元，五年復(fù)合增速達(dá)170.60%。

　　目前，包括亞馬遜、阿里云、華為在內(nèi)的云計算龍頭都在發(fā)展符合自身要求的DPU產(chǎn)品線。

　　除數(shù)據(jù)中心以外，智能駕駛、數(shù)據(jù)通信、網(wǎng)絡(luò)安全等也是DPU的下游應(yīng)用領(lǐng)域。

　　此外，DPU與DOCA對于大模型和生成式AI而言，意義重大。根據(jù)Gartner，預(yù)計在 2026 年，超過80%的企業(yè)將使用生成式AI應(yīng)用程序編程接口(API)或模型，或者在相關(guān)生產(chǎn)環(huán)境中部署支持生成式AI的應(yīng)用程序。據(jù)統(tǒng)計，這一比例在2023年還不到5%，這意味著在短短三年內(nèi)，采用或創(chuàng)建生成式AI模型的企業(yè)數(shù)量預(yù)計將會增長16倍。

　　也就是說，未來3年是生成式AI爆發(fā)的窗口期，也是普及BlueField DPU和DOCA的機(jī)遇期。