寒武紀(jì)優(yōu)化產(chǎn)品在AIGC及大語言模型領(lǐng)域的性能

　　近日，寒武紀(jì)在投資者互動平臺表示：公司基于云端產(chǎn)品的優(yōu)勢，針對最近興起的大模型領(lǐng)域，優(yōu)化了寒武紀(jì)產(chǎn)品在AIGC及大語言模型領(lǐng)域的性能，并與多個(gè)行業(yè)客戶及ISV推動了技術(shù)和產(chǎn)品合作。

　　據(jù)寒武紀(jì)2023年半年度報(bào)告顯示，寒武紀(jì)迄今已自主研發(fā)了五代智能處理器微架構(gòu)、五代商用智能處理器指令集。報(bào)告期內(nèi)，第六代智能處理器微架構(gòu)和指令集正在研發(fā)中。新一代智能處理器微架構(gòu)及指令集將對自然語言處理大模型和推薦系統(tǒng)的訓(xùn)練推理等場景進(jìn)行重點(diǎn)優(yōu)化，將在編程靈活性、能效、功耗、面積等方面提升產(chǎn)品競爭力。同時(shí)，報(bào)告期內(nèi)，寒武紀(jì)的基礎(chǔ)系統(tǒng)軟件平臺相比前期版本也進(jìn)行了優(yōu)化和迭代。其中，推理軟件平臺在模型性能優(yōu)化、大模型和 AIGC 推理業(yè)務(wù)支持、推理性能優(yōu)化等重點(diǎn)方面均實(shí)現(xiàn)了突破和進(jìn)展。訓(xùn)練軟件平臺在通用性、性能等方面取得了優(yōu)化，在大模型和 AIGC 訓(xùn)練領(lǐng)域、推薦系統(tǒng)等 重點(diǎn)領(lǐng)域?qū)崿F(xiàn)了改進(jìn)和迭代�；�礎(chǔ)系統(tǒng)軟件平臺的不斷改進(jìn)和發(fā)展，將促進(jìn)寒武紀(jì)硬件產(chǎn)品更好的業(yè)務(wù)落地。

　　寒武紀(jì)自成立以來一直專注于人工智能芯片產(chǎn)品的研發(fā)與技術(shù)創(chuàng)新，致力于打造人工智能領(lǐng)域的核心處理器芯片，讓機(jī)器更好地理解和服務(wù)人類。寒武紀(jì)的主營業(yè)務(wù)是各類云服務(wù)器、邊緣計(jì)算設(shè)備、終端設(shè)備中人工智能核心芯片的研發(fā)、設(shè)計(jì)和銷售，主要產(chǎn)品為云端智能芯片及加速卡、訓(xùn)練整機(jī)、邊緣智能芯片及加速卡、終端智能處理器 IP 以及上述產(chǎn)品的配套軟件開發(fā)平臺。

　　目前，寒武紀(jì)的主要產(chǎn)品線包括云端產(chǎn)品線、邊緣產(chǎn)品線、IP 授權(quán)及軟件。

　　首先，寒武紀(jì)的云端產(chǎn)品線目前包括云端智能芯片、加速卡及訓(xùn)練整機(jī)。其中，云端智能芯片及加速卡是云服務(wù)器、數(shù)據(jù)中心等進(jìn)行人工智能處理的核心器件，其主要作用是為云計(jì)算和數(shù)據(jù)中心場景下的人工智能應(yīng)用程序提供高計(jì)算密度、高能效的硬件計(jì)算資源，支撐該類場景下復(fù)雜度和數(shù)據(jù)吞吐量高速增長的人工智能處理任務(wù)。

　　而寒武紀(jì)的訓(xùn)練整機(jī)是由寒武紀(jì)自研云端智能芯片及加速卡提供核心計(jì)算能力，且整機(jī)亦由公司自研的訓(xùn)練服務(wù)器產(chǎn)品。寒武紀(jì)的訓(xùn)練整機(jī)產(chǎn)品與智能計(jì)算集群系統(tǒng)業(yè)務(wù)的區(qū)別在于訓(xùn)練整機(jī)主要提供計(jì)算集群中的單體訓(xùn)練服務(wù)器，而不提供全集群搭建服務(wù)，主要面向有一定技術(shù)基礎(chǔ)的商業(yè)客戶群體。

　　其次，邊緣計(jì)算是近年來興起的一種新型計(jì)算范式，在終端和云端之間的設(shè)備上配備適度的計(jì)算能力，一方面可有效彌補(bǔ)終端設(shè)備計(jì)算能力不足的劣勢，另一方面可緩解云計(jì)算場景下數(shù)據(jù)隱私、帶寬與延時(shí)等潛在問題。邊緣計(jì)算范式和人工智能技術(shù)的結(jié)合將推動智能制造、智能零售、智能教育、智能家居、智能電網(wǎng)等眾多領(lǐng)域的高速發(fā)展。

　　再次，寒武紀(jì)的 IP授權(quán)及軟件包括 IP 授權(quán)和基礎(chǔ)系統(tǒng)軟件平臺。IP 授權(quán)是將公司研發(fā)的智能處理器 IP 等知識產(chǎn)權(quán)授權(quán)給客戶在其產(chǎn)品中使用。基礎(chǔ)系統(tǒng)軟件平臺是寒武紀(jì)為云邊端全系列智能芯片與處理器產(chǎn)品提供統(tǒng)一的平臺級基礎(chǔ)系統(tǒng)軟件(包含軟件開發(fā)工具鏈等)，打破了不同場景之間的軟件開發(fā)壁壘，兼具靈活性和可擴(kuò)展性的優(yōu)勢，無須繁瑣的移植即可讓同一人工智能應(yīng)用程序便捷高效地運(yùn)行在寒武紀(jì)云邊端系列化芯片與處理器產(chǎn)品之上。