云天勵飛陳寧出席亞布力論壇，暢談AI芯片發(fā)展趨勢

　　2023年8月25日—27日,以“聚焦大灣區(qū),創(chuàng)新促發(fā)展——同心共建中國式現(xiàn)代化”為主題的2023亞布力中國企業(yè)家論壇第十九屆夏季高峰會在深圳舉行,云天勵飛董事長兼CEO陳寧博士受邀參加,并與業(yè)內(nèi)專家同臺討論“世界需要怎樣的人工智能”。

　　芯片是支撐大模型的核心底座,伴隨“百模大戰(zhàn)”打響,AI芯片也受到大量關(guān)注。

　　在談及對AI芯片發(fā)展的看法時,陳寧博士提到芯片可以簡單分為兩大類:一類是訓(xùn)練芯片,另外一類是推理的芯片。我們今天其實幾乎所有的焦點都關(guān)注到了訓(xùn)練芯片,或者是以訓(xùn)練為主的訓(xùn)推一體的芯片。但對于AI的算法來說,訓(xùn)練只是一個開始,推理和應(yīng)用才是最終目的,生產(chǎn)出來大模型的算法最終要落地應(yīng)用。

　　機器人、無人駕駛汽車、各類傳感器,萬物智聯(lián)需要更需要的是推理芯片。未來,推理芯片的市場需求可能比訓(xùn)練芯片更大。

　　因此,云天勵飛一直堅持“算法芯片化”,讓芯片能夠滿足不同場景的需求。去年底云天勵飛自研的AI芯片DeepEdge10成功流片,高效支持Transformer模型中的矩陣乘法運算,可應(yīng)用于邊緣CV大模型推理領(lǐng)域,可廣泛應(yīng)用于AIoT邊緣視頻、移動機器人等場景。

　　據(jù)悉,DeepEdge100可提供8-50 TOPS(INT8)整型計算和2-8T FLOPS(FP16)浮點計算算力,滿足市場對芯片算法多樣性、準確性、算力密度及效能方面的要求。針對各類應(yīng)用場景,云天勵飛已開發(fā)出Edge10C、Edge10標準版和Edge10Max三款芯片。其中,Edge10C采用8核CPU、算力8 Tops,Edge10標準版采用10核CPU、算力12 Tops,兩者均應(yīng)用于智慧安防、智慧城市和智能制造等邊緣計算推理領(lǐng)域。