超算與智算融合是未來(lái)必然趨勢(shì)！超算賦能大模型發(fā)展應(yīng)用論壇成功舉辦

　　在信息技術(shù)突飛猛進(jìn)的大背景下,數(shù)據(jù)已經(jīng)成為繼土地、資本、技術(shù)和勞動(dòng)力之外的又一新生產(chǎn)要素,推動(dòng)社會(huì)生產(chǎn)力進(jìn)入更高的層面。而要讓數(shù)據(jù)真正發(fā)揮出經(jīng)濟(jì)要素的價(jià)值,算力是必不可少的基礎(chǔ)。近年來(lái),數(shù)據(jù)中心的建設(shè)在中國(guó)大地上如火如荼地開(kāi)展著,既有新數(shù)據(jù)中心拔地而起,也有舊數(shù)據(jù)中心的升級(jí)改造。算力已成為衡量中國(guó)建設(shè)奇跡的又一指標(biāo)進(jìn)入大眾的視野。

　　論壇現(xiàn)場(chǎng)

　　近日,世界三大超算盛會(huì)之一,中國(guó)高性能計(jì)算領(lǐng)域具有高度影響力的中國(guó)計(jì)算機(jī)學(xué)會(huì)全國(guó)高性能計(jì)算學(xué)術(shù)年會(huì)(CCF HPC China 2023),在青島·紅島國(guó)際會(huì)議展覽中心閉幕。在25日大會(huì)主題分論壇-超算賦能大模型發(fā)展應(yīng)用論壇上,來(lái)自國(guó)家超級(jí)計(jì)算深圳中心、西安電子科技大學(xué)、中國(guó)海洋大學(xué)、北京超級(jí)云計(jì)算中心、北京智象未來(lái)、透徹未來(lái)等超級(jí)計(jì)算、智能計(jì)算企業(yè)及科研機(jī)構(gòu)的專家學(xué)者、行業(yè)精英齊聚一堂,分享交流中國(guó)超級(jí)計(jì)算及大模型的發(fā)展現(xiàn)狀與未來(lái)趨勢(shì)。

　　中國(guó)科學(xué)院計(jì)算機(jī)網(wǎng)絡(luò)信息中心總工程師遲學(xué)斌

　　在論壇致辭環(huán)節(jié)中,中國(guó)科學(xué)院計(jì)算機(jī)網(wǎng)絡(luò)信息中心總工程師遲學(xué)斌表示:“超算和智算融合發(fā)展是未來(lái)的必然趨勢(shì),超算的發(fā)展將為智算帶來(lái)更多可能。”

　　國(guó)家超級(jí)計(jì)算深圳中心主任馮圣中

　　國(guó)家超級(jí)計(jì)算深圳中心主任馮圣中引用偉人名篇《紅旗到底能打多久》作為報(bào)告的主題,但他指出,相比于井岡山當(dāng)年的星星之火孤星照耀中國(guó)革命的未來(lái),如今中國(guó)的超級(jí)計(jì)算事業(yè)發(fā)展已遠(yuǎn)遠(yuǎn)不是星星之火,而已成燎原之勢(shì)在大地上蔓延。對(duì)于決策者來(lái)說(shuō),他們最需要思考的問(wèn)題兩點(diǎn),一是在本地區(qū)需要建立多大規(guī)模的超算中心。二是應(yīng)該選擇發(fā)展智算還是超算。

　　隨著人工智能技術(shù)和應(yīng)用的成熟,社會(huì)各個(gè)行業(yè)對(duì)算力需求都呈現(xiàn)出爆炸式增長(zhǎng),未來(lái)多大的算力才能滿足地區(qū)發(fā)展的需要是很難估量的問(wèn)題,即使是置身業(yè)內(nèi)的專業(yè)人事,其估算也往往保守。應(yīng)該說(shuō)這個(gè)問(wèn)題沒(méi)有一個(gè)確切的答案,而需要決策者隨時(shí)關(guān)注行業(yè)整體,定相對(duì)彈性的建設(shè)方案,能夠根據(jù)不同時(shí)期的發(fā)展進(jìn)行調(diào)整。同時(shí),在人工智能應(yīng)用的推動(dòng)下,算力建設(shè)也有了智能的需求,從總的趨勢(shì)來(lái)看,未來(lái)的算力一定是越來(lái)越智能化。

　　西安電子科技大學(xué)朱虎明

　　西安電子科技大學(xué)朱虎明教授則分析了GPU的發(fā)展歷程,尤其是分析了為何英偉達(dá)能夠在當(dāng)前的人工智能大潮當(dāng)中脫穎而出。他總結(jié)數(shù)據(jù)、算法和大算力是AI時(shí)代的三大要素,而英偉達(dá)的成功得益于其很早開(kāi)始投入通用軟件的研發(fā),并建立起了一個(gè)龐大的生態(tài)。這是讓其從昔日與英特爾、AMD在GPU市場(chǎng)三分天下最終變成一家獨(dú)大的關(guān)鍵原因。同時(shí),他介紹了世界上一些著名超算中心其架構(gòu),如Aurora超級(jí)計(jì)算機(jī),這是英特爾和美國(guó)能源部阿拉貢國(guó)家實(shí)驗(yàn)室最近合作的一個(gè)超算中心,就是采用了英特爾的CPU和英特爾的Xe GPU架構(gòu)。而國(guó)內(nèi)的神威E系統(tǒng)、國(guó)防科大E系統(tǒng)等架構(gòu)各不相同,這些系統(tǒng)未來(lái)能否長(zhǎng)期堅(jiān)持,開(kāi)拓出自己的豐富生態(tài),是中國(guó)超算能否破局質(zhì)變的關(guān)鍵。

　　北京超級(jí)云計(jì)算中心CTO甄亞楠

　　北京超級(jí)云計(jì)算中心CTO甄亞楠表示,隨著去年年底ChatGPT的流行帶動(dòng),算力已成為大模型訓(xùn)練的重要基礎(chǔ)設(shè)施,國(guó)內(nèi)外紛紛建設(shè)由高端芯片組成的大規(guī)模算力集群。大模型訓(xùn)練與推理為超算帶來(lái)了巨大機(jī)遇,根據(jù)OpenAI的估算,目前大模型訓(xùn)練對(duì)算力的需求大約每3至4月翻一倍,遠(yuǎn)超摩爾定律18至24個(gè)月翻倍的速度。北京超級(jí)云計(jì)算中心自2014年投入運(yùn)營(yíng)以來(lái),以基于高性能RDMA網(wǎng)絡(luò),將多個(gè)服務(wù)器進(jìn)行全線速互聯(lián),提供高帶寬、低時(shí)延的通信能力,能充分滿足大模型訓(xùn)練對(duì)算力基礎(chǔ)設(shè)施日益增長(zhǎng)的需求,事實(shí)證明,基于超算架構(gòu)的算力更適用于大模型的訓(xùn)練與推理。

　　北京智象未來(lái)聯(lián)合創(chuàng)始人兼首席運(yùn)營(yíng)官王科

　　北京智象未來(lái)聯(lián)合創(chuàng)始人兼首席運(yùn)營(yíng)官王科系統(tǒng)梳理了深度學(xué)習(xí)發(fā)展歷程,特別介紹了多模態(tài)的基本理論和在中的應(yīng)用。他做出一個(gè)精辟的總結(jié),認(rèn)為人與人之間的各種交流形式,無(wú)論是通過(guò)聲音還是光影圖像,本質(zhì)上也是以一種多模態(tài)的形式進(jìn)行。因此,對(duì)多模態(tài)的研究和應(yīng)用將會(huì)創(chuàng)造出一個(gè)類似我們現(xiàn)實(shí)的新世界,觸發(fā)人類新的交流、創(chuàng)造形式,進(jìn)而改變世界未來(lái),解放創(chuàng)造了,提高生產(chǎn)力。

　　透徹未來(lái)聯(lián)合創(chuàng)始人兼首席技術(shù)官王書浩

　　中國(guó)海洋大學(xué)仲國(guó)強(qiáng)

　　另外,透徹未來(lái)聯(lián)合創(chuàng)始人兼首席技術(shù)官王書浩和中國(guó)海洋大學(xué)仲國(guó)強(qiáng)也分別結(jié)合企業(yè)業(yè)務(wù)和個(gè)人研究領(lǐng)域,介紹了超算、人工智能在海洋環(huán)境監(jiān)測(cè)與病理檢測(cè)方面的應(yīng)用技術(shù)、案例。

　　高峰對(duì)話:大模型算力,荒?

　　在圓桌討論會(huì)上,針對(duì)如何應(yīng)對(duì)大模型發(fā)展中的算力瓶頸,與會(huì)專家指出:可通過(guò)推進(jìn)供需對(duì)接,加速算力網(wǎng)絡(luò)變革,實(shí)現(xiàn)算力的集中管理和高效利用;優(yōu)化算法和架構(gòu),通過(guò)分布式計(jì)算充分利用計(jì)算資源,提高計(jì)算速度和效率;另外專家們呼吁各方力量一起推動(dòng)國(guó)產(chǎn)芯片技術(shù)的創(chuàng)新研發(fā)及應(yīng)用生態(tài)的建設(shè)。

　　CCF HPC China 2023作為我國(guó)高性能計(jì)算領(lǐng)域的盛會(huì),在行業(yè)中起到了“放大器”作用, 通過(guò)前沿學(xué)術(shù)成果交流,創(chuàng)新應(yīng)用技術(shù)展示,促進(jìn)超算技術(shù)應(yīng)用生態(tài)與科研、產(chǎn)業(yè)數(shù)字化升級(jí)轉(zhuǎn)型,彰顯了在國(guó)家政策大力推動(dòng)和行業(yè)應(yīng)用強(qiáng)力拉動(dòng)之下,我國(guó)在超算領(lǐng)域的全新魅力。北京超級(jí)云計(jì)算中心作為北京市人民政府主導(dǎo)、院市共建的“北京超級(jí)云計(jì)算和國(guó)家重要信息化基礎(chǔ)平臺(tái)”,成立十余載,致力于以超算中心的市場(chǎng)化運(yùn)營(yíng),助力國(guó)家科技創(chuàng)新與數(shù)字經(jīng)濟(jì)發(fā)展。透過(guò)這場(chǎng)論壇,我們可以清晰地看到我國(guó)各行各業(yè)在面對(duì)AI時(shí)代來(lái)臨所展現(xiàn)的勃勃生機(jī),我們正在為數(shù)字中國(guó)、科技強(qiáng)國(guó)的建設(shè)鋪路筑基。