超算與智算融合是未來必然趨勢！超算賦能大模型發(fā)展應(yīng)用論壇成功舉辦

　　在信息技術(shù)突飛猛進的大背景下,數(shù)據(jù)已經(jīng)成為繼土地、資本、技術(shù)和勞動力之外的又一新生產(chǎn)要素,推動社會生產(chǎn)力進入更高的層面。而要讓數(shù)據(jù)真正發(fā)揮出經(jīng)濟要素的價值,算力是必不可少的基礎(chǔ)。近年來,數(shù)據(jù)中心的建設(shè)在中國大地上如火如荼地開展著,既有新數(shù)據(jù)中心拔地而起,也有舊數(shù)據(jù)中心的升級改造。算力已成為衡量中國建設(shè)奇跡的又一指標(biāo)進入大眾的視野。

　　論壇現(xiàn)場

　　近日,世界三大超算盛會之一,中國高性能計算領(lǐng)域具有高度影響力的中國計算機學(xué)會全國高性能計算學(xué)術(shù)年會(CCF HPC China 2023),在青島·紅島國際會議展覽中心閉幕。在25日大會主題分論壇-超算賦能大模型發(fā)展應(yīng)用論壇上,來自國家超級計算深圳中心、西安電子科技大學(xué)、中國海洋大學(xué)、北京超級云計算中心、北京智象未來、透徹未來等超級計算、智能計算企業(yè)及科研機構(gòu)的專家學(xué)者、行業(yè)精英齊聚一堂,分享交流中國超級計算及大模型的發(fā)展現(xiàn)狀與未來趨勢。

　　中國科學(xué)院計算機網(wǎng)絡(luò)信息中心總工程師遲學(xué)斌

　　在論壇致辭環(huán)節(jié)中,中國科學(xué)院計算機網(wǎng)絡(luò)信息中心總工程師遲學(xué)斌表示:“超算和智算融合發(fā)展是未來的必然趨勢,超算的發(fā)展將為智算帶來更多可能。”

　　國家超級計算深圳中心主任馮圣中

　　國家超級計算深圳中心主任馮圣中引用偉人名篇《紅旗到底能打多久》作為報告的主題,但他指出,相比于井岡山當(dāng)年的星星之火孤星照耀中國革命的未來,如今中國的超級計算事業(yè)發(fā)展已遠遠不是星星之火,而已成燎原之勢在大地上蔓延。對于決策者來說,他們最需要思考的問題兩點,一是在本地區(qū)需要建立多大規(guī)模的超算中心。二是應(yīng)該選擇發(fā)展智算還是超算。

　　隨著人工智能技術(shù)和應(yīng)用的成熟,社會各個行業(yè)對算力需求都呈現(xiàn)出爆炸式增長,未來多大的算力才能滿足地區(qū)發(fā)展的需要是很難估量的問題,即使是置身業(yè)內(nèi)的專業(yè)人事,其估算也往往保守。應(yīng)該說這個問題沒有一個確切的答案,而需要決策者隨時關(guān)注行業(yè)整體,定相對彈性的建設(shè)方案,能夠根據(jù)不同時期的發(fā)展進行調(diào)整。同時,在人工智能應(yīng)用的推動下,算力建設(shè)也有了智能的需求,從總的趨勢來看,未來的算力一定是越來越智能化。

　　西安電子科技大學(xué)朱虎明

　　西安電子科技大學(xué)朱虎明教授則分析了GPU的發(fā)展歷程,尤其是分析了為何英偉達能夠在當(dāng)前的人工智能大潮當(dāng)中脫穎而出。他總結(jié)數(shù)據(jù)、算法和大算力是AI時代的三大要素,而英偉達的成功得益于其很早開始投入通用軟件的研發(fā),并建立起了一個龐大的生態(tài)。這是讓其從昔日與英特爾、AMD在GPU市場三分天下最終變成一家獨大的關(guān)鍵原因。同時,他介紹了世界上一些著名超算中心其架構(gòu),如Aurora超級計算機,這是英特爾和美國能源部阿拉貢國家實驗室最近合作的一個超算中心,就是采用了英特爾的CPU和英特爾的Xe GPU架構(gòu)。而國內(nèi)的神威E系統(tǒng)、國防科大E系統(tǒng)等架構(gòu)各不相同,這些系統(tǒng)未來能否長期堅持,開拓出自己的豐富生態(tài),是中國超算能否破局質(zhì)變的關(guān)鍵。

　　北京超級云計算中心CTO甄亞楠

　　北京超級云計算中心CTO甄亞楠表示,隨著去年年底ChatGPT的流行帶動,算力已成為大模型訓(xùn)練的重要基礎(chǔ)設(shè)施,國內(nèi)外紛紛建設(shè)由高端芯片組成的大規(guī)模算力集群。大模型訓(xùn)練與推理為超算帶來了巨大機遇,根據(jù)OpenAI的估算,目前大模型訓(xùn)練對算力的需求大約每3至4月翻一倍,遠超摩爾定律18至24個月翻倍的速度。北京超級云計算中心自2014年投入運營以來,以基于高性能RDMA網(wǎng)絡(luò),將多個服務(wù)器進行全線速互聯(lián),提供高帶寬、低時延的通信能力,能充分滿足大模型訓(xùn)練對算力基礎(chǔ)設(shè)施日益增長的需求,事實證明,基于超算架構(gòu)的算力更適用于大模型的訓(xùn)練與推理。

　　北京智象未來聯(lián)合創(chuàng)始人兼首席運營官王科

　　北京智象未來聯(lián)合創(chuàng)始人兼首席運營官王科系統(tǒng)梳理了深度學(xué)習(xí)發(fā)展歷程,特別介紹了多模態(tài)的基本理論和在中的應(yīng)用。他做出一個精辟的總結(jié),認(rèn)為人與人之間的各種交流形式,無論是通過聲音還是光影圖像,本質(zhì)上也是以一種多模態(tài)的形式進行。因此,對多模態(tài)的研究和應(yīng)用將會創(chuàng)造出一個類似我們現(xiàn)實的新世界,觸發(fā)人類新的交流、創(chuàng)造形式,進而改變世界未來,解放創(chuàng)造了,提高生產(chǎn)力。

　　透徹未來聯(lián)合創(chuàng)始人兼首席技術(shù)官王書浩

　　中國海洋大學(xué)仲國強

　　另外,透徹未來聯(lián)合創(chuàng)始人兼首席技術(shù)官王書浩和中國海洋大學(xué)仲國強也分別結(jié)合企業(yè)業(yè)務(wù)和個人研究領(lǐng)域,介紹了超算、人工智能在海洋環(huán)境監(jiān)測與病理檢測方面的應(yīng)用技術(shù)、案例。

　　高峰對話:大模型算力,荒?

　　在圓桌討論會上,針對如何應(yīng)對大模型發(fā)展中的算力瓶頸,與會專家指出:可通過推進供需對接,加速算力網(wǎng)絡(luò)變革,實現(xiàn)算力的集中管理和高效利用;優(yōu)化算法和架構(gòu),通過分布式計算充分利用計算資源,提高計算速度和效率;另外專家們呼吁各方力量一起推動國產(chǎn)芯片技術(shù)的創(chuàng)新研發(fā)及應(yīng)用生態(tài)的建設(shè)。

　　CCF HPC China 2023作為我國高性能計算領(lǐng)域的盛會,在行業(yè)中起到了“放大器”作用, 通過前沿學(xué)術(shù)成果交流,創(chuàng)新應(yīng)用技術(shù)展示,促進超算技術(shù)應(yīng)用生態(tài)與科研、產(chǎn)業(yè)數(shù)字化升級轉(zhuǎn)型,彰顯了在國家政策大力推動和行業(yè)應(yīng)用強力拉動之下,我國在超算領(lǐng)域的全新魅力。北京超級云計算中心作為北京市人民政府主導(dǎo)、院市共建的“北京超級云計算和國家重要信息化基礎(chǔ)平臺”,成立十余載,致力于以超算中心的市場化運營,助力國家科技創(chuàng)新與數(shù)字經(jīng)濟發(fā)展。透過這場論壇,我們可以清晰地看到我國各行各業(yè)在面對AI時代來臨所展現(xiàn)的勃勃生機,我們正在為數(shù)字中國、科技強國的建設(shè)鋪路筑基。