“客服來(lái)電”有詐?抖音客服上線“驗(yàn)證助手”助用戶識(shí)別詐騙OpenAI新模型GPT-5研發(fā)未達(dá)預(yù)期:成本高昂 效果不佳曝天馬打入果鏈:為蘋果HomePod供應(yīng)LCD屏 每塊屏僅10美元曝OPPO或首發(fā)新款天璣次旗艦芯片 兩大子品牌Q2發(fā)力諾基亞攜手阿聯(lián)酋運(yùn)營(yíng)商e&,展示全球首個(gè)固網(wǎng)游戲端到端網(wǎng)絡(luò)切片方案零下25℃制熱26℃!海爾水暖通黑科技亮相冰雪大世界三星沒(méi)放棄曲面屏開(kāi)發(fā)!最新專利曝光暗示有望回歸三大運(yùn)營(yíng)商11月成績(jī)單:用戶數(shù)據(jù)增幅放緩打造下一個(gè)英偉達(dá),孫正義的2026芯片計(jì)劃曝光瞭望2025全球6G技術(shù)發(fā)展趨勢(shì)AI時(shí)代云安全新范式,暢捷通智能守護(hù)小微企業(yè)安全上云百川智能發(fā)布全鏈路領(lǐng)域增強(qiáng)金融大模型 Baichuan4-Finance年末家電消費(fèi)觀察:品質(zhì)生活類產(chǎn)品熱賣,將持續(xù)迎來(lái)剛需式普及?GPT-5研發(fā)受阻:OpenAI 新一代模型難見(jiàn)突破性進(jìn)展新一代語(yǔ)言模型ModernBERT發(fā)布,RAG等任務(wù)處理速度快四倍、成本低新研究顯示:Anthropic 的 Claude AI 在合作能力上領(lǐng)先于 OpenAI 和谷歌模型谷歌向投資者保證人工智能本月將迎來(lái)“驚人”表現(xiàn)多模態(tài)大模型引爆應(yīng)用場(chǎng)景 階躍星辰完成數(shù)億美元融資星動(dòng)紀(jì)元發(fā)布端到端原生機(jī)器人大模型ERA-42 實(shí)現(xiàn)機(jī)器人復(fù)雜場(chǎng)景操作免費(fèi)模式強(qiáng)攻下,快手、抖音用“短劇VIP”反擊?
  • 首頁(yè) > 云計(jì)算頻道 > 云計(jì)算

    超算架構(gòu)算力成為大模型兵家必爭(zhēng)之“力”

    2023年08月31日 11:00:34   來(lái)源:未來(lái)科技范

      今年以來(lái),大模型成為當(dāng)之無(wú)愧的風(fēng)口,據(jù)不完全統(tǒng)計(jì),國(guó)內(nèi)已發(fā)布的各類大模型數(shù)量超過(guò)100個(gè),呈現(xiàn)出“百模大戰(zhàn)”的態(tài)勢(shì)。資本也聞風(fēng)趕來(lái),天眼查APP顯示,今年上半年與大模型直接相關(guān)的融資事件超20起。

      大模型愈演愈烈,隨之催生了海量的AI算力需求。截至2022年底,我國(guó)算力總規(guī)模達(dá)180EFLOPS,目前居全球第二位,并保持30%的年增長(zhǎng)率。據(jù)測(cè)算,2023年我國(guó)算力核心產(chǎn)業(yè)規(guī)模有望突破2萬(wàn)億元。

      雖然算力行業(yè)總體蓬勃發(fā)展,但面對(duì)大模型浪潮之下激增的算力需求,目前英偉達(dá)的產(chǎn)能有限,加之受限于臺(tái)積電的產(chǎn)能以及內(nèi)存供應(yīng)商等限制,GPU的產(chǎn)能不會(huì)暴漲,旺盛的需求和

      GPU的短缺,造成了行業(yè)存在巨大AI算力缺口,“搶卡”現(xiàn)象仍在持續(xù)。

      如何破解大模型“算力荒”成為擺在算力服務(wù)商面前的共同命題。

      “看不見(jiàn)”的超算,“看得見(jiàn)”的好用

      眾所周知,大模型是“燒錢”的業(yè)務(wù),而“燒錢”的原因最主要是當(dāng)前每次大模型訓(xùn)練所需要的算力非常之高。

      以ChatGPT為例,根據(jù)OpenAI公開(kāi)數(shù)據(jù)推測(cè),如果每秒1000萬(wàn)億次的計(jì)算,每次模型訓(xùn)練也需要3640天的計(jì)算能力。

      僅單次訓(xùn)練任務(wù)都需要數(shù)百?gòu)埳踔翑?shù)千張GPU卡做計(jì)算加速,例如A100、A800、H800等,同時(shí)還需要長(zhǎng)周期、穩(wěn)定可靠的計(jì)算環(huán)境來(lái)保障計(jì)算任務(wù)不中斷,盡管開(kāi)發(fā)者會(huì)加入很多的checkpoint,但發(fā)生故障后在時(shí)間、精力和成本方面的代價(jià)都不小。

      而過(guò)去的云計(jì)算架構(gòu)主要是分布式架構(gòu),主流的云計(jì)算服務(wù)器之間的網(wǎng)絡(luò)帶寬在200Gbps,但大模型的一些訓(xùn)練需求服務(wù)器之間的互聯(lián)網(wǎng)帶寬一般要求達(dá)到3200Gbps,兩者相差十幾倍。

      過(guò)去的超算架構(gòu)又主要以CPU為主,傳統(tǒng)基礎(chǔ)設(shè)施架構(gòu)下的算力已經(jīng)無(wú)法滿足大模型時(shí)代的需求,只有建設(shè)大規(guī)模GPU超算集群才可以滿足大模型的算力需求。

      大規(guī)模GPU超算集群,顧名思義,將大量GPU資源組成算力集群來(lái)應(yīng)對(duì)極高的密集性計(jì)算,其浮點(diǎn)運(yùn)算速度能夠達(dá)到千萬(wàn)億次每秒,同時(shí)具備高速互聯(lián)計(jì)算網(wǎng)絡(luò)、高性能文件存儲(chǔ)和強(qiáng)勁的GPU算力。

      可以說(shuō),大規(guī)模GPU超算集群更加貼合大模型訓(xùn)練場(chǎng)景,并行科技董事長(zhǎng)陳健也曾公開(kāi)表示:“大模型的訓(xùn)練本質(zhì)上就是一個(gè)超大的訓(xùn)練任務(wù),比如在1000張GPU卡上跑兩三個(gè)月,就是一個(gè)典型的超算應(yīng)用場(chǎng)景。”

      超萬(wàn) P 超算架構(gòu)大模型算力“及時(shí)雨”解決“算力荒”

      據(jù)OpenAI測(cè)算,全球AI訓(xùn)練所用的計(jì)算量呈現(xiàn)指數(shù)級(jí)增長(zhǎng),平均每3.43個(gè)月便會(huì)增長(zhǎng)一倍,過(guò)去幾年計(jì)算需求量已擴(kuò)大30萬(wàn)倍,遠(yuǎn)超算力增長(zhǎng)速度。

      GPU卡資源也始終緊張,大模型競(jìng)賽已經(jīng)推高了市場(chǎng)對(duì)GPU的需求。盡管有一些公司即使暫時(shí)還不需要GPU,但由于擔(dān)心未來(lái),也會(huì)開(kāi)始提前儲(chǔ)備。相當(dāng)于“對(duì)供應(yīng)短缺的預(yù)期加重了供應(yīng)短缺”。

      有相關(guān)人士預(yù)測(cè)至少到2023年底,對(duì)于要部署數(shù)百或數(shù)千的H100/H800的企業(yè)都會(huì)面臨短缺問(wèn)題,目前看來(lái),GPU的短缺可能會(huì)持續(xù)到2024年。

      為緩解GPU卡資源緊張問(wèn)題,作為超算架構(gòu)大模型算力網(wǎng)絡(luò)先行者的并行科技計(jì)劃將在2023年底前,以“算力網(wǎng)絡(luò)”為依托,上線超萬(wàn)P超算架構(gòu)大模型算力,為大模型行業(yè)帶來(lái)GPU資源“及時(shí)雨”。

      具體來(lái)說(shuō),并行科技通過(guò)云主機(jī)、高性能集群和裸金屬三大產(chǎn)品體系支撐,基于高性能計(jì)算環(huán)境構(gòu)建GPU算力服務(wù)平臺(tái),以滿足大規(guī)模預(yù)訓(xùn)練、微調(diào)、高并發(fā)推理和高精度科學(xué)計(jì)算中對(duì)計(jì)算、存儲(chǔ)、網(wǎng)絡(luò)等環(huán)節(jié)的多樣性需求。

      不過(guò),對(duì)大模型訓(xùn)練來(lái)說(shuō),解決GPU卡的資源問(wèn)題只是第一步。面對(duì)訓(xùn)練時(shí)的大規(guī)模計(jì)算需求,在近日舉辦的CCFHPCChina2023大會(huì)上,并行科技介紹了一套集資源、技術(shù)、服務(wù)、運(yùn)維于一體的綜合行業(yè)解決方案。專家團(tuán)隊(duì)7×24小時(shí)在線服務(wù),針對(duì)模型框架的安裝、部署、優(yōu)化以及長(zhǎng)時(shí)間運(yùn)行的保障訴求等提供在線技術(shù)支持,讓終端用戶輕松調(diào)度算力資源。

      陳健表示:“我們主要通過(guò)技術(shù)服務(wù)、應(yīng)用服務(wù)以及性能優(yōu)化,幫助客戶提升訓(xùn)練效率。

      我們最主要的優(yōu)勢(shì)體現(xiàn)在:一、確保用戶有GPU卡可以用;二、通過(guò)技術(shù)服務(wù)讓客戶感到高性能、好用;

      三、通過(guò)算力優(yōu)化降低用戶用GPU卡的成本并提升效率。”

      此前,AI領(lǐng)域知名企業(yè)重點(diǎn)項(xiàng)目便是經(jīng)過(guò)并行科技應(yīng)用服務(wù)團(tuán)隊(duì)的調(diào)優(yōu),使單個(gè)512卡大模型訓(xùn)練任務(wù)性能提升了約40%,實(shí)現(xiàn)算力從“可用”向“好用”轉(zhuǎn)化的同時(shí),成本投入大幅降低。

      根據(jù)沙利文的研究報(bào)告顯示,2021年通用超算云業(yè)務(wù)營(yíng)收排行榜,并行科技排名第一,市場(chǎng)占有率超過(guò)20%。

      目前,大模型行業(yè)正處在發(fā)展的關(guān)鍵階段,而算力作為剛需生產(chǎn)力之一,重要性不言而喻,一家合適、優(yōu)質(zhì)的算力服務(wù)商甚至成為其成長(zhǎng)的關(guān)鍵助推器。

      文章內(nèi)容僅供閱讀,不構(gòu)成投資建議,請(qǐng)謹(jǐn)慎對(duì)待。投資者據(jù)此操作,風(fēng)險(xiǎn)自擔(dān)。

    即時(shí)

    新聞

    明火炊具市場(chǎng):三季度健康屬性貫穿全類目

    奧維云網(wǎng)(AVC)推總數(shù)據(jù)顯示,2024年1-9月明火炊具線上零售額94.2億元,同比增加3.1%,其中抖音渠道表現(xiàn)優(yōu)異,同比有14%的漲幅,傳統(tǒng)電商略有下滑,同比降低2.3%。

    企業(yè)IT

    重慶創(chuàng)新公積金應(yīng)用,“區(qū)塊鏈+政務(wù)服務(wù)”顯成效

    “以前都要去窗口辦,一套流程下來(lái)都要半個(gè)月了,現(xiàn)在方便多了!”打開(kāi)“重慶公積金”微信小程序,按照提示流程提交相關(guān)材料,僅幾秒鐘,重慶市民曾某的賬戶就打進(jìn)了21600元。

    3C消費(fèi)

    華碩ProArt創(chuàng)藝27 Pro PA279CRV顯示器,高能實(shí)力,創(chuàng)

    華碩ProArt創(chuàng)藝27 Pro PA279CRV顯示器,憑借其優(yōu)秀的性能配置和精準(zhǔn)的色彩呈現(xiàn)能力,為您的創(chuàng)作工作帶來(lái)實(shí)質(zhì)性的幫助,雙十一期間低至2799元,性價(jià)比很高,簡(jiǎn)直是創(chuàng)作者們的首選。

    研究

    中國(guó)信通院羅松:深度解讀《工業(yè)互聯(lián)網(wǎng)標(biāo)識(shí)解析體系

    9月14日,2024全球工業(yè)互聯(lián)網(wǎng)大會(huì)——工業(yè)互聯(lián)網(wǎng)標(biāo)識(shí)解析專題論壇在沈陽(yáng)成功舉辦。