還能再漲23%!AI寵兒NVIDIA成大摩明年首選AMD FSR 4.0將與RX 9070 XT顯卡同步登場羅永浩細(xì)紅線最新進(jìn)展,暫別AR,迎來AI Jarvis構(gòu)建堅(jiān)實(shí)數(shù)據(jù)地基,南京打造可信數(shù)據(jù)空間引領(lǐng)數(shù)字城市建設(shè)下單前先比價(jià)不花冤枉錢 同款圖書京東價(jià)低于抖音6折日媒感慨中國電動(dòng)汽車/智駕遙遙領(lǐng)先:本田、日產(chǎn)、三菱合并也沒戲消委會吹風(fēng)機(jī)品質(zhì)檢測結(jié)果揭曉 徠芬獨(dú)占鰲頭 共話新質(zhì)營銷力,2024梅花數(shù)據(jù)峰會圓滿落幕索尼影像專業(yè)服務(wù) PRO Support 升級,成為會員至少需注冊 2 臺 α 全畫幅相機(jī)、3 支 G 大師鏡頭消息稱vivo加碼電池軍備競賽:6500mAh 旗艦機(jī)+7500mAh中端機(jī)寶馬M8雙門轎跑車明年年初將停產(chǎn),后續(xù)無2026款車型比亞迪:2025 款漢家族車型城市領(lǐng)航智駕功能開啟內(nèi)測雷神預(yù)告2025年首次出席CES 將發(fā)布三款不同技術(shù)原理智能眼鏡realme真我全球首發(fā)聯(lián)發(fā)科天璣 8400 耐玩戰(zhàn)神共創(chuàng)計(jì)劃iQOO Z9 Turbo長續(xù)航版手機(jī)被曝電池加大到6400mAh,搭驍龍 8s Gen 3處理器普及放緩 銷量大跌:曝保時(shí)捷將重新評估電動(dòng)汽車計(jì)劃來京東參與榮耀Magic7 RSR 保時(shí)捷設(shè)計(jì)預(yù)售 享365天只換不修國補(bǔ)期間電視迎來換機(jī)潮,最暢銷MiniLED品牌花落誰家?美團(tuán)旗下微信社群團(tuán)購業(yè)務(wù)“團(tuán)買買”宣布年底停運(yùn)消息稱微軟正與第三方廠商洽談,試圖合作推出Xbox游戲掌機(jī)設(shè)備
  • 首頁 > 產(chǎn)經(jīng)新聞?lì)l道 > 業(yè)界新聞

    國產(chǎn)替代狂奔,中國版英偉達(dá)何時(shí)現(xiàn)身?

    2023年07月11日 14:51:30   來源:阿爾法工場

      在國產(chǎn)GPU突圍的道路上,部分廠商已經(jīng)走出了自己的路。但鑒于硬件、生態(tài)等各方面的差距,這樣必定是一條充滿荊棘的長路。

      最近,風(fēng)頭正盛的英偉達(dá)在算力領(lǐng)域又下一城。

      在最新的最新MLPerf訓(xùn)練基準(zhǔn)測試中,英偉達(dá)的H100僅用11分鐘就訓(xùn)練完了GPT-3。

      并且還在所有的八項(xiàng)測試中都創(chuàng)下了新紀(jì)錄。

      可以說,這是一款專為AI、HPC和數(shù)據(jù)分析而設(shè)計(jì)的“性能怪獸”。

      憑借著4nm制程、800億個(gè)晶體管、18432個(gè)CUDA核心,以及專用的Transformer引擎,H100將大模型訓(xùn)練速度提高了6倍。

      同時(shí),H100還支持NVLink Switch系統(tǒng),可以實(shí)現(xiàn)單節(jié)點(diǎn)內(nèi)和節(jié)點(diǎn)間的全方位GPU通信,從而支持百億億級(Exascale)的工作負(fù)載。

      這也是其能在MLPerf 8項(xiàng)基準(zhǔn)測試中橫掃其他競爭者的重要原因。

      在算力愈發(fā)重要的AIGC時(shí)代,任何能提高模型訓(xùn)練、機(jī)器學(xué)習(xí)的硬件技術(shù),都成了各大AI企業(yè)垂涎欲滴的產(chǎn)物。

      然而,目前在GPU領(lǐng)域,大部分國內(nèi)企業(yè),仍然只能仰賴英偉達(dá)一家的技術(shù)。

      在國內(nèi)算力愈發(fā)捉襟見肘,以及國際風(fēng)云變幻的敏感時(shí)刻,國內(nèi)的GPU廠商,能否奮力追趕,解決這一“卡脖子”難題,以至于成為下一個(gè)“英偉達(dá)”呢?

      01 種子選手的秘密

      在目前國內(nèi)一票GPU的“種子選手”中,一家名叫壁仞科技的企業(yè)引起了人們的注意。

      原因很簡單,那就是其產(chǎn)品BR100不僅創(chuàng)下了全球算力紀(jì)錄,并且宣稱其峰值算力達(dá)到了英偉達(dá)A100的3倍,甚至還能對標(biāo)沒發(fā)售的H100。

      然而,稍微了解過國內(nèi)芯片行業(yè)的人都知道,在芯片領(lǐng)域,國內(nèi)的炒作太多了,徒有其表的例子也太多了。

      那么,做出這個(gè)“媲美英偉達(dá)”GPU的企業(yè),究竟是什么來頭?其自主研發(fā)的BR100,是否真的像其宣傳的那樣出色?

      要回答這個(gè)問題,我們不妨先看看壁仞科技的創(chuàng)始班底,技術(shù)背景究竟如何。

      作為一家通用智能芯片設(shè)計(jì)研發(fā)商的壁仞科技,成立于2019年,團(tuán)隊(duì)由國內(nèi)外芯片和云計(jì)算領(lǐng)域的專家和研發(fā)人員組成。

      其創(chuàng)始人張旭博士,不僅擁有清華大學(xué)和斯坦福大學(xué)的博士學(xué)位,還曾是英偉達(dá)的高級架構(gòu)師,負(fù)責(zé)Volta架構(gòu)的設(shè)計(jì)和開發(fā)。

      除此之外, 團(tuán)隊(duì)其他成員的技術(shù)身份,也頗為亮眼。

      李新榮,聯(lián)席CEO,曾任AMD全球副總裁、中國研發(fā)中心總經(jīng)理,負(fù)責(zé)AMD大中華區(qū)的研發(fā)建設(shè)和管理工作。

      洪洲,CTO,曾在NVIDIA、S3、華為等工作操刀GPU工程項(xiàng)目,擁有超過30年的GPU領(lǐng)域經(jīng)驗(yàn)。

      焦國方,軟件生態(tài)環(huán)境主要負(fù)責(zé)人,曾在高通領(lǐng)導(dǎo)和產(chǎn)品研發(fā)了5代Adreno移動(dòng)GPU系統(tǒng)架構(gòu)。

      這樣的團(tuán)隊(duì)背景,決定了壁仞科技的技術(shù)底色。

      依據(jù)之前在英偉達(dá)、AMD、高通、商湯科技等知名企業(yè)的研發(fā)經(jīng)驗(yàn)和技術(shù)積累,壁仞科技研發(fā)了自主原創(chuàng)的芯片架構(gòu)——壁立仞。

      壁立仞架構(gòu)基于SIMT(單指令多線程)模型,針對AI場景進(jìn)行了專用的優(yōu)化和定制。

      其最大的特點(diǎn),就是可以將多個(gè)小芯片拼成一個(gè)大芯片,每個(gè)小芯片只做一部分功能,然后通過高速互連組合成一個(gè)大芯片。

      這樣可以提高芯片的良率和可靠性,同時(shí)降低成本和功耗,實(shí)現(xiàn)更強(qiáng)大的算力和擴(kuò)展性。

      這就是壁仞科技所謂的Chiplet的設(shè)計(jì)理念。

      這種技術(shù)的難點(diǎn)在于如何保證芯片之間的高速通信和協(xié)作,同時(shí)避免信號干擾和功耗過高。

      因此,如何設(shè)計(jì)合適的芯片分割和組合方案,使得每個(gè)芯片都能發(fā)揮最大的效能,同時(shí)減少電磁干擾和熱耗散,就成了Chiplet能否成功的關(guān)鍵。

      對此,壁仞科技使用了兩種關(guān)鍵的技術(shù)2.5D CoWoS和BLink,來攻克這一難關(guān)。

      簡單地說,2.5D CoWoS技術(shù)是一種把多個(gè)芯片堆疊在一起的技術(shù),它利用了一個(gè)硅基板作為中介層,縮短了芯片之間的距離,從而提高了信號的傳輸速度和質(zhì)量。

      而BLink則在中介層上,建立了一個(gè)專用的接口,它可以讓多個(gè)芯片之間直接傳輸數(shù)據(jù),而不需要經(jīng)過其他的電路或芯片,從而減少了延遲和功耗。

      然而,盡管2.5D CoWoS、BLink這些技術(shù),讓壁仞科技打造出了算力更強(qiáng)的BR100,但這些技術(shù),目前在國際上并不罕見,其他GPU廠商也有過類似的設(shè)計(jì)。

      例如,Nvidia的A100和H100 GPU都采用了CoWoS技術(shù),把GPU芯片和HBM內(nèi)存堆疊在一起,提高了內(nèi)存帶寬和計(jì)算性能。而Nvidia還開發(fā)了自己的NVLink接口,類似于BLink接口,可以讓多個(gè)GPU之間高速互聯(lián)。

      此外,AMD也有自己的Infinity Fabric接口,可以實(shí)現(xiàn)類似的功能。

      那既然這是一種“大家都能用”的技術(shù),那壁仞科技怎么就做到讓BR100算力達(dá)到A100三倍的呢?而英偉達(dá)真就會坐視著自己被超越了?

      其實(shí),這樣的結(jié)果,是二者在不同數(shù)據(jù)格式下的表現(xiàn)所致。

      具體來說,BR100的巨大算力,更多是在矩陣FP32數(shù)據(jù)格式下的表現(xiàn)。

      一般來說,數(shù)據(jù)格式占用的位數(shù)越多,它的范圍和精度就越高,但是也會消耗更多的空間和電力。

      而矩陣FP32其實(shí)就是一種特殊的FP32數(shù)據(jù)格式,它只用了19位來存儲一個(gè)浮點(diǎn)數(shù),這樣做的目的是為了讓矩陣FP32能夠兼容Tensor Core這種專門用于加速矩陣乘法的硬件單元。

      矩陣乘法是深度學(xué)習(xí)中最常見和最重要的計(jì)算操作之一,所以使用矩陣FP32可以大幅提升深度學(xué)習(xí)的性能。

      但是,矩陣FP32也有一個(gè)缺點(diǎn),就是它的精度比向量FP32低,也就是說它能表示的浮點(diǎn)數(shù)的范圍和細(xì)節(jié)程度比向量FP32小。

      這樣就會導(dǎo)致一些誤差和損失,在某些情況下可能會影響模型的質(zhì)量和效果。

      因此,矩陣FP32和英偉達(dá)A100的向量FP32并不等價(jià),因?yàn)榫仃嘑P32只適用于矩陣乘法這種特定的計(jì)算操作,并不能代表GPU的整體性能。

      02 生態(tài)之痛

      除了技術(shù)方面的較量外,軟件生態(tài)上的壁壘,也是國產(chǎn)GPU無法忽視的一道屏障。

      從某種程度上說,這樣的壁壘比某些具體技術(shù)的難點(diǎn),更難以攻克。

      在GPU領(lǐng)域,業(yè)界流傳著一種說法:“CUDA是Nvidia最深的護(hù)城河”。

      這是因?yàn)椋缭谑畮啄昵,在業(yè)內(nèi)大部分人都認(rèn)為GPU只能處理圖形相關(guān)的計(jì)算時(shí),英偉達(dá)就已經(jīng)意識到了GPU在AI領(lǐng)域的潛力和價(jià)值,并開始了相應(yīng)的布局,在2006年推出了通用并行計(jì)算架構(gòu)CUDA。

      在CUDA問世前,人們在進(jìn)行各種計(jì)算任務(wù)時(shí),用的都是CPU,而非GPU。

      然而,CPU雖然具有很強(qiáng)的“通用性”,可以處理各種計(jì)算,但是它的速度不夠快,而且核心數(shù)量有限。

      而相較之下,只能處理圖形計(jì)算的GPU,不僅速度很快快,而且有很多很多的核心。

      通過CUDA,在進(jìn)行AI計(jì)算時(shí),人們可以將神經(jīng)元之間的計(jì)算分配到GPU的不同核心上,并行地進(jìn)行運(yùn)算。這樣就大大提高了神經(jīng)網(wǎng)絡(luò)的訓(xùn)練和推理的速度、效果。

      英偉達(dá)看到了CUDA的巨大潛力,于是不斷地完善和優(yōu)化CUDA的技術(shù)和生態(tài)。

      例如讓CUDA支持C、C++、Fortran、Python等多種編程語言,或是提供了針對不同領(lǐng)域和應(yīng)用優(yōu)化的庫和工具,比如圖像處理庫、深度學(xué)習(xí)庫、自動(dòng)駕駛庫等等。

      這樣的優(yōu)化,為開發(fā)者提供了極大的便利,使其不用再學(xué)習(xí)新的編程語言,或是從頭開始編寫代碼。

      于是,越來越多的人用慣了,用舒服了,CUDA的生態(tài)就這么被搭建起來了。

      誠然,在CUDA構(gòu)建自身生態(tài)壁壘的過程中,也不是沒有遇到過競爭者,但最后這些對手都一一成為了“陪跑者”。

      例如,蘋果公司和Khronos Group在2009年推出的OpenCL,也有過想成為行業(yè)標(biāo)準(zhǔn)的想法,讓人們可以用不同廠商的CPU、GPU、來做異構(gòu)計(jì)算。

      然而,OpenCL沒有CUDA那么高效和靈活,需要更多的編程技巧和優(yōu)化工作,這就加大了開發(fā)者的負(fù)擔(dān)。

      而英偉達(dá)的老對手AMD,也想要提供一個(gè)通用并行計(jì)算平臺,并推出了相應(yīng)的產(chǎn)品ROCm,它跟CUDA的架構(gòu)非常類似,甚至有一個(gè)工具叫hipify,可以把CUDA代碼轉(zhuǎn)換成ROCm代碼。

      但是ROCm只能用在AMD的GPU上,而且只支持幾款顯卡。

      于是,綜合對比下來,更多的開發(fā)者還是選擇了“通用性”、“易用性”都更勝一籌的CUDA。

      如今,在軟件生態(tài)方面,壁仞科技也推出了自主研發(fā)的BIRENSUPA軟件平臺,試圖通過“無縫運(yùn)行”的方式,讓開發(fā)者無需修改代碼,就可以在BR100系列產(chǎn)品上運(yùn)行原本基于CUDA的應(yīng)用。

      這樣,習(xí)慣了使用CUDA的用戶,如果轉(zhuǎn)而使用BR100系列產(chǎn)品,可以獲得更高的計(jì)算性能和更低的功耗成本。

      然而,這樣的思路,卻面臨著幾大挑戰(zhàn),而其中之一,就是BR100系列產(chǎn)品在通用計(jì)算生態(tài)上的支持。

      因?yàn),壁仞科技為了提高BR100系列產(chǎn)品在AI計(jì)算方面的性能和能效,也對流處理器進(jìn)行了一些優(yōu)化和定制,比如說使用BF16替代FP16作為主要的數(shù)據(jù)格式,以及增加了一些針對AI的硬件指令和功能。

      這樣,BR100就可能犧牲了部分通用計(jì)算能力,導(dǎo)致其在一些非AI的應(yīng)用場景和領(lǐng)域上表現(xiàn)不佳或者不兼容。

      而這也是為什么,BR100的主要應(yīng)用場景,大多是復(fù)旦大學(xué)、清華大學(xué)這類高校的人工智能計(jì)算和高性能計(jì)算項(xiàng)目。

      除此之外,BR100系列產(chǎn)品,在算力利用率上也存在著風(fēng)險(xiǎn)。

      雖然,BR100的架構(gòu)是通用的,如果如果壁仞科技愿意,也同樣可以將其用于通用類的計(jì)算。

      但因?yàn)锽R100的內(nèi)部算力帶寬已經(jīng)明顯超過PCIe和HBM2e的帶寬,所以絕大部分?jǐn)?shù)據(jù)可能都要在GPU內(nèi)流轉(zhuǎn)。

      這就意味著,雖然BR100的算力很強(qiáng)大,它的數(shù)據(jù)來源和輸出通道,都不夠快,不能及時(shí)地給它送來或者拿走數(shù)據(jù)。

      而如果一個(gè)軟件生態(tài)主要支持通用處理, 它的GPU芯片往往就需要有足夠高的外部帶寬,來獲取各種類型的數(shù)據(jù)。

      這是因?yàn),不同類型的?yīng)用,往往對帶寬的需求和敏感度都不同。一些大型的應(yīng)用,可能需要更高的帶寬,才能更好地計(jì)算。

      最后,也是最具風(fēng)險(xiǎn)的一點(diǎn),就是雖然壁仞科技宣稱,BR100要無縫地支持CUDA生態(tài),但CUDA不是一個(gè)開源生態(tài),英偉達(dá)在其中埋下了大量專利壁壘。

      如果壁仞科技真的打算撬動(dòng)這塊壁壘,則很可能受到英偉達(dá)的在專利上的反擊。

      綜上所述,雖然目前在國產(chǎn)GPU突圍的道路上,部分廠商已經(jīng)走出了自己的路,但鑒于硬件、生態(tài)等各方面的差距,這樣的道路,必定是一條充滿荊棘的長路。

      文章內(nèi)容僅供閱讀,不構(gòu)成投資建議,請謹(jǐn)慎對待。投資者據(jù)此操作,風(fēng)險(xiǎn)自擔(dān)。

    即時(shí)

    新聞

    明火炊具市場:三季度健康屬性貫穿全類目

    奧維云網(wǎng)(AVC)推總數(shù)據(jù)顯示,2024年1-9月明火炊具線上零售額94.2億元,同比增加3.1%,其中抖音渠道表現(xiàn)優(yōu)異,同比有14%的漲幅,傳統(tǒng)電商略有下滑,同比降低2.3%。

    企業(yè)IT

    重慶創(chuàng)新公積金應(yīng)用,“區(qū)塊鏈+政務(wù)服務(wù)”顯成效

    “以前都要去窗口辦,一套流程下來都要半個(gè)月了,現(xiàn)在方便多了!”打開“重慶公積金”微信小程序,按照提示流程提交相關(guān)材料,僅幾秒鐘,重慶市民曾某的賬戶就打進(jìn)了21600元。

    3C消費(fèi)

    華碩ProArt創(chuàng)藝27 Pro PA279CRV顯示器,高能實(shí)力,創(chuàng)

    華碩ProArt創(chuàng)藝27 Pro PA279CRV顯示器,憑借其優(yōu)秀的性能配置和精準(zhǔn)的色彩呈現(xiàn)能力,為您的創(chuàng)作工作帶來實(shí)質(zhì)性的幫助,雙十一期間低至2799元,性價(jià)比很高,簡直是創(chuàng)作者們的首選。