12月15日消息,在人工智能大模型浪潮的推動下,AI訓(xùn)練數(shù)據(jù)集正極速擴增。以ChatGPT為例,去年11月發(fā)布的GPT-3,使用1750億個參數(shù)構(gòu)建,今年3月發(fā)布的GPT-4使用超過1.5萬億個參數(shù)。海量的數(shù)據(jù)訓(xùn)練,這對算力提出了高需求。
而HBM(高頻寬存儲器)作為內(nèi)存的一種技術(shù)類型,采用創(chuàng)新的2.5D/3D架構(gòu),能夠為AI加速器提供具有高內(nèi)存帶寬和低功耗的解決方案,同時憑借極低的延遲和緊湊的封裝,HBM已成為AI訓(xùn)練硬件的首選。
TrendForce預(yù)估,2024年全球HBM的位元供給有望增長105%;HBM市場規(guī)模也有望于2024年達89億美元,同比增長127%;預(yù)計2025年HBM市場規(guī)模將會突破100億美元。
近日,作為業(yè)界領(lǐng)先的芯片和IP核供應(yīng)商, Rambus Inc.(納斯達克股票代碼:RMBS)宣布Rambus HBM3內(nèi)存控制器IP現(xiàn)在可提供高達9.6 Gbps的性能,可支持HBM3標準的持續(xù)演進。
大幅提升AI性能 提供領(lǐng)先支持
眾所周知,JEDEC(電子工程器件聯(lián)合委員會)將DRAM分為標準DDR、移動DDR以及圖形DDR三類,HBM則屬于圖形DDR中的一種。
在設(shè)計上,HBM包含了中介層,以及處理器、內(nèi)存堆棧。HBM通過使用先進的封裝方法(如TSV硅通孔技術(shù))垂直堆疊多個DRAM,與GPU通過中介層互聯(lián)封裝在一起,打破了內(nèi)存帶寬及功耗瓶。這也讓傳輸速率成為了HBM的核心參數(shù)。
從2014年全球首款HBM產(chǎn)品問世至今,HBM技術(shù)已發(fā)展至第四代,分別為HBM、HBM2、HBM2e、HBM3,帶寬和容量分別從最初128GB/S和1GB提升至819GB/S和24GB,傳輸速度從1Gbps提高至6.4Gbps。據(jù)悉,第五代HBM3E已在路上, 由SK Hynix、美光和三星共同發(fā)布,它所支持的數(shù)據(jù)傳輸速率達到9.6Gb/s。
對于HBM而言,Rambus并不陌生,早于2016年就入局了HBM市場。此次發(fā)布的Rambus HBM3內(nèi)存控制器IP專為需要高內(nèi)存吞吐量、低延遲和完全可編程性應(yīng)用而設(shè)計。相比HBM3 Gen1 6.4 Gbps 的數(shù)據(jù)速率,Rambus HBM3內(nèi)存控制器的數(shù)據(jù)速率提高了50%,總內(nèi)存吞吐量超過1.2 TB/s,適用于推薦系統(tǒng)的訓(xùn)練、生成式AI以及其他要求苛刻的數(shù)據(jù)中心工作負載。
Rambus 接口IP產(chǎn)品管理和營銷副總裁 Joe Salvador介紹稱,該控制器是一種高度可配置的模塊化解決方案,可根據(jù)每個客戶對尺寸和性能的獨特要求進行定制。目前已與SK海力士、美光、三星完成了一整套的測試。對于選擇第三方HBM3 PHY(物理層)的客戶,Rambus還提供HBM3控制器的集成與驗證服務(wù)。
就當前HBM市場發(fā)展格局,Joe Salvador坦言道:“目前為止還沒有了解到有哪一家競爭對手跟我們一樣,已經(jīng)有經(jīng)過驗證的能夠去支持HBM3 9.6Gbps傳輸速率的內(nèi)存控制器IP。Rambus HBM3內(nèi)存控制器將以高達9.6Gb/s的性能,為HBM3提供業(yè)界領(lǐng)先的支持。”
同時,Joe Salvador表示,一家企業(yè)想進入到HBM行業(yè)會面臨相應(yīng)的一些門檻和有諸多的挑戰(zhàn),首先就是對于總體架構(gòu)設(shè)計的復(fù)雜度和了解程度不夠。Rambus正是得益于積累了多年的技術(shù)經(jīng)驗和跟主流內(nèi)存廠商合作的經(jīng)驗,使得所設(shè)計出來的內(nèi)存控制器可以做到高性能、低功耗,而且對于客戶來說成本也相對較低,且具有很好的兼容性。
AI時代 Rambus將全面發(fā)力
當前大模型的百花齊放,讓HBM也水漲船高。
文章內(nèi)容僅供閱讀,不構(gòu)成投資建議,請謹慎對待。投資者據(jù)此操作,風險自擔。
近日,德國柏林國際電子消費品展覽會(IFA2024)隆重舉辦。憑借在核心技術(shù)、產(chǎn)品設(shè)計及應(yīng)用方面的創(chuàng)新變革,全球領(lǐng)先的智能終端企業(yè)TCL實業(yè)成功斬獲兩項“IFA全球產(chǎn)品設(shè)計創(chuàng)新大獎”金獎,有力證明了其在全球市場的強大影響力。
近日,中國家電及消費電子博覽會(AWE 2024)隆重開幕。全球領(lǐng)先的智能終端企業(yè)TCL實業(yè)攜多款創(chuàng)新技術(shù)和新品亮相,以敢為精神勇闖技術(shù)無人區(qū),斬獲四項AWE 2024艾普蘭大獎。
“以前都要去窗口辦,一套流程下來都要半個月了,現(xiàn)在方便多了!”打開“重慶公積金”微信小程序,按照提示流程提交相關(guān)材料,僅幾秒鐘,重慶市民曾某的賬戶就打進了21600元。
由世界人工智能大會組委會、上海市經(jīng)信委、徐匯區(qū)政府、臨港新片區(qū)管委會共同指導(dǎo),由上海市人工智能行業(yè)協(xié)會聯(lián)合上海人工智能實驗室、上海臨港經(jīng)濟發(fā)展(集團)有限公司、開放原子開源基金會主辦的“2024全球開發(fā)者先鋒大會”,將于2024年3月23日至24日舉辦。