、費TIA全稱為Meta訓練和推理加速器; ②Meta表示,打造第一代芯片的目的是提高推薦模型的效率; ③據(jù)介紹,MTIA的功耗僅有25瓦,遠低于英偉達等主流芯片廠商的產(chǎn)品功耗。
財聯(lián)社5月19日訊(編輯 黃君芝)當?shù)貢r間周四(18日),F(xiàn)acebook母公司Meta分享了其數(shù)據(jù)中心項目的新細節(jié),以更好地支持人工智能(AI)工作,包括一款內(nèi)部開發(fā)的定制芯片“家族”的新成員。
Meta表示,它在2020年設計了第一代芯片,作為元訓練和MTIA計劃的一部分。MTIA全稱為Meta訓練和推理加速器。所謂推理是指運行經(jīng)過訓練的模型。這是一種ASIC(專用集成芯片),也就是將不同電路集成在一塊板上的芯片,可以將它進行編程,執(zhí)行一項或多項任務。
根據(jù)該公司的說法,打造第一代芯片的目的是提高推薦模型的效率,那些模型服務于廣告和其他新聞推送內(nèi)容。Meta并未披露配置新芯片的時間表,也未說明具體有什么計劃開發(fā)訓練模型的芯片。
Meta的軟件工程師Joel Coburn在介紹新芯片時表示,Meta最初使用圖形處理單元(GPU)來完成推理任務,但結(jié)果發(fā)現(xiàn)它們不太適合這種工作。
“盡管進行了重大的軟件優(yōu)化,但實際模型的效率很低。這使得在實踐中部署它們具有挑戰(zhàn)性且成本高昂。這就是我們需要MTIA的原因。”他說。
在高管們意識到缺乏硬件和軟件來支持產(chǎn)品團隊構(gòu)建人工智能功能的需求后,Meta在過去一年里一直在進行一項大規(guī)模的項目,以升級其人工智能基礎設施。
Meta在博客文章中承認,它的首款MTIA芯片在處理高復雜性的AI模型時遇到了挫折,但也指出,它在處理中低復雜性模型方面比競爭對手的芯片更有效。據(jù)它介紹,MTIA采用開源芯片架構(gòu)RISC-V,它的功耗僅有25瓦,遠低于英偉達等主流芯片廠商的產(chǎn)品功耗。
不過該公司也稱,芯片在內(nèi)存和網(wǎng)絡領域的工作還未完成,隨著AI模型發(fā)展,這些工作會出現(xiàn)瓶頸。目前,MTIA 的重點放在Meta應用家族的推理,而不是訓練。但Meta強調(diào),MTIA“大大”提高了單位瓦特的推薦負載運行效率,讓公司能運行加強版的、更尖端的AI工作負載。
此外,Meta還提供了以AI為核心的網(wǎng)絡和冷卻系統(tǒng)、重新設計其數(shù)據(jù)中心的最新計劃,并稱首個相關數(shù)據(jù)中心的設施將于年內(nèi)破土動工。該公司員工在演示時稱,新設計的成本將降低31%,而且建造速度是公司目前數(shù)據(jù)中心的兩倍。
最后,Meta還介紹了旗下的一種AI驅(qū)動系統(tǒng),它可幫助Meta的工程師編寫電腦代碼。Meta的AI助力代碼工具名為CodeCompose,目前沒有對外公開。公司團隊內(nèi)部用它獲取Python 和其他語言的代碼建議。
文章內(nèi)容僅供閱讀,不構(gòu)成投資建議,請謹慎對待。投資者據(jù)此操作,風險自擔。
2024年的Adobe MAX 2024發(fā)布會上,Adobe推出了最新版本的Adobe Creative Cloud。
奧維云網(wǎng)(AVC)推總數(shù)據(jù)顯示,2024年1-9月明火炊具線上零售額94.2億元,同比增加3.1%,其中抖音渠道表現(xiàn)優(yōu)異,同比有14%的漲幅,傳統(tǒng)電商略有下滑,同比降低2.3%。
“以前都要去窗口辦,一套流程下來都要半個月了,現(xiàn)在方便多了!”打開“重慶公積金”微信小程序,按照提示流程提交相關材料,僅幾秒鐘,重慶市民曾某的賬戶就打進了21600元。
華碩ProArt創(chuàng)藝27 Pro PA279CRV顯示器,憑借其優(yōu)秀的性能配置和精準的色彩呈現(xiàn)能力,為您的創(chuàng)作工作帶來實質(zhì)性的幫助,雙十一期間低至2799元,性價比很高,簡直是創(chuàng)作者們的首選。
9月14日,2024全球工業(yè)互聯(lián)網(wǎng)大會——工業(yè)互聯(lián)網(wǎng)標識解析專題論壇在沈陽成功舉辦。