蹭上DeepSeek流量的云廠商，警惕虧損陷阱DeepSeek本地部署如何選？跟著京東采銷推薦選購專業(yè)級工作站產(chǎn)品五菱宏光MINIEV四門版發(fā)布 銷量突破150萬臺2024年游戲主機出貨量下滑，PS5第四季度表現(xiàn)亮眼格力電器全新戰(zhàn)略品牌“董明珠健康家”正式發(fā)布海光信息2024年業(yè)績快報：營收與利潤雙雙大幅增長寶駿悅也Plus 2024款迎來 OTA 升級，新增25項智能功能七彩虹推出CVN B850I GAMING FROZEN V14 ITX主板，助力迷你游戲主機三星或采用長江存儲混合鍵合專利，V10 NAND 將于2025年下半年量產(chǎn)鴻海積極拓展電動車合作，尋求與本田、日產(chǎn)及三菱聯(lián)手具身智能，正在批量復(fù)制創(chuàng)業(yè)公司在深圳做「AI 耳機」看到的 10 個行業(yè)真相百萬尊界 能否以科技重新定義豪華？Pixverse V4.0更新:音效與轉(zhuǎn)繪功能震撼登場義烏市場進入AI時代，跨境電商企業(yè)注冊量逐年穩(wěn)步增長LiblibAI哩布哩布AI宣布再獲數(shù)億元融資 一年內(nèi)連續(xù)完成四輪融資Meta AI 發(fā)布新型視頻學(xué)習模型V-JEPA :視頻理解新突破1x發(fā)布家庭機器人NEO Gamma:能沖咖啡、洗衣和吸塵等月之暗面聯(lián)手UCLA推新模型Mixture-of-Expert，提升語言模型訓(xùn)練效率百度APP全面煥新:上線AI入口 DeepseekR1深度搜索不卡頓
    • 首頁 > 云計算頻道 > 大模型

    DeepSeek 開源周首日:發(fā)布大模型加速利器FlashMLA 解碼性能飆升至3000GB/s

    2025年02月24日 16:12:20   來源：Citnews中文科技資訊

    　　DeepSeek在開源周首日推出了FlashMLA，這是一款針對英偉達Hopper架構(gòu)GPU的高效多層注意力解碼內(nèi)核，旨在優(yōu)化變長序列場景下的大模型推理性能。

    　　該技術(shù)通過全面支持BF16精度和創(chuàng)新的頁式鍵值緩存系統(tǒng)，顯著提升了內(nèi)存管理的精確性。FlashMLA在性能測試中表現(xiàn)出色，達到了3000GB/s的處理速度和580TFLOPS的算力。

    　　FlashMLA專為英偉達Hopper架構(gòu)GPU設(shè)計，優(yōu)化變長序列場景，提升推理性能。

    　　采用BF16精度和塊大小為64的頁式鍵值緩存系統(tǒng)，實現(xiàn)精確內(nèi)存管理。

    　　在H800SXM5GPU上，F(xiàn)lashMLA在內(nèi)存受限場景下達到3000GB/s的處理速度。

    　　文章內(nèi)容僅供閱讀，不構(gòu)成投資建議，請謹慎對待。投資者據(jù)此操作，風險自擔。

    即時

    新聞

    明火炊具市場：三季度健康屬性貫穿全類目

    奧維云網(wǎng)(AVC)推總數(shù)據(jù)顯示，2024年1-9月明火炊具線上零售額94.2億元，同比增加3.1%，其中抖音渠道表現(xiàn)優(yōu)異，同比有14%的漲幅，傳統(tǒng)電商略有下滑，同比降低2.3%。

    企業(yè)IT

    重慶創(chuàng)新公積金應(yīng)用，“區(qū)塊鏈+政務(wù)服務(wù)”顯成效

    “以前都要去窗口辦，一套流程下來都要半個月了，現(xiàn)在方便多了!”打開“重慶公積金”微信小程序，按照提示流程提交相關(guān)材料，僅幾秒鐘，重慶市民曾某的賬戶就打進了21600元。

    3C消費

    華碩ProArt創(chuàng)藝27 Pro PA279CRV顯示器，高能實力，創(chuàng)

    華碩ProArt創(chuàng)藝27 Pro PA279CRV顯示器，憑借其優(yōu)秀的性能配置和精準的色彩呈現(xiàn)能力，為您的創(chuàng)作工作帶來實質(zhì)性的幫助，雙十一期間低至2799元，性價比很高，簡直是創(chuàng)作者們的首選。

    研究

    中國信通院羅松：深度解讀《工業(yè)互聯(lián)網(wǎng)標識解析體系

    9月14日，2024全球工業(yè)互聯(lián)網(wǎng)大會——工業(yè)互聯(lián)網(wǎng)標識解析專題論壇在沈陽成功舉辦。