低時延+高安全 邊緣算力重要性凸顯 智能模組或成AI“毛細(xì)血管”

　　4月22日訊 日前，上海市經(jīng)濟(jì)信息化委印發(fā)《上海市推進(jìn)算力資源統(tǒng)一調(diào)度指導(dǎo)意見》的通知，提出九項(xiàng)重點(diǎn)任務(wù)。任務(wù)之一要求形成樞紐型數(shù)據(jù)中心集群、城市數(shù)據(jù)中心集聚區(qū)、邊緣數(shù)據(jù)中心梯次布局，并引導(dǎo)根據(jù)應(yīng)用場景，利用存量通信機(jī)房、變電站等設(shè)施按需靈活部署邊緣數(shù)據(jù)中心。

　　對此，近日國盛證券發(fā)布相關(guān)研究報(bào)告稱，規(guī)劃凸顯出未來的算力將呈現(xiàn)從云端到邊緣梯度分布的格局。云端算力負(fù)責(zé)復(fù)雜科學(xué)計(jì)算，大模型運(yùn)算推理等任務(wù)，邊緣側(cè)則憑借隱私、時延與成本三大優(yōu)勢，成為小模型與AI應(yīng)用觸及萬千用戶與場景的通道。

　　據(jù)介紹，目前，無論是需要超強(qiáng)硬件支撐的AI迭代與訓(xùn)練，還是運(yùn)行要求相對較低、需求相對分散的AI推理，均在超算中心內(nèi)進(jìn)行，采用云生成然后發(fā)送到端的形式運(yùn)作。

　　但隨著AIGC內(nèi)容愈加豐富，從文本發(fā)展到圖像、視頻等多模態(tài)內(nèi)容，上述模式引發(fā)了一系列的問題，例如網(wǎng)絡(luò)帶寬成本高昂、時延較為嚴(yán)重等，進(jìn)而影響到AI大模型的商業(yè)化進(jìn)程與用戶使用體驗(yàn)。

　　而作為算力體系的重要一環(huán)，邊緣算力具有低時延、安全性高等優(yōu)勢。因此，國盛證券、中信證券、中金公司等機(jī)構(gòu)一致認(rèn)為，邊緣算力不僅能夠分擔(dān)云端推理計(jì)算的壓力，且由于其安全性高，還能夠符合未來AI創(chuàng)作對于所有權(quán)和隱私權(quán)的要求。

　　圖|來源于中金公司研報(bào)

　　智能模組則為邊緣算力的最佳載體，有機(jī)構(gòu)稱其為AI的“毛細(xì)血管”。智能模組是指融入了算力或通用處理芯片的通訊模組，已經(jīng)應(yīng)用于車機(jī)、消費(fèi)等多個領(lǐng)域。目前，已有廠商嘗試相關(guān)方案：

　　3月2日，高通中國公眾號發(fā)布了全球首個運(yùn)行于安卓手機(jī)上的Stable Diffusion終端側(cè)演示。此前，Stable Diffusion只能在云端計(jì)算集群內(nèi)運(yùn)行。

　　3月23日，華為推出“智能搜圖”功能，基于多模態(tài)大模型技術(shù)，在手機(jī)端側(cè)對模型進(jìn)行小型化處理。

　　據(jù)《科創(chuàng)板日報(bào)》不完全整理，布局邊緣算力、邊緣IDC、模組相關(guān)業(yè)務(wù)的企業(yè)主要有：

　　中信證券認(rèn)為，華為與高通一定程度上驗(yàn)證了高性能邊緣AI的可行性，通過模型壓縮疊加聯(lián)網(wǎng)智能的方式有望在邊緣端實(shí)現(xiàn)AI大模型的體驗(yàn)。在兩者的示范效應(yīng)下，智能物聯(lián)網(wǎng)模組相關(guān)企業(yè)有望獲得發(fā)展。