MCU+AI 加速器正在變得越來越流行。
Yole稱,盡管2022年全球通脹大幅飆升,半導(dǎo)體市場(chǎng)歷經(jīng)周期波動(dòng)、需求低迷的窘境,但微控制器(MCU)市場(chǎng)在2022年仍然蓬勃發(fā)展,總體年收入增長(zhǎng)25%。
2023年來,許多供應(yīng)商開始擔(dān)心庫(kù)存過剩,以及受到消費(fèi)市場(chǎng)支出急劇下降和供應(yīng)過剩導(dǎo)致平均銷售價(jià)格和收入下降的嚴(yán)重影響,預(yù)計(jì)2023年MCU市場(chǎng)全年增長(zhǎng)將持平,同時(shí)2024年將保持低個(gè)位數(shù)增長(zhǎng),但MCU市場(chǎng)的長(zhǎng)期增長(zhǎng)潛力尤其樂觀
根據(jù)technavio報(bào)告預(yù)計(jì),2022年-2027年間,MCU市場(chǎng)規(guī)模將以6.97%的復(fù)合年增長(zhǎng)率增長(zhǎng),到2027年市場(chǎng)規(guī)模預(yù)計(jì)將增長(zhǎng)90.314億美元。
圖源:technavio
市場(chǎng)的增長(zhǎng)取決于多種因素,包括汽車中MCU的使用量不斷增加、物聯(lián)網(wǎng)和智能設(shè)備的需求不斷增加以及消費(fèi)電子行業(yè)的增長(zhǎng)。
在這個(gè)過程中,互聯(lián)設(shè)備的持續(xù)增長(zhǎng)以及在物聯(lián)網(wǎng)邊緣開發(fā)更多智能設(shè)備的趨勢(shì)。隨著AI深入到邊緣和終端裝置,邊緣計(jì)算的發(fā)展成為推動(dòng)全球MCU市場(chǎng)增長(zhǎng)的主要趨勢(shì)之一。
這些趨勢(shì)不僅推動(dòng)了MCU的市場(chǎng)需求,也在催生MCU新的技術(shù)革新。
眾所周知,此前的AI運(yùn)算和機(jī)器學(xué)習(xí)等主要在云端完成,現(xiàn)在正在逐漸向邊緣端發(fā)展。邊緣計(jì)算是指在網(wǎng)絡(luò)邊緣運(yùn)行的計(jì)算,更靠近數(shù)據(jù)生成源,而不是位于遙遠(yuǎn)的數(shù)據(jù)中心。這樣做的好處在于,能減少云端上傳的數(shù)據(jù)帶寬,提升本地設(shè)備的響應(yīng)速度,提高本地?cái)?shù)據(jù)的安全性。
隨著邊緣計(jì)算在物聯(lián)網(wǎng)領(lǐng)域不斷部署,MCU在邊緣計(jì)算中的使用將會(huì)增加。與此同時(shí),在萬物互聯(lián)的時(shí)代,數(shù)據(jù)呈現(xiàn)爆發(fā)式的增長(zhǎng)態(tài)勢(shì),CPU面臨著巨大的計(jì)算壓力。針對(duì)“如何釋放CPU的計(jì)算壓力”,市面上已經(jīng)出現(xiàn)不同的解決方案。一些企業(yè)開始在MCU中添加加速器,通過專用算力來進(jìn)行ML的運(yùn)算,以期能釋放CPU的通用算力。
簡(jiǎn)而言之,AI和ML的運(yùn)算正在從云端向邊緣端遷移,計(jì)算重心的前置可以提高本地的設(shè)備響應(yīng),減少云端上傳的數(shù)據(jù)帶寬,提高本地?cái)?shù)據(jù)的安全性等,帶來的好處不言而喻。而這種邊緣AI,并不會(huì)止步于手機(jī)、電腦這些具備SoC級(jí)別算力的終端,而是會(huì)繼續(xù)向著MCU為主控的物聯(lián)網(wǎng)設(shè)備蔓延。
對(duì)此,MCU廠商相繼進(jìn)行創(chuàng)新,嘗試將AI/ML技術(shù)集成到MCU中推向邊緣,以跟上更智能的邊緣設(shè)備的步伐,當(dāng)前已有一些企業(yè)展開了探索布局。
01 頭部MCU大廠,紛紛發(fā)力
根據(jù)Yole統(tǒng)計(jì)數(shù)據(jù),2022年全球MCU廠商營(yíng)收排名中,意法半導(dǎo)體(STM)、英飛凌(infineon)、瑞薩電子(Renesas)、恩智浦半導(dǎo)體(NXP)、微芯科技(Microchip)位列前五,Top10企業(yè)市場(chǎng)份額合計(jì)占比高達(dá)93%。
本文以頭部MCU廠商為例,針對(duì)上述邊緣設(shè)備市場(chǎng)的發(fā)展,來看一看MCU行業(yè)正在如何進(jìn)行創(chuàng)新與演變。
恩智浦:率先將NPU集成進(jìn)通用MCU
恩智浦曾表示,“以前提到好MCU的標(biāo)準(zhǔn)就是:按下按鈕就有很快的反應(yīng),但現(xiàn)在遠(yuǎn)不止這樣,我們希望處理器本身有預(yù)知性,這就需要引入AI的要素。所以相信越來越多的落地項(xiàng)目會(huì)要求邊緣計(jì)算平臺(tái)擁有越來越多的AI功能支持。”
熟悉恩智浦的人應(yīng)該知道,NXP有三大類邊緣計(jì)算平臺(tái),分別是通用MCU平臺(tái)(LPC、Kinetis),跨界MCU i.MX RT系列,以及i.MX和Layerscape系列應(yīng)用處理器,這三大類產(chǎn)品構(gòu)筑了NXP廣闊而豐富的可拓展的邊緣計(jì)算平臺(tái)。
近年來,恩智浦新推出的跨界MCU填補(bǔ)了MPU和MCU之間的市場(chǎng)空隙,獲得了較好的市場(chǎng)反響。
在通用MCU市場(chǎng),一個(gè)新紀(jì)元即將開啟。據(jù)IHS預(yù)測(cè),2030年將會(huì)有750億個(gè)聯(lián)網(wǎng)設(shè)備,這帶來了新的MCU應(yīng)用需求。低功耗、無線連接、安全、高性能和AI能力的追求,成為了新的通用MCU的必備能力。而且同一MCU平臺(tái)需要具有靈活的可遷移性,方便開發(fā)者進(jìn)行設(shè)計(jì)的遷移。
基于智能邊緣的種種趨勢(shì),NXP推出了通用MCU平臺(tái)——MCX微控制器產(chǎn)品組合。這一平臺(tái)融合了LPC、Kinetis傳統(tǒng)優(yōu)勢(shì),將開啟下一段智能邊緣的征程。
傳統(tǒng)上,要將一些成熟的算法部署到MCU的CPU核上,需要耗費(fèi)大量精力,且難度較大。目前MCU廠商都有推出相應(yīng)的AI開發(fā)工具包,或者是例程,供開發(fā)者使用。
但另一個(gè)問題在于,MCU的CPU核并不適合做AI和ML的運(yùn)算,這將會(huì)極大地占用其計(jì)算資源。高度依賴CPU核和FPU等硬件資源,也會(huì)帶來功耗的上升,從系統(tǒng)角度來看并不是合適的做法。
因此,在通用MCU中添加一個(gè)硬件NPU,來為一些邊緣側(cè)通用的AI運(yùn)算進(jìn)行專門的加速,成為了解決問題的優(yōu)選。CPU核可以專注于自己擅長(zhǎng)的計(jì)算任務(wù),將AI ML的運(yùn)算交給NPU。
上述MCX N系列就是如此,讓適合的核去做適合的任務(wù),從而幫助開發(fā)者實(shí)現(xiàn)未來智能邊緣更好的設(shè)計(jì)。
據(jù)介紹,NPU作為CPU的AI運(yùn)算協(xié)處理器,其內(nèi)部最主要是擁有專門的計(jì)算通道。該NPU為NXP的自研硬件IP,在MCU領(lǐng)域中,集成神經(jīng)處理單元應(yīng)該說是迎合了這個(gè)時(shí)代。
未來,該NPU還可以擴(kuò)展到更高的性能或更小的單元。NXP的整個(gè)MCU、MPU家族里,都會(huì)采用統(tǒng)一的NPU架構(gòu),提供更高性能的NPU的加速器。通過一致的NPU架構(gòu),同樣的算法也更容易從MPU遷移到MCU平臺(tái)上。
相比一些AI SoC,NXP N系列產(chǎn)品的通用性更好,能夠覆蓋到更多基礎(chǔ)應(yīng)用的AI特性升級(jí);而對(duì)于一些AI更加前置、在傳感器中添加加速器的產(chǎn)品而言,其加速器往往功能比較單一,僅適用于其傳感器的數(shù)據(jù)篩選,并不具備更靈活的通用性,不能支持更多算法模型。
近日,恩智浦最新宣布與Aptos-Eta Compute建立合作伙伴關(guān)系,將恩智浦先進(jìn)的以人工智能為核心的芯片和軟件工具集成到Aptos公司*的MLOps平臺(tái)上。
在此過程中,Aptos可以針對(duì)該芯片優(yōu)化和調(diào)整人工智能模型,從而實(shí)現(xiàn)前所未有的模型效率和性能,簡(jiǎn)化低功耗邊緣處理器的模型開發(fā)、部署和管理。
這次合作標(biāo)志著在縮小AI和嵌入式系統(tǒng)之間的差距方面邁出了重要一步。Aptos無需復(fù)雜地了解芯片的具體功能和限制條件,從而為機(jī)器學(xué)習(xí)開發(fā)人員和嵌入式系統(tǒng)工程師提供了強(qiáng)大的支持。人工智能開發(fā)人員現(xiàn)在可以輕松創(chuàng)建和部署優(yōu)化的機(jī)器學(xué)習(xí)模型,充分利用恩智浦芯片的強(qiáng)大功能,無需深入了解嵌入式技術(shù),即可管理片上內(nèi)存和低功耗等緊張資源。嵌入式系統(tǒng)工程師可以使用無代碼工具鏈輕松獲得*的Al模型。這種“簡(jiǎn)化+優(yōu)化”是使Edge Al革命成為現(xiàn)實(shí)的核心,使其比以往任何時(shí)候都更容易獲得和高效
Eta Compute共同創(chuàng)辦人暨行銷副總裁Paul Washkewicz表示,在Edge Al快速發(fā)展的世界中,協(xié)作是成功的關(guān)鍵。Eta Compute和恩智浦半導(dǎo)體的合作標(biāo)志著業(yè)界致力于打破障礙,為更多領(lǐng)域提供有效的解決方案,從而推動(dòng)邊緣人工智能的發(fā)展。
據(jù)悉,MCX的應(yīng)用場(chǎng)景是針對(duì)MCU現(xiàn)有的應(yīng)用場(chǎng)景進(jìn)行的拓展,在傳統(tǒng)的控制應(yīng)用基礎(chǔ)上增加了在醫(yī)療設(shè)備、無人機(jī),或者工業(yè)控制中加上智能識(shí)別、故障檢測(cè)、語音控制等應(yīng)用;贜PU的出現(xiàn),也會(huì)衍生出很多新應(yīng)用,例如在日常生活中識(shí)別物體的秤;醫(yī)學(xué)檢測(cè)中,可以應(yīng)用于檢測(cè)含瘧疾的紅細(xì)胞;交通出行中,可以幫助智能車識(shí)別障礙,自動(dòng)地做出判斷和處理等等。
整體來看,高性能、無線、安全和AI特性,具備所有這些特性的通用MCU平臺(tái)是大勢(shì)所趨。業(yè)界很多廠商其實(shí)也已經(jīng)有非常完備的平臺(tái),但在通用MCU中添加硬件NPU,MCX尚屬首例,可謂是NXP又捕捉到了一個(gè)廣闊前景的市場(chǎng)空白和清晰的應(yīng)用前景。
英飛凌:板載ML硬件加速
近日,英飛凌宣布推出PSoC Edge系列微控制器,為邊緣操作機(jī)器學(xué)習(xí) (ML) 的設(shè)備提供高性能和安全性。
PSoC Edge系列MCU提供內(nèi)置ML支持、自主模擬以及更多功能,使其成為下一代智能邊緣設(shè)備的候選者。
PSoC Edge 系列MCU框架
值得關(guān)注的是,除了支持Cortex-M55 DSP和Ethos-U55 NPU之外,PSoC Edge系列MCU的一個(gè)關(guān)鍵規(guī)格是板載ML硬件加速,集成了英飛凌專有的神經(jīng)網(wǎng)絡(luò)硬件加速器NNLite。
這種硬件加速使該系列MCU能夠用于需要響應(yīng)計(jì)算和控制的各種應(yīng)用,包括智能家居、可穿戴設(shè)備和人機(jī)交互設(shè)計(jì)。然而,除了這些特定領(lǐng)域之外,設(shè)計(jì)人員還可以在任何需要片上ML加速的應(yīng)用中使用PSoC Edge MCU。
以物聯(lián)網(wǎng)設(shè)備為例,機(jī)器學(xué)習(xí)功能可用于自適應(yīng)地與環(huán)境交互,而機(jī)器人用例可以利用機(jī)器學(xué)習(xí)功能來提高自主設(shè)備的效率和性能。同時(shí),隨著向邊緣設(shè)備分配更多計(jì)算能力的趨勢(shì)不斷發(fā)展,PSoC Edge系列MCU為應(yīng)用設(shè)備提供了更多的功能和安全性。 隨著越來越多的開發(fā)人員使用該芯片,他們可以評(píng)估片上ML加速和自主模擬信號(hào)鏈帶來的性能提升。
另外,開發(fā)工具也是用戶在開發(fā)MCU過程中必不可少的一環(huán)。為了更好的支持AI功能的開發(fā),英飛凌還推出了ModusToolbox機(jī)器學(xué)習(xí)工具,能夠快速評(píng)估ML模型并將其部署到英飛凌MCU上。ModusToolbox ML旨在與BSP、連接堆棧、中間件和有直觀的配置器的ModusToolbox軟件生態(tài)系統(tǒng)無縫協(xié)作,以便開發(fā)人員可以專注于他們的應(yīng)用程序差異化并加快進(jìn)入市場(chǎng)。
此外,為支持汽車人工智能和車輛虛擬化的趨勢(shì),英飛凌還與新思科技合作推出了針對(duì)AI加速的Aurix TC4x平臺(tái),英飛凌的AURIX TC4x MCU集成了一個(gè)高性能AI加速器,稱為并行處理單元 (PPU),由Synopsys DesignWare ARC EV處理器IP提供支持。
在AURIX TC4x架構(gòu)中集成基于ARC EV處理器的PPU,通過提供經(jīng)濟(jì)實(shí)惠的AI實(shí)現(xiàn)了廣泛的電動(dòng)汽車用例。PPU具有實(shí)時(shí)處理性能,可加速循環(huán)神經(jīng)網(wǎng)絡(luò)、卷積神經(jīng)網(wǎng)絡(luò)和多層感知器等AI算法。除了提供處理能力之外,ARC EV7x處理器IP還提供功能安全特性,與AURIX架構(gòu)相結(jié)合,支持開發(fā)更安全的汽車系統(tǒng)。
2023年5月,英飛凌宣布已收購(gòu)總部位于瑞典斯德哥爾摩的初創(chuàng)公司Imagimob AB,以提升其微控制器和傳感器上的TinyML邊緣AI功能。Imagimob是快速增長(zhǎng)的微型機(jī)器學(xué)習(xí)和自動(dòng)機(jī)器學(xué)習(xí)(TinyML和AutoML)市場(chǎng)的*者。
ST:AI軟硬結(jié)合,賦能MCU
近幾年,智能家電的快速發(fā)展,對(duì)MCU的性能、互聯(lián)提出了越來越高的要求,基于MCU平臺(tái)運(yùn)行人工智能和機(jī)器學(xué)習(xí),發(fā)展性能更高、功耗更低的邊緣計(jì)算,正在成為行業(yè)熱點(diǎn)。面對(duì)這樣的趨勢(shì),意法半導(dǎo)體很早就開始布局智能的MCU。
ST已經(jīng)創(chuàng)建了一個(gè)平臺(tái),通過STM32Cube-AI將ML用于32位MCU
2021年6月,意法半導(dǎo)體宣布收購(gòu)邊緣AI軟件專業(yè)開發(fā)公司Cartesiam,讓基于Arm的MCU具有機(jī)器學(xué)習(xí)和推理能力。去年,ST推出了帶有神經(jīng)網(wǎng)絡(luò)硬件處理單元的通用微控制器——STM32N6,這是意法半導(dǎo)體的*帶有神經(jīng)處理單元硬件加速器的MCU,將推動(dòng)目標(biāo)應(yīng)用計(jì)算能力的提升和功耗、成本的進(jìn)一步下降。與其STM32MP1微處理器相比,這款MCU的推斷速度提高了25倍。
據(jù)了解,STM32N6包括一個(gè)專有的NPU和一個(gè)ARM Cortex內(nèi)核,這提供了與配備AI加速器的四核處理器相同的AI性能,但成本僅為十分之一,功耗僅為十二分之一。
今年5月,ST推出了其最新的64位微控制器STM32MP2。憑借多個(gè)ARM Cortex內(nèi)核、一個(gè)神經(jīng)處理單元、一個(gè)圖形加速器和多個(gè)高性能I/O選項(xiàng),ST將新處理器定位于工業(yè)4.0應(yīng)用中的機(jī)器學(xué)習(xí)。
此外,意法半導(dǎo)體的軟件工具STM32CubeMX中也集成了AI模塊,可以方便客戶將訓(xùn)練好的AI模型轉(zhuǎn)換為MCU上運(yùn)行的軟件,使MCU可以方便實(shí)現(xiàn)AI功能。
ST還擁有STM32Cube.AI和NanoEdge AI Studio軟件工具,并且與NVIDIA合作,整合NIVIDIA TAO和STM32Cube.AI工具,讓開發(fā)者在STM32微控制器上無縫地訓(xùn)練和實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)模型。
相對(duì)來說,兩個(gè)優(yōu)勢(shì)互補(bǔ)的軟件工具STM32Cube.AI和NanoEdge AI Studio,產(chǎn)品種類豐富的STM32微控制器和微處理器,以及大量的傳感器產(chǎn)品組合,讓ST的人工智能解決方案成為市場(chǎng)上比較豐富的人工智能產(chǎn)品組合。
瑞薩電子:業(yè)界*M85處理器MCU
近年來,很多廠商開始嘗試在MCU中融入AI功能,瑞薩電子也是關(guān)注MCU+AI的廠商之一。
隨著對(duì)效率、延遲以及成本的考慮,市場(chǎng)開始嘗試采用越來越多的邊緣計(jì)算作為嵌入式系統(tǒng)AI/ML的*方案。
作為全球主要的MCU和MPU供應(yīng)商,瑞薩電子的AI解決方案通過使用在終端具有智能數(shù)據(jù)處理能力的嵌入式AI技術(shù),來增強(qiáng)以信息和操作技術(shù)為基礎(chǔ)的系統(tǒng)和產(chǎn)品。
早在2021年,瑞薩就推出面向AI的*MPU產(chǎn)品。入門級(jí)RZ/V2L系列具備同類的電源效率和高精度AI加速器DRP-AI,可進(jìn)行AI推理和圖像處理,以實(shí)施更具成本效益的視覺AI應(yīng)用。此外,通用64位RZ/G2L產(chǎn)品群采用最新Arm Cortex-A55核心,用于改進(jìn)AI處理。
去年,瑞薩還推出了內(nèi)置視覺AI加速器的RZ/V2MA系列產(chǎn)品,進(jìn)一步實(shí)現(xiàn)了精確圖像識(shí)別和多攝像頭圖像支持功能。
據(jù)了解,RZ/V2系列是一種內(nèi)置瑞薩電子*硬件加速器 “DRP,動(dòng)態(tài)可配置處理器-AI”的AI專用微處理器。DRP-AI專為嵌入式機(jī)器視覺類AI/ML應(yīng)用優(yōu)化設(shè)計(jì),可提供實(shí)時(shí)AI推理和圖像處理功能,同時(shí)兼具了高AI推理性能和低功耗特性,家族化產(chǎn)品支持0.4~80TOPS不等的可擴(kuò)展AI算力,為資源有限的嵌入式端側(cè)AI應(yīng)用提供差異化有競(jìng)爭(zhēng)力的解決方案。
瑞薩表示,MCU與MPU的計(jì)算效率和實(shí)時(shí)處理AI/ML模型的能力不斷提高,隨著各類應(yīng)用對(duì)AI/ML技術(shù)的普遍采用,MCU和MPU將繼續(xù)增加AI加速結(jié)構(gòu)和NPU。
近日,瑞薩電子再次推出強(qiáng)大的RA8系列MCU,新型RA8系列MCU部署了Arm Helium技術(shù),即Arm的M型向量擴(kuò)展單元。相比基于Arm Cortex-M7處理器的MCU,該技術(shù)可將實(shí)現(xiàn)數(shù)字信號(hào)處理器(DSP)和機(jī)器學(xué)習(xí)(ML)的性能提高4倍。
AI的出現(xiàn)增加了對(duì)邊緣和終端智能的需求,以服務(wù)于包括工業(yè)自動(dòng)化、智能家居和醫(yī)療在內(nèi)不同市場(chǎng)的新應(yīng)用。瑞薩的新型RA8系列為MCU的性能和功能設(shè)定了新的標(biāo)準(zhǔn),并將簡(jiǎn)化AI在大量新應(yīng)用中的實(shí)施,對(duì)于希望在嵌入式和物聯(lián)網(wǎng)領(lǐng)域把握不斷增長(zhǎng)的AI機(jī)遇且兼顧安全性的創(chuàng)新者來說,其將改變游戲規(guī)則。
在AI軟件方面,瑞薩電子也在持續(xù)強(qiáng)化布局。瑞薩去年中旬完成對(duì)Reality AI的收購(gòu),可為汽車、工業(yè)和消費(fèi)類產(chǎn)品中的高級(jí)非視覺傳感提供嵌入式AI和微型機(jī)器學(xué)習(xí)(TinyML)解決方案。Reality AI的旗艦Reality AI Tools是一種為支持整個(gè)產(chǎn)品開發(fā)生命周期而構(gòu)建的軟件環(huán)境,可提供來自非視覺傳感器數(shù)據(jù)的分析。
目前,Reality AI的全套工具已被用于支持瑞薩所有的MCU和MPU產(chǎn)品線,用戶可利用該工具套裝去優(yōu)化自己的AI和ML模型,對(duì)外提供支持AI運(yùn)算的MCU。
ADI:硬件CNN集成,邊緣AI MCU的技術(shù)趨勢(shì)
在很多垂直的邊緣端要實(shí)現(xiàn)AI賦能,調(diào)用云端的AI能力的成本較高,而且整個(gè)鏈條的響應(yīng)時(shí)間也較長(zhǎng),對(duì)于連接質(zhì)量的依賴程度也較高,因此并不能做到較為實(shí)時(shí)的計(jì)算和處理,這與端側(cè)的低功耗、低延時(shí)的系統(tǒng)設(shè)計(jì)目標(biāo)并不相符。
邊緣AI落地,需要滿足端側(cè)的功耗要求。
因此,內(nèi)置硬件CNN進(jìn)行專門的AI運(yùn)算,成為了ADI在AI MCU上*選擇。在端側(cè)計(jì)算單元中部署一個(gè)資源夠用的卷積神經(jīng)網(wǎng)絡(luò)(CNN)加速器,就可以承擔(dān)起端側(cè)的AI任務(wù),而且也釋放了更擅長(zhǎng)做計(jì)算任務(wù)的CPU等資源,從而在增加AI運(yùn)算的同時(shí),還保證了達(dá)到端側(cè)高能效目標(biāo)。
據(jù)了解,在百億IoT設(shè)備中,大部分的計(jì)算單元是MCU。而在MCU中集成CNN加速器,已經(jīng)成為了MCU的一個(gè)發(fā)展方向。目前諸多MCU廠商都已經(jīng)推出了AI集成的MCU產(chǎn)品,ADI也是如此。
據(jù)預(yù)測(cè),2025年75%的數(shù)據(jù)產(chǎn)生在邊緣側(cè)進(jìn)行處理,端側(cè)AI MCU市場(chǎng)潛力巨大。
以ADI推出了邊緣AI解決方案MAX7800X系列MCU為例,MAX7800X系列由兩個(gè)微控制器內(nèi)核(ARM Cortex M4F和RISC-V)加上一個(gè)卷積神經(jīng)網(wǎng)絡(luò)(CNN)加速器構(gòu)成。這一架構(gòu)針對(duì)邊緣AI應(yīng)用進(jìn)行了高度優(yōu)化,數(shù)據(jù)的加載和啟動(dòng)由微控制器內(nèi)核負(fù)責(zé),而AI推理由卷積神經(jīng)網(wǎng)絡(luò)加速器專門負(fù)責(zé)。
據(jù)了解,ADI的邊緣AI解決方案具備速度快、無需外部存儲(chǔ)、時(shí)鐘控制靈活和超低功耗等四大特色,因此對(duì)于需要使用電池供電、需要及時(shí)決策的物聯(lián)網(wǎng)設(shè)備來說特別合適。
針對(duì)邊緣AI的計(jì)算平臺(tái),相較于選擇FPGA、GPU、DSP或其它專用ASIC,但ADI的MAX7800X憑借著針對(duì)性的架構(gòu)設(shè)計(jì),提供了更高的能效和性能表現(xiàn)。
對(duì)比傳統(tǒng)的MCU+DSP的方案,ADI的MAX7800X的CNN加速器可以將功耗降低99%以上,而且算法在CNN上執(zhí)行的效率也比DSP上更高。對(duì)于單純采用微控制器的方案,MAX7800X的CNN加速器具備更高的數(shù)據(jù)吞吐量,可以將速度提高100倍以上;而且釋放了CPU的工作負(fù)載,使其專注于更擅長(zhǎng)的計(jì)算任務(wù)。而對(duì)于FPGA等方案,雖然可以處理更復(fù)雜的細(xì)節(jié),但其成本、功耗和面積都并不適合更邊緣側(cè)的部署,MAX7800X也具備更大的優(yōu)勢(shì)。
隨著AI在邊緣的落地,硬件CNN在端側(cè)MCU的集成已經(jīng)成為一種技術(shù)趨勢(shì)。這種AI MCU的發(fā)展將會(huì)迎來巨大的市場(chǎng)機(jī)遇。
MCU初創(chuàng)公司:瞄準(zhǔn)AI加速器
此外,一些AI初創(chuàng)公司,如Brainchip、Hailo、Alif已經(jīng)瞄準(zhǔn)了AI加速器,可以用于MCU應(yīng)用。以Alif為例,
Alif Semiconductor推出的Ensemble系列融合微控制器,“融合”了不同的計(jì)算技術(shù)——實(shí)時(shí)MCU內(nèi)核、機(jī)器學(xué)習(xí)加速器和一些應(yīng)用MPU內(nèi)核,可以有效處理電池供電設(shè)備上繁重的機(jī)器學(xué)習(xí)工作負(fù)載。
據(jù)悉,其性能比使用各種AI模型執(zhí)行類似工作負(fù)載的傳統(tǒng)32位MCU高出兩個(gè)數(shù)量級(jí)。
Alif 的新系列 Ensemble 微控制器和微處理器
隨著系統(tǒng)設(shè)計(jì)人員尋求減少AI/ML處理對(duì)云的依賴,像Ensemble系列這樣的可擴(kuò)展邊緣AI解決方案可能會(huì)在未來幾年取得進(jìn)步。
Arm:MCU+AI需求強(qiáng)烈
作為眾多MCU芯片廠商的內(nèi)在賦能者,Arm近年來連續(xù)發(fā)布了帶有算力的內(nèi)核MicroNPU Ethos U55、U65等系列,標(biāo)志著MCU市場(chǎng)對(duì)AI加速器開始提出更強(qiáng)需求。
如今在MCU中加入AI加速器逐漸變得流行起來,使用Tiny ML/Embedded ML把算法部署在MCU上,還可以根據(jù)不同的應(yīng)用場(chǎng)景輕巧靈活地部署在不同架構(gòu)和資源的通用MCU上。
Arm在短時(shí)間內(nèi)連續(xù)發(fā)布兩代針對(duì)MCU的microNPU,一方面說明MCU市場(chǎng)對(duì)于AI和AI加速器確實(shí)有很強(qiáng)的需求;另一方面也表明MCU和MPU甚至CPU之間的性能差距正在縮小,這將為未來智能MCU生態(tài)帶來新的變化。
AI和MCU的融合或?qū)⒔怄i一個(gè)龐大的市場(chǎng),或成為未來萬物互聯(lián)的基石。
同時(shí)也看到,除了在MCU中集成硬件加速器,在MCU中解決邊緣AI的更流行的趨勢(shì)在于算法的發(fā)展,ML算法可以使用更小的工具來開發(fā),如TinyML和TensorFlow Lite,使其能夠在MCU等受限硬件中開發(fā)AI應(yīng)用。
上述也提到了瑞薩電子、英飛凌、ST等均在發(fā)力AI軟件方案,去優(yōu)化AI和ML模型。對(duì)此,MCU大廠Microchip(微芯科技)也在布局,為了滿足邊緣端機(jī)器學(xué)習(xí)開發(fā)和設(shè)計(jì)需求,Microchip也推出了完整的集成工作流程,通過其新的MPLAB機(jī)器學(xué)習(xí)開發(fā)套件來簡(jiǎn)化ML模型開發(fā)。該軟件工具包可在Microchip的MCU和MPU產(chǎn)品組合中使用,以快速高效地添加ML推理。
02 寫在最后
AIoT時(shí)代,AI深入到邊緣和終端裝置,已經(jīng)是一個(gè)長(zhǎng)期必然的大方向。
相比于傳統(tǒng)方式,邊緣AI憑借獨(dú)特優(yōu)勢(shì)能夠給各行業(yè)提供更令人滿意的解決方案,越來越多的人在嘗試使用邊緣AI來解決行業(yè)的痛點(diǎn)問題。
在MCU中集成硬件加速器或融入AI算法,可以將MCU低功耗、低成本、實(shí)時(shí)性、穩(wěn)定性、開發(fā)周期短、廣闊的市場(chǎng)覆蓋率等特性,與人工智能強(qiáng)大的處理能力相結(jié)合,從而更有利于終端智能化市場(chǎng)的發(fā)展。
回顧行業(yè)歷程,大概自2017年開始,MCU廠商嘗試在MCU中添加AI功能。例如,ST的Project Orlando項(xiàng)目作為實(shí)驗(yàn)性質(zhì)的MCU超低功耗AI加速器單元,瑞薩在2018年發(fā)布了針對(duì)MCU的可編程可重構(gòu)協(xié)處理器DRP。
至今,經(jīng)過多年發(fā)展,在MCU中加入AI加速器正在變得越來越主流。
將AI能力集成到MCU上,使得AI算法可以實(shí)時(shí)地在設(shè)備本地進(jìn)行處理和響應(yīng),而無需依賴于云端或其他遠(yuǎn)程服務(wù)器。這提高了系統(tǒng)的實(shí)時(shí)性和即時(shí)響應(yīng)能力,使得設(shè)備能夠更快速地做出決策和反應(yīng),且可以在低功耗的情況下實(shí)現(xiàn)高效的AI計(jì)算。
當(dāng)MCU市場(chǎng)開始擁抱AI,一個(gè)全新的AIoT局面即將開啟。在下一波百億物聯(lián)設(shè)備的背后,MCU行業(yè)將迎來新的變革與重構(gòu)。
文章內(nèi)容僅供閱讀,不構(gòu)成投資建議,請(qǐng)謹(jǐn)慎對(duì)待。投資者據(jù)此操作,風(fēng)險(xiǎn)自擔(dān)。
根據(jù)2月底內(nèi)部溝通會(huì)上的消息,在美團(tuán)發(fā)展的第二個(gè)十年,“科技”成了公司創(chuàng)始人兼CEO王興會(huì)更多關(guān)注的方向之一。
奧維云網(wǎng)(AVC)推總數(shù)據(jù)顯示,2024年1-9月明火炊具線上零售額94.2億元,同比增加3.1%,其中抖音渠道表現(xiàn)優(yōu)異,同比有14%的漲幅,傳統(tǒng)電商略有下滑,同比降低2.3%。
“以前都要去窗口辦,一套流程下來都要半個(gè)月了,現(xiàn)在方便多了!”打開“重慶公積金”微信小程序,按照提示流程提交相關(guān)材料,僅幾秒鐘,重慶市民曾某的賬戶就打進(jìn)了21600元。
華碩ProArt創(chuàng)藝27 Pro PA279CRV顯示器,憑借其優(yōu)秀的性能配置和精準(zhǔn)的色彩呈現(xiàn)能力,為您的創(chuàng)作工作帶來實(shí)質(zhì)性的幫助,雙十一期間低至2799元,性價(jià)比很高,簡(jiǎn)直是創(chuàng)作者們的首選。
9月14日,2024全球工業(yè)互聯(lián)網(wǎng)大會(huì)——工業(yè)互聯(lián)網(wǎng)標(biāo)識(shí)解析專題論壇在沈陽(yáng)成功舉辦。