邊緣AI：可以在無線模塊上運行嗎？

　　作者：Magnus Johansson, u-blox 短程通信產(chǎn)品戰(zhàn)略部

　　人工智能(AI)的實效性、與物聯(lián)網(wǎng)設(shè)備的適用性以及邊緣計算的性能都在近期取得了顯著的進步，這也釋放了邊緣 AI 的潛能。本文深度探討了其中的原因。

　　在過去的十年里，人工智能 (AI) 已由一個概念轉(zhuǎn)變?yōu)槿藗兩�活中必不可少的一項技術(shù)。搜索、社交媒體源、在線廣告等服務(wù)都使用 AI 算法，并在云端對海量數(shù)據(jù)進行多元化處理，進而為每位用戶量身打造定制服務(wù)。此外，AI 的自主學(xué)習(xí)能力在網(wǎng)絡(luò)應(yīng)用中也無處不在，包括優(yōu)化用戶體驗、業(yè)務(wù)流程和技術(shù)解決方案等。

　　與此同時，AI 在聯(lián)網(wǎng)設(shè)備中也開始得到廣泛應(yīng)用，例如通過人臉識別解鎖手機、拍攝照片等應(yīng)用。但值得一提的是：這些應(yīng)用的AI計算在終端設(shè)備上就可實現(xiàn)，即邊緣 AI 算法。

　　AI 及相關(guān)的機器學(xué)習(xí)技術(shù)逐漸普及和成熟，越來越多的產(chǎn)品集成了邊緣 AI，幫助改善用戶服務(wù)體驗并能支持全新的應(yīng)用場景。語音及人臉識別等手機標配功能僅僅是邊緣AI應(yīng)用的很小一部分，未來將會有更多場景使用到邊緣AI技術(shù)。

　　邊緣 AI 技術(shù)優(yōu)勢

　　理解邊緣 AI 的工作原理有助于我們了解邊緣 AI 的優(yōu)勢。與標準人工智能類似，邊緣 AI 依賴于模擬人腦神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)創(chuàng)建的數(shù)學(xué)模型，并通過訓(xùn)練完成各種任務(wù)。例如，在接觸過網(wǎng)絡(luò)上大量紅綠燈圖片之后，這些神經(jīng)網(wǎng)絡(luò)就會輕而易舉地識別此類圖片。

　　訓(xùn)練 AI 算法的過程需要大量數(shù)據(jù)，并且涉及大量的計算。但最終得到的是體積小、功能強的 AI 模型，可以輕松部署到任意數(shù)量的終端設(shè)備上。如果這些設(shè)備具有足夠的計算資源，那么運行算法時就不需要云端連接。

　　獨立于云端的邊緣 AI 技術(shù)優(yōu)勢：

　　通信要求：由于不必將語音或圖像數(shù)據(jù)上傳到云端，設(shè)備在本地運行 AI 算法，節(jié)約的帶寬可以用來滿足其他方面的需求，或者只需要低帶寬無線通信技術(shù)就可以運行。當然，云端連接仍然具備其特有的優(yōu)勢，例如在新版、改進版模型發(fā)布之后，可以遠程更新 AI 模型。

　　延遲：由于是在設(shè)備上直接運行 AI 算法，不必將感測數(shù)據(jù)上傳到云端再將輸出結(jié)果回傳到終端設(shè)備，這樣就可以大幅降低延遲，實現(xiàn)流暢、無延遲的用戶體驗。

　　隱私：如果連最尖端的聯(lián)網(wǎng)設(shè)備都不能幸免于數(shù)據(jù)遭黑客攔截的風(fēng)險，那么很顯然，位于中低價格區(qū)間的消費電子設(shè)備受到此類威脅的風(fēng)險會更高。而邊緣 AI 設(shè)備是在本地處理所有數(shù)據(jù)(包括語音、圖像或其他數(shù)據(jù))，這些數(shù)據(jù)在本地設(shè)備中處理，因此不會遭到攔截。

　　邊緣 AI 應(yīng)用場景

　　人臉識別除了可以在智能手機上使用，也可以在其他場景中用于用戶驗證。例如，商業(yè)門禁解決方案通過人臉識別來確保進入限制區(qū)域的員工均經(jīng)過授權(quán)，而安保攝像頭則可以利用人臉識別功能在檢測到陌生人進入建筑時觸發(fā)警報。同樣，在健身房、醫(yī)療診所或商業(yè)場館，人臉識別還可以用來辨別客戶。

　　與此同時，語音用戶界面也越來越流行。畢竟，直接與智能設(shè)備對話(并且單方面被理解)應(yīng)該是最方便的互動方式了。語音識別技術(shù)可以驗證用戶身份，處理輸入的語音指令，近年來在智能手機和智能個人助理的應(yīng)用中被逐漸完善，現(xiàn)在已經(jīng)開始出現(xiàn)在汽車和智能家居設(shè)備應(yīng)用中，同時還為無法打字的殘疾人士帶來了便利。

　　在工業(yè)領(lǐng)域，邊緣 AI 可用于標記設(shè)備的異常行為，例如電機出現(xiàn)故障的早期特征或軸承的磨損跡象。針對此類異常檢測應(yīng)用場景，我們使用包含正常行為的數(shù)據(jù)集對 AI 模型進行訓(xùn)練。只要檢測到任何偏離標準的情況，工廠操作人員就會收到警報，從而能夠了解機械設(shè)備潛在的故障并且盡早進行處理，避免停機所造成的高昂經(jīng)濟和時間損失。

　　攜手 u-blox 部署邊緣 AI技術(shù)

　　在無線智能設(shè)備中部署邊緣 AI 應(yīng)用場景已經(jīng)變得非常便捷，而且其性能也更強大。u-blox 剛剛推出了 NORA-W10 Wi-Fi 4 和藍牙低功耗 5.0 模塊，專為實現(xiàn)和加速邊緣 AI 應(yīng)用部署而設(shè)計。NORA-W10模塊除了采用高性能 open CPU 來支持功能豐富的客戶應(yīng)用，還支持語音和人臉識別的 AI計算。用于邊緣神經(jīng)網(wǎng)絡(luò)推理(8 位和 16 位模型)的 AI 矢量指令可以帶來額外的性能提升，顯著加快 AI 算法速度，降低感知延遲，并且還能減少耗電量。