邊緣AI：可以在無線模塊上運行嗎？

　　作者：Magnus Johansson, u-blox 短程通信產(chǎn)品戰(zhàn)略部

　　人工智能(AI)的實效性、與物聯(lián)網(wǎng)設備的適用性以及邊緣計算的性能都在近期取得了顯著的進步，這也釋放了邊緣 AI 的潛能。本文深度探討了其中的原因。

　　在過去的十年里，人工智能 (AI) 已由一個概念轉變?yōu)槿藗兩�活中必不可少的一項技術。搜索、社交媒體源、在線廣告等服務都使用 AI 算法，并在云端對海量數(shù)據(jù)進行多元化處理，進而為每位用戶量身打造定制服務。此外，AI 的自主學習能力在網(wǎng)絡應用中也無處不在，包括優(yōu)化用戶體驗、業(yè)務流程和技術解決方案等。

　　與此同時，AI 在聯(lián)網(wǎng)設備中也開始得到廣泛應用，例如通過人臉識別解鎖手機、拍攝照片等應用。但值得一提的是：這些應用的AI計算在終端設備上就可實現(xiàn)，即邊緣 AI 算法。

　　AI 及相關的機器學習技術逐漸普及和成熟，越來越多的產(chǎn)品集成了邊緣 AI，幫助改善用戶服務體驗并能支持全新的應用場景。語音及人臉識別等手機標配功能僅僅是邊緣AI應用的很小一部分，未來將會有更多場景使用到邊緣AI技術。

　　邊緣 AI 技術優(yōu)勢

　　理解邊緣 AI 的工作原理有助于我們了解邊緣 AI 的優(yōu)勢。與標準人工智能類似，邊緣 AI 依賴于模擬人腦神經(jīng)網(wǎng)絡結構創(chuàng)建的數(shù)學模型，并通過訓練完成各種任務。例如，在接觸過網(wǎng)絡上大量紅綠燈圖片之后，這些神經(jīng)網(wǎng)絡就會輕而易舉地識別此類圖片。

　　訓練 AI 算法的過程需要大量數(shù)據(jù)，并且涉及大量的計算。但最終得到的是體積小、功能強的 AI 模型，可以輕松部署到任意數(shù)量的終端設備上。如果這些設備具有足夠的計算資源，那么運行算法時就不需要云端連接。

　　獨立于云端的邊緣 AI 技術優(yōu)勢：

　　通信要求：由于不必將語音或圖像數(shù)據(jù)上傳到云端，設備在本地運行 AI 算法，節(jié)約的帶寬可以用來滿足其他方面的需求，或者只需要低帶寬無線通信技術就可以運行。當然，云端連接仍然具備其特有的優(yōu)勢，例如在新版、改進版模型發(fā)布之后，可以遠程更新 AI 模型。

　　延遲：由于是在設備上直接運行 AI 算法，不必將感測數(shù)據(jù)上傳到云端再將輸出結果回傳到終端設備，這樣就可以大幅降低延遲，實現(xiàn)流暢、無延遲的用戶體驗。

　　隱私：如果連最尖端的聯(lián)網(wǎng)設備都不能幸免于數(shù)據(jù)遭黑客攔截的風險，那么很顯然，位于中低價格區(qū)間的消費電子設備受到此類威脅的風險會更高。而邊緣 AI 設備是在本地處理所有數(shù)據(jù)(包括語音、圖像或其他數(shù)據(jù))，這些數(shù)據(jù)在本地設備中處理，因此不會遭到攔截。

　　邊緣 AI 應用場景

　　人臉識別除了可以在智能手機上使用，也可以在其他場景中用于用戶驗證。例如，商業(yè)門禁解決方案通過人臉識別來確保進入限制區(qū)域的員工均經(jīng)過授權，而安保攝像頭則可以利用人臉識別功能在檢測到陌生人進入建筑時觸發(fā)警報。同樣，在健身房、醫(yī)療診所或商業(yè)場館，人臉識別還可以用來辨別客戶。

　　與此同時，語音用戶界面也越來越流行。畢竟，直接與智能設備對話(并且單方面被理解)應該是最方便的互動方式了。語音識別技術可以驗證用戶身份，處理輸入的語音指令，近年來在智能手機和智能個人助理的應用中被逐漸完善，現(xiàn)在已經(jīng)開始出現(xiàn)在汽車和智能家居設備應用中，同時還為無法打字的殘疾人士帶來了便利。

　　在工業(yè)領域，邊緣 AI 可用于標記設備的異常行為，例如電機出現(xiàn)故障的早期特征或軸承的磨損跡象。針對此類異常檢測應用場景，我們使用包含正常行為的數(shù)據(jù)集對 AI 模型進行訓練。只要檢測到任何偏離標準的情況，工廠操作人員就會收到警報，從而能夠了解機械設備潛在的故障并且盡早進行處理，避免停機所造成的高昂經(jīng)濟和時間損失。

　　攜手 u-blox 部署邊緣 AI技術

　　在無線智能設備中部署邊緣 AI 應用場景已經(jīng)變得非常便捷，而且其性能也更強大。u-blox 剛剛推出了 NORA-W10 Wi-Fi 4 和藍牙低功耗 5.0 模塊，專為實現(xiàn)和加速邊緣 AI 應用部署而設計。NORA-W10模塊除了采用高性能 open CPU 來支持功能豐富的客戶應用，還支持語音和人臉識別的 AI計算。用于邊緣神經(jīng)網(wǎng)絡推理(8 位和 16 位模型)的 AI 矢量指令可以帶來額外的性能提升，顯著加快 AI 算法速度，降低感知延遲，并且還能減少耗電量。