在當前的經(jīng)濟環(huán)境下,研發(fā)資金必須比以往任何時候都更加充分。企業(yè)對未來技術(shù)和基礎(chǔ)設施的投資往往不以為然,而失敗的風險卻給項目利益相關(guān)者帶來了巨大壓力。
然而,這并不意味著創(chuàng)新應該停止甚至放緩。對于初創(chuàng)企業(yè)和大型企業(yè)而言,致力于新技術(shù)和變革性技術(shù)對于確保當前和未來的競爭力至關(guān)重要。人工智能(AI) 為越來越廣泛的行業(yè)提供多方面的解決方案。
在過去十年中,人工智能在釋放全新的收入機會方面發(fā)揮了重要作用。從理解和預測用戶行為到協(xié)助生成代碼和內(nèi)容,人工智能和機器學習 (ML) 革命已經(jīng)使消費者從他們的應用、網(wǎng)站和在線服務中獲得的價值成倍增加。
然而,這場革命在很大程度上僅限于云,其中幾乎無限的存儲和計算,以及主要公共云服務提供商提供的方便的虛擬硬件,使得為每個AI/ML應用建立最佳實踐模式變得相對容易可以想象。
AI:移動到邊緣
由于AI處理主要發(fā)生在云端,因此AI/ML革命對于邊緣設備來說仍然遙不可及。這些是在工廠車間、建筑工地、研究實驗室、自然保護區(qū)、我們佩戴的配飾和衣服上、我們運送的包裹內(nèi)以及任何其他需要連接的環(huán)境中發(fā)現(xiàn)的更小、低功耗的處理器、存儲、計算和能源是有限的或不能被視為理所當然。在他們的環(huán)境中,計算周期和硬件架構(gòu)很重要,預算不是以端點或套接字連接的數(shù)量來衡量的,而是以瓦特和納秒來衡量的。
希望打破人工智能/機器學習領(lǐng)域下一個技術(shù)障礙的首席技術(shù)官、工程、數(shù)據(jù)和機器學習領(lǐng)導者以及產(chǎn)品團隊必須將目光投向邊緣。邊緣AI和邊緣ML提出了獨特而復雜的挑戰(zhàn),需要許多利益相關(guān)者的精心協(xié)調(diào)和參與,這些利益相關(guān)者具有從系統(tǒng)集成、設計、運營和物流到嵌入式、數(shù)據(jù)、IT 和 ML工程的廣泛專業(yè)知識。
邊緣AI意味著算法必須在某種特定用途的硬件中運行,從高端的網(wǎng)關(guān)或本地服務器到低端的能量收集傳感器和MCU。確保此類產(chǎn)品和應用的成功需要數(shù)據(jù)和ML團隊與產(chǎn)品和硬件團隊密切合作,以了解和考慮彼此的需求、約束和要求。
雖然構(gòu)建定制邊緣AI解決方案的挑戰(zhàn)并非無法克服,但存在用于邊緣AI算法開發(fā)的平臺可以幫助彌合必要團隊之間的差距,確保在更短的時間內(nèi)取得更高水平的成功,并驗證進一步投資的方向應該制作。以下是其他需要注意的事項。
在開發(fā)算法的同時測試硬件
由數(shù)據(jù)科學和 ML團隊開發(fā)算法,然后將其傳遞給固件工程師以將其安裝在設備上,這既不高效也不總是可能的。硬件在環(huán)測試和部署應該是任何邊緣 AI 開發(fā)管道的基本組成部分。如果沒有同時在硬件上運行和測試算法的方法,則很難預見在開發(fā)邊緣AI算法時可能出現(xiàn)的內(nèi)存、性能和延遲限制。
一些基于云的模型架構(gòu)也不意味著在任何類型的受限或邊緣設備上運行,提前預測可以為固件和ML團隊節(jié)省數(shù)月的痛苦。
物聯(lián)網(wǎng)數(shù)據(jù)不等于大數(shù)據(jù)
大數(shù)據(jù)是指可以分析以揭示模式或趨勢的大型數(shù)據(jù)集。然而,物聯(lián)網(wǎng)(IoT) 數(shù)據(jù)并不一定與數(shù)量有關(guān),而是與數(shù)據(jù)的質(zhì)量有關(guān)。此外,此數(shù)據(jù)可以是時間序列傳感器或音頻數(shù)據(jù),或圖像,并且可能需要進行預處理。
將數(shù)字信號處理 (DSP) 等傳統(tǒng)傳感器數(shù)據(jù)處理技術(shù)與AI/ML相結(jié)合,可以產(chǎn)生新的邊緣AI算法,提供以前技術(shù)無法實現(xiàn)的準確洞察力。但物聯(lián)網(wǎng)數(shù)據(jù)不是大數(shù)據(jù),因此用于邊緣人工智能開發(fā)的這些數(shù)據(jù)集的數(shù)量和分析會有所不同。根據(jù)生成的模型準確性和性能快速試驗數(shù)據(jù)集大小和質(zhì)量是通往生產(chǎn)可部署算法道路上的重要一步。
開發(fā)硬件已經(jīng)夠難了
如果不知道所選硬件是否可以運行邊緣AI軟件工作負載,則構(gòu)建硬件很困難。在選擇材料清單之前就開始對硬件進行基準測試至關(guān)重要。對于現(xiàn)有硬件,設備上可用內(nèi)存的限制可能更為關(guān)鍵。
即使使用早期的小型數(shù)據(jù)集,邊緣AI開發(fā)平臺也可以開始提供運行AI工作負載所需的硬件類型的性能和內(nèi)存估計。
有一個過程來權(quán)衡設備選擇和基準測試與早期版本的邊緣AI模型可以確保硬件支持到位,以支持將在設備上運行的所需固件和AI模型。
構(gòu)建、驗證新的邊緣AI軟件并將其推向生產(chǎn)
選擇開發(fā)平臺時,還值得考慮不同廠商提供的工程支持。Edge AI包含數(shù)據(jù)科學、ML、固件和硬件,供應商在內(nèi)部開發(fā)團隊可能需要一些額外支持的領(lǐng)域提供指導非常重要。
在某些情況下,它不是關(guān)于將要開發(fā)的實際模型,而是更多關(guān)于系統(tǒng)級設計流程的規(guī)劃,包括數(shù)據(jù)基礎(chǔ)設施、ML開發(fā)工具、測試、部署環(huán)境和持續(xù)集成、持續(xù)部署 (CI /CD) 管道。
最后,對于邊緣AI開發(fā)工具而言,重要的是要適應團隊中的不同用戶——從ML工程師到固件開發(fā)人員。低代碼/無代碼用戶界面是快速構(gòu)建新應用原型和構(gòu)建新應用的好方法,而API和SDK對更有經(jīng)驗的ML開發(fā)人員很有用,他們可以從Jupyter notebooks使用Python更好更快地工作。
平臺提供了訪問靈活性的優(yōu)勢,迎合了構(gòu)建邊緣AI應用的跨職能團隊中可能存在的多個利益相關(guān)者或開發(fā)人員的需求。
本文作者:Sheena Patel是Edge Impulse的高級企業(yè)客戶經(jīng)理,Jorge Silva是Edge Impulse的高級解決方案工程師。
文章內(nèi)容僅供閱讀,不構(gòu)成投資建議,請謹慎對待。投資者據(jù)此操作,風險自擔。
2024年的Adobe MAX 2024發(fā)布會上,Adobe推出了最新版本的Adobe Creative Cloud。
奧維云網(wǎng)(AVC)推總數(shù)據(jù)顯示,2024年1-9月明火炊具線上零售額94.2億元,同比增加3.1%,其中抖音渠道表現(xiàn)優(yōu)異,同比有14%的漲幅,傳統(tǒng)電商略有下滑,同比降低2.3%。
“以前都要去窗口辦,一套流程下來都要半個月了,現(xiàn)在方便多了!”打開“重慶公積金”微信小程序,按照提示流程提交相關(guān)材料,僅幾秒鐘,重慶市民曾某的賬戶就打進了21600元。
華碩ProArt創(chuàng)藝27 Pro PA279CRV顯示器,憑借其優(yōu)秀的性能配置和精準的色彩呈現(xiàn)能力,為您的創(chuàng)作工作帶來實質(zhì)性的幫助,雙十一期間低至2799元,性價比很高,簡直是創(chuàng)作者們的首選。
9月14日,2024全球工業(yè)互聯(lián)網(wǎng)大會——工業(yè)互聯(lián)網(wǎng)標識解析專題論壇在沈陽成功舉辦。