全球工業(yè)物聯(lián)網(wǎng)品牌廠商研華科技成功整合英偉達(dá)(NVIDIA) 生成式AI模型于MIC-733-AO邊緣AI推理盒子,并在英偉達(dá)GTC 2024 GPU科技展研華攤位上進(jìn)行展示(No. 232),該產(chǎn)品預(yù)示:未來生成式AI將大幅減少開發(fā)者訓(xùn)練模型的時間,在工業(yè)應(yīng)用上也能以更快速更方便的得到AI推理的結(jié)果。
研華MIC-733-AO+英偉達(dá)生成式AI模型=邊緣生成式AI系統(tǒng)
研華MIC-733-AO邊緣AI系統(tǒng)基于英偉達(dá)Jetson AGX Orin™平臺,搭載英偉達(dá)Jetson AI實(shí)驗(yàn)室的生成式人工智能模型,現(xiàn)在成功高效率運(yùn)行大型語言模型(LLMs)、視覺語言模型(VLM)、視覺變換器(ViT)以及圖像生成和對話生成Llamaspeak,這要?dú)w功于英偉達(dá)Jetson AGX Orin™平臺的獨(dú)特優(yōu)勢,包括加速計(jì)算、重要的AI軟件和預(yù)先訓(xùn)練的模型,有助于創(chuàng)建、自定義和部署適用于各種應(yīng)用和地點(diǎn)的生成式AI模型。
利用英偉達(dá)Jetson AI實(shí)驗(yàn)室的生成式AI模型,AI開發(fā)者可以運(yùn)用檢索增強(qiáng)生成(RAG)技術(shù),將LLMs和VLMs連接到公司的知識庫。這種方法消除了傳統(tǒng)AI模型訓(xùn)練的需求,允許透過與系統(tǒng)的簡單對話交互來產(chǎn)生AI推論,明顯縮短了開發(fā)時間。研華MIC-733-AO擁有高AI運(yùn)算效能和多個影像輸入接口,例如IP攝影機(jī)、USB/gigE工業(yè)相機(jī)、GMSL攝影機(jī)、激光雷達(dá)等,讓開發(fā)者可以輕松串接影像訊息結(jié)合AI運(yùn)算,而工業(yè)級小體積設(shè)計(jì)更適合放在邊緣端應(yīng)用,即使在英偉達(dá)Jetson AGX Orin運(yùn)行滿載時,出色的散熱設(shè)計(jì)也能防止系統(tǒng)過熱確保正常運(yùn)行。
邊緣生成式AI系統(tǒng)反應(yīng)更實(shí)時,應(yīng)用更多元
生成式AI通過從不同的輸入和輸出(例如文本和圖像)創(chuàng)建新內(nèi)容,正在改變?nèi)伺c計(jì)算機(jī)的互動方式。從云端到邊緣端,邊緣端生成式AI更適合需要快速反應(yīng)和低延遲環(huán)境的良好解決方案。在邊緣端生成式AI相對于云端生成式AI的解決方案具有以下幾點(diǎn)優(yōu)勢:
實(shí)時反應(yīng):根據(jù)攝影機(jī)和傳感器等數(shù)據(jù)來源的邊緣計(jì)算系統(tǒng)能夠立即回應(yīng),無需等待與云端上傳數(shù)據(jù)造成的延遲。
數(shù)據(jù)安全:數(shù)據(jù)儲存在邊緣系統(tǒng)中,大幅降低云端數(shù)據(jù)傳輸相關(guān)的安全風(fēng)險(xiǎn)。
穩(wěn)定的網(wǎng)絡(luò)連接:即使沒有無線網(wǎng)絡(luò),邊緣系統(tǒng)也能夠操作并將數(shù)據(jù)存儲在本地端,直到網(wǎng)絡(luò)恢復(fù),而云端生成式AI在沒有網(wǎng)絡(luò)時將無法運(yùn)作。
低傳輸成本:邊緣端AI因不需要隨時傳輸數(shù)據(jù)給云端,僅需低量傳輸,比云端AI隨時上傳數(shù)據(jù)更具成本效益。
邊緣生成式AI代表了人工智能時代的未來。研華MIC-733-AO邊緣生成式AI系統(tǒng),整合英偉達(dá)Jetson AI實(shí)驗(yàn)室的生成式AI模型,為AI開發(fā)者提供了一個簡單的解決方案。
文章內(nèi)容僅供閱讀,不構(gòu)成投資建議,請謹(jǐn)慎對待。投資者據(jù)此操作,風(fēng)險(xiǎn)自擔(dān)。
近日,德國柏林國際電子消費(fèi)品展覽會(IFA2024)隆重舉辦。憑借在核心技術(shù)、產(chǎn)品設(shè)計(jì)及應(yīng)用方面的創(chuàng)新變革,全球領(lǐng)先的智能終端企業(yè)TCL實(shí)業(yè)成功斬獲兩項(xiàng)“IFA全球產(chǎn)品設(shè)計(jì)創(chuàng)新大獎”金獎,有力證明了其在全球市場的強(qiáng)大影響力。
近日,中國家電及消費(fèi)電子博覽會(AWE 2024)隆重開幕。全球領(lǐng)先的智能終端企業(yè)TCL實(shí)業(yè)攜多款創(chuàng)新技術(shù)和新品亮相,以敢為精神勇闖技術(shù)無人區(qū),斬獲四項(xiàng)AWE 2024艾普蘭大獎。
“以前都要去窗口辦,一套流程下來都要半個月了,現(xiàn)在方便多了!”打開“重慶公積金”微信小程序,按照提示流程提交相關(guān)材料,僅幾秒鐘,重慶市民曾某的賬戶就打進(jìn)了21600元。
由世界人工智能大會組委會、上海市經(jīng)信委、徐匯區(qū)政府、臨港新片區(qū)管委會共同指導(dǎo),由上海市人工智能行業(yè)協(xié)會聯(lián)合上海人工智能實(shí)驗(yàn)室、上海臨港經(jīng)濟(jì)發(fā)展(集團(tuán))有限公司、開放原子開源基金會主辦的“2024全球開發(fā)者先鋒大會”,將于2024年3月23日至24日舉辦。