邁向AIoT新紀(jì)元：云天勵(lì)飛邊緣AI戰(zhàn)略全貌在WAIC 2024閃耀登場(chǎng)

　　7月5日,由中國(guó)信息通信研究院承辦的WAIC 2024“邁向AGI:大模型煥新與產(chǎn)業(yè)賦能”論壇在上海成功召開。論壇深度聚焦大模型行業(yè)應(yīng)用落地、終端智能、大模型安全等前沿?zé)狳c(diǎn)話題。云天勵(lì)飛董事長(zhǎng)兼CEO陳寧博士受邀發(fā)表主題演講,首次展示云天勵(lì)飛邊緣AI的戰(zhàn)略全貌。

　　大模型落地的多重挑戰(zhàn) 邊緣AI提供解法

　　今年WAIC上,“大模型+行業(yè)”的應(yīng)用落地成為關(guān)注熱點(diǎn)。

　　當(dāng)前,云端大模型落地行業(yè)面臨許多挑戰(zhàn):行業(yè)數(shù)據(jù)缺失,信息反饋緩慢,長(zhǎng)尾場(chǎng)景無(wú)法覆蓋,模型幻覺等。大模型應(yīng)用落地進(jìn)入“深水區(qū)”,上述難點(diǎn)如何應(yīng)對(duì)?云天勵(lì)飛的答案是:邊緣AI。

　　云天勵(lì)飛董事長(zhǎng)兼CEO陳寧博士

　　邊緣AI具備三個(gè)特點(diǎn):更低成本、更好的數(shù)據(jù)隱私保護(hù)以及更快的響應(yīng)速度。

　　近年來(lái),越來(lái)越多行業(yè)巨頭開始擁抱邊緣AI:一方面,谷歌、微軟、Meta包括云天勵(lì)飛都推出了輕量化大模型支撐邊緣AI的應(yīng)用;另一方面,蘋果、英偉達(dá)等巨頭推出邊緣AI芯片,應(yīng)用在AI 手機(jī)和機(jī)器人上,云天勵(lì)飛也在2022年底推出DeepEdge 10系列芯片,支撐邊緣端的大模型運(yùn)行。

　　此外,邊緣AI讓物聯(lián)網(wǎng)升級(jí)成為AIoT,助力大模型落地。國(guó)泰君安證券研究所數(shù)據(jù)顯示,隨著AIOT的發(fā)展,未來(lái)3年邊緣智能硬件設(shè)備將保持50%以上的復(fù)合增長(zhǎng)率。

　　從行業(yè)發(fā)展趨勢(shì)中可以看到,邊緣AI正在加速到來(lái)。

　　在應(yīng)用落地層面,邊緣AI分為個(gè)人、家庭、城市三類場(chǎng)景:

　　在個(gè)人領(lǐng)域,搭載了邊緣AI的各種3C設(shè)備讓每個(gè)人都能擁有一個(gè)AI Copilot,AI服務(wù)隨手可得;

　　在家庭領(lǐng)域,邊緣AI讓以服務(wù)機(jī)器人為代表的各種智能終端主動(dòng)完成家庭任務(wù),成為每個(gè)家庭的生活助手;

　　在城市領(lǐng)域,邊緣AI賦能下的千行百業(yè)實(shí)現(xiàn)無(wú)數(shù)場(chǎng)景的價(jià)值閉環(huán),如公共安全從“被動(dòng)治理”到“主動(dòng)預(yù)防”,城市治理實(shí)現(xiàn)從發(fā)現(xiàn)、分撥到處置、上報(bào)的整體閉環(huán)等。

　　未來(lái),邊緣AI將滲透至物理世界的各個(gè)角落

　　在演講中,陳寧博士提到,邊緣AI的發(fā)展可以分為四個(gè)階段:

　　第一個(gè)階段是在邊緣設(shè)備上搭載小模型算法,讓邊緣設(shè)備具有處理簡(jiǎn)單任務(wù)的能力,比如在攝像頭中加入車輛識(shí)別、人臉識(shí)別等算法;

　　第二階段是視覺語(yǔ)義大模型走向邊緣,代表的產(chǎn)品有AI手機(jī)、AI PC等,這也是我們當(dāng)前所處的階段;

　　第三階段是端到端行為大模型走向邊緣,在這一階段,各類機(jī)器人、智能可穿戴設(shè)備將變得隨處可見;

　　第四階段是通用人工智能時(shí)代,屆時(shí)我們將進(jìn)入萬(wàn)物皆智能的世界。

　　云天勵(lì)飛邊緣AI布局全景

　　基于當(dāng)前邊緣AI的發(fā)展趨勢(shì)和多年的技術(shù)積累,云天勵(lì)飛制定了"2+3+3"邊緣AI的戰(zhàn)略布局全景,即2個(gè)技術(shù)平臺(tái)——多模態(tài)大模型、NPU加速計(jì)算平臺(tái);3類主營(yíng)業(yè)務(wù)——智能硬件、智算運(yùn)營(yíng)、智慧行業(yè);3個(gè)應(yīng)用方向——個(gè)人Copilot、家庭Copilot、城市Copilot,助力邊緣AI滲透至物理世界的各個(gè)角落。

　　入選信通院2024大模型典型示范應(yīng)用案例 數(shù)字政務(wù)大模型落地實(shí)踐

　　在本次論壇中,中國(guó)信息通信研究院發(fā)布了2024大模型示范應(yīng)用案例,“云天天書”數(shù)字政務(wù)大模型榮列其中。

　　云天勵(lì)飛提出“E-MAGIC”政務(wù)大模型服務(wù)框架,集成數(shù)據(jù)交易平臺(tái)、AIGC內(nèi)容生成平臺(tái)、數(shù)據(jù)加工及分析平臺(tái)、GPT大模型訓(xùn)練中心、輸入提示工程中心和算力支持六大核心組件,利用前沿的AI技術(shù)和大數(shù)據(jù)處理能力,為政府部門提供高效的數(shù)據(jù)服務(wù)和智能化解決方案,提升日常辦公的效率及服務(wù)質(zhì)量等。

　　云天勵(lì)飛“E-MAGIC”政府大模型平臺(tái)架構(gòu)

　　此外,云天勵(lì)飛在某區(qū)全面落地的數(shù)字政府大模型,實(shí)現(xiàn)了基層工作“大減負(fù)”:比如在12345系統(tǒng),過去人工根據(jù)權(quán)責(zé)清單進(jìn)行點(diǎn)選和事件分撥最快也需要15秒,在應(yīng)用大模型后3秒后即可實(shí)現(xiàn)智能分撥,無(wú)需人工參與,還能避免誤操作,效率提升達(dá)到80%。

　　在今年的WAIC上,“大模型+行業(yè)”成為趨勢(shì),如何讓大模型作為新質(zhì)生產(chǎn)力賦能千行百業(yè)是政府部門和企業(yè)都關(guān)心的問題。在這個(gè)過程中,云天勵(lì)飛將持續(xù)深耕,不斷創(chuàng)新,推動(dòng)邊緣AI與物理世界的融合,加速推動(dòng)大模型行業(yè)落地。