移遠(yuǎn)通信推出端側(cè)大模型解決方案

　　近日，移遠(yuǎn)通信發(fā)布了其端側(cè)大模型解決方案，該方案融合了LLM(大語(yǔ)言模型)、RAG(檢索增強(qiáng)生成)與Agent(智能代理)等前沿技術(shù)，旨在實(shí)現(xiàn)“情景理解、知識(shí)融合、智能交互、自主決策、任務(wù)執(zhí)行”等核心功能，目前已在服務(wù)機(jī)器人領(lǐng)域加速應(yīng)用。

　　該解決方案基于移遠(yuǎn)邊緣計(jì)算智能模組SG885G-WF，搭載高通QCS8550平臺(tái)，綜合算力高達(dá)48 TOPS，為服務(wù)機(jī)器人提供了強(qiáng)大的計(jì)算支持。在移遠(yuǎn)大模型解決方案的助力下，服務(wù)機(jī)器人可實(shí)現(xiàn)1秒以內(nèi)的意圖識(shí)別，解碼速率超過15 tokens/s，顯著提升了智能交互的效率和精準(zhǔn)度。

　　隨著人工智能技術(shù)的快速發(fā)展，移遠(yuǎn)通信的端側(cè)大模型解決方案為服務(wù)機(jī)器人等智能設(shè)備提供了更加高效、靈活的技術(shù)支持，進(jìn)一步推動(dòng)了智能終端產(chǎn)業(yè)的創(chuàng)新與升級(jí)。