聯(lián)發(fā)科運(yùn)用Llama2大語(yǔ)言模型，讓手機(jī)可運(yùn)行生成式AI

　　8月24日消息，聯(lián)發(fā)科透露，將利用 Meta 新一代開(kāi)源大語(yǔ)言模型(LLM)Llama 2 以及自家旗下先進(jìn)的 AI 處理器(APU)和完整的 AI 開(kāi)發(fā)平臺(tái)(NeuroPilot)，建立完整的終端側(cè) AI 計(jì)算生態(tài)，加速智能手機(jī)、物聯(lián)網(wǎng)、汽車、智能家居和其他邊緣設(shè)備的 AI 應(yīng)用開(kāi)發(fā)，為終端設(shè)備提供更安全、可靠和差異化的使用體驗(yàn)。

　　據(jù)聯(lián)發(fā)科官方公眾號(hào)24日透露，預(yù)計(jì)年末采用聯(lián)發(fā)科新一代天璣旗艦移動(dòng)芯片的智能手機(jī)支持由 Llama 2 模型開(kāi)發(fā)的 AI 應(yīng)用，可為用戶帶來(lái)振奮人心的生成式 AI 應(yīng)用體驗(yàn)。

　　目前，大多數(shù)生成式 AI 都依賴云計(jì)算，聯(lián)發(fā)科基于 Llama 2 模型成功實(shí)現(xiàn)直接在終端設(shè)備上運(yùn)行生成式 AI 應(yīng)用。這將為開(kāi)發(fā)者和用戶提供獨(dú)特優(yōu)勢(shì)，包括無(wú)縫的使用體驗(yàn)，更強(qiáng)的用戶信息安全和可靠性，更低延遲，離線運(yùn)算的能力以及更低的運(yùn)營(yíng)成本，讓每個(gè)人都能享受到生成式 AI 帶來(lái)的便捷與創(chuàng)新。

　　要在終端設(shè)備上充分釋放生成式 AI 的潛力，設(shè)備制造商需采用高算力、低功耗的 AI 處理器(APU)，并通過(guò)更快、更可靠的網(wǎng)絡(luò)連接來(lái)增強(qiáng)設(shè)備的整體算力。

　　如今，每一顆聯(lián)發(fā)科 5G 智能手機(jī) SoC 均搭載 AI 處理器，已廣泛執(zhí)行生成式 AI 應(yīng)用成功案例，例如 AI 降噪(AI-NR)、AI 超級(jí)分辨率(AI-SR)以及 AI 運(yùn)動(dòng)補(bǔ)償(AI-MEMC)等。

　　聯(lián)發(fā)科將于年末推出新一代旗艦移動(dòng)芯片，將采用針對(duì) Llama 2 模型而優(yōu)化的軟件棧(NeuroPilot)，與搭配支持 Transformer 模型做骨干網(wǎng)絡(luò)加速的升級(jí)版 AI 處理器(APU)，可減少動(dòng)態(tài)隨機(jī)存取內(nèi)存(DRAM)的讀寫消耗和帶寬占用，進(jìn)一步強(qiáng)化大語(yǔ)言模型和生成式 AI 應(yīng)用的性能，助力開(kāi)發(fā)者打造令人驚艷的 AI 應(yīng)用，加速終端設(shè)備 AI 應(yīng)用落地發(fā)展。