高通與 Meta 合作：利用 Llama 2 模型啟用設(shè)備端人工智能應(yīng)用

　　高通和 Meta 兩家公司今天宣布，將從 2024 年開始，這家社交網(wǎng)絡(luò)公司的新大型語言模型 Llama 2 可以在手機(jī)和 PC 上的高通芯片上運(yùn)行。

　　迄今為止，大型語言模型主要在大型服務(wù)器機(jī)房上運(yùn)行，使用英偉達(dá)圖形處理器，這是由于該技術(shù)對計算能力和數(shù)據(jù)的巨大需求，推動了英偉達(dá)股價的上漲，今年已上漲超過 220%。但是，對于像高通這樣的手機(jī)和個人電腦領(lǐng)先芯片制造商來說，人工智能熱潮的收益相對較少。高通股價今年迄今上漲約 10%，落后于納斯達(dá)克指數(shù)的 36% 的漲幅。

　　周二的宣布表明，高通希望將其處理器定位為非常適合人工智能的「邊緣」設(shè)備，而不是「云端」。如果大型語言模型可以在手機(jī)上運(yùn)行而不是在大型數(shù)據(jù)中心中，這可能會降低運(yùn)行人工智能模型的顯著成本，并可能帶來更好、更快的語音助手和其他應(yīng)用程序。

　　高通將在其設(shè)備上提供 Meta 的開源 Llama 2 模型，相信這將實現(xiàn)智能虛擬助手等應(yīng)用程序。Meta 的 Llama 2 可以執(zhí)行與 ChatGPT 類似的許多功能，但可以以更小的程序打包，使其能夠在手機(jī)上運(yùn)行。

　　高通的芯片包括適用于人工智能模型所需計算的「張量處理器單元」(TPU)。然而，與備有尖端 GPU 的數(shù)據(jù)中心相比，移動設(shè)備上可用的處理能力相形見絀。

　　Meta 的 Llama 引人注目之處在于，Meta 公開了其模型的「權(quán)重」，這是一組幫助指導(dǎo)特定人工智能模型運(yùn)作的數(shù)字。通過這樣做，研究人員甚至商業(yè)企業(yè)可以在自己的計算機(jī)上使用這些人工智能模型，無需請求或支付許可費(fèi)用。而其他知名的大型語言模型，如 OpenAI 的 GPT-4 或 Google 的 Bard，是封閉源代碼的，其權(quán)重是嚴(yán)格保密的。

　　高通此前與 Meta 密切合作，特別是在其 Quest 虛擬現(xiàn)實設(shè)備的芯片上。高通還演示了一些在其芯片上運(yùn)行較慢的人工智能模型，例如開源圖像生成器 Stable Diffusion。