Meta新大語言模型LLama 3將在英特爾和高通硬件上運行

　　Meta 最近發(fā)布了 LLama3，這是一款新的大型語言模型(LLM)，用于實現(xiàn)更安全、更準確的生成式人工智能體驗。除了 LLM，Meta 還推出了 Llama Guard2、Code Shield 和 CyberSec Eval2等信任和安全工具，以幫助確保符合行業(yè)和用戶安全期望。盡管 Meta 仍在開發(fā) LLama3AI 模型，但公司現(xiàn)在已經(jīng)向公眾發(fā)布了前兩個模型。

　　Llama3將安全性內(nèi)置到模型中，并提供多平臺硬件支持。Meta 指出，LLama3的支持將很快在包括云提供商和模型 API 提供商在內(nèi)的所有主要平臺上提供。將很快托管 LLama3LLM 的公司包括 AWS、Databricks、Google Cloud、Hugging Face、Kaggle、IBM WatsonX、Microsoft Azure、Nvidia NIM 和 Snowflake。LLM 還將在 AMD、AWS、戴爾、英特爾、Nvidia 和高通的硬件上獲得支持。

　　高通和英特爾迅速將 LLama3移植到硬件平臺上。用于生成式人工智能的處理器必須快速移動大量數(shù)據(jù)并進行大規(guī)模并行操作的數(shù)學處理。這對于所有類型的處理器都是如此，無論是獨立的高性能處理器，還是集成到片上系統(tǒng)(SoC)處理器中的圖形處理單元(GPU)、神經(jīng)處理單元(NPU)或張量處理單元(TPU)。

　　至于 LLM 是如何工作的，特別是 LLama3，AI LLM 解釋數(shù)據(jù)集并將其轉(zhuǎn)換為機器可解釋的集。這允許生成式人工智能復制類似于構(gòu)建在先前知識庫上的類似人類的體驗。在零炮點學習(0-shot)測試中，AI 模型沒有專門訓練用于問題中使用的數(shù)據(jù)。在 n-shot 學習(n >0)測試中，模型已經(jīng)通過至少 n 個測試問題數(shù)據(jù)的示例進行了訓練。此外，Meta 還測試了 LLama 的新人類評估集，其中包含1800個涵蓋12種常見用例的提示。

　　Meta 考慮了 AI 的安全性。通過讓 AI 開發(fā)人員對每個應(yīng)用程序的模型進行微調(diào)，Meta 維持了測試用例與模型開發(fā)人員之間的分離，以防止意外過擬合。LLM 的超擬合會導致復雜模型基本上是對訓練數(shù)據(jù)進行記憶，而不是學會如何利用底層模式。LLama3正在開發(fā)中，盡管 Meta 已經(jīng)發(fā)布了8B 和70B 模型，但公司仍在訓練400B 參數(shù)版本。最后，隨著400億參數(shù)顯示出更高的準確性，可以推斷出更高的 AI 硬件需求不會很快減少。