谷歌開源Gemma:參數(shù)小、性能超越Llama2，可輕松在筆記本上運行

　　2月22日 消息:谷歌于2月22日宣布開源大語言模型Gemma，成為其生成式AI領(lǐng)域的新力量。Gemma采用Gemini架構(gòu)，有20億、70億兩個版本，分別支持預(yù)訓(xùn)練和指令微調(diào)。

　　據(jù)谷歌公布的測試結(jié)果顯示，Gemma70億模型在數(shù)學(xué)、推理、代碼方面的能力超過了Llama-2的70億和130億，成為小參數(shù)類ChatGPT模型中最強的之一。

　　最令人振奮的是，Gemma不僅性能強大，而且可商用，并且輕松在普通筆記本、臺式機上運行，無需龐大的AI算力。這使得開發(fā)者可以更加便捷地應(yīng)用Gemma模型，而Kaggle和Hugging Face等平臺也提供了方便的獲取途徑。同時，為了幫助使用Gemma的開發(fā)者更安全地構(gòu)建AI應(yīng)用程序，谷歌推出了Responsible Generative AI Toolkit等一系列工具。

　　Gemma的優(yōu)勢不僅在于性能和可用性，還體現(xiàn)在其全面的優(yōu)化。谷歌強調(diào)，開發(fā)者可以在多框架工具中進(jìn)行推理和微調(diào)，跨設(shè)備兼容性也是Gemma的一大特色，支持筆記本電腦、臺式機、物聯(lián)網(wǎng)、移動設(shè)備和云等多種設(shè)備類型。與NVIDIA的合作使得Gemma在GPU優(yōu)化上表現(xiàn)出色，涵蓋了從數(shù)據(jù)中心到云端再到本地RTX AI PC的多個硬件平臺。

　　對于使用Google Cloud的開發(fā)者，Gemma同樣得到了優(yōu)化。Vertex AI提供全面的MLOps工具集，支持一鍵式部署，并具有內(nèi)置推理優(yōu)化功能。高級定制功能通過完全管理的頂點人工智能工具或自我管理的GKE實現(xiàn)，包括部署到GPU、TPU和CPU平臺上具有成本效益的基礎(chǔ)設(shè)施。

　　谷歌通過Gemma的性能測試展示了其在主流平臺中的優(yōu)越表現(xiàn)，尤其在數(shù)學(xué)、推理、代碼等方面的標(biāo)準(zhǔn)學(xué)術(shù)基準(zhǔn)測試平均分?jǐn)?shù)都高于同規(guī)模的Llama2和Mistral模型。這表明，Gemma作為一款參數(shù)相對較小但性能異常強大的大模型，將為開發(fā)者提供更靈活、高效的AI應(yīng)用解決方案。