Mistral 推出精細(xì)調(diào)整工具，使定制化模型更加簡(jiǎn)單快捷

　　法國(guó)開(kāi)源人工智能模型提供商 Mistral 近日推出了新的定制化功能，以降低精細(xì)調(diào)整的成本并降低進(jìn)入門(mén)檻。這家公司在過(guò)去的14個(gè)月里迅速崛起，即將達(dá)到60億美元的估值。

　　精細(xì)調(diào)整對(duì)于改善大型語(yǔ)言模型(LLM)的輸出并將其定制到特定的企業(yè)需求中至關(guān)重要。當(dāng)精細(xì)調(diào)整做得正確時(shí)，可以得到更準(zhǔn)確和有用的模型響應(yīng)，使組織能夠從其生成式人工智能應(yīng)用程序中獲得更多的價(jià)值和精確性。

　　Mistral 以在開(kāi)源許可下發(fā)布幾個(gè)強(qiáng)大的 LLM 而聞名，這意味著可以自由地接受和調(diào)整這些模型，不收費(fèi)用。然而，該公司也提供付費(fèi)工具，如 API 和開(kāi)發(fā)平臺(tái) “La Plateforme”，以便于那些希望在其模型之上進(jìn)行開(kāi)發(fā)的用戶。通過(guò)使用 API 調(diào)用，用戶可以構(gòu)建自己的 Mistral 應(yīng)用，而不是在自己的服務(wù)器上部署 Mistral 的版本。

　　除了構(gòu)建在現(xiàn)有模型之上，用戶現(xiàn)在還可以在 La Plateforme 上定制 Mistral 模型，或者通過(guò) Mistral 在 Github 上提供的開(kāi)源代碼在自己的基礎(chǔ)設(shè)施上進(jìn)行定制。此外，對(duì)于那些希望在自己的基礎(chǔ)設(shè)施上工作的開(kāi)發(fā)人員，Mistral 今天發(fā)布了輕量級(jí)的代碼庫(kù) mistral-finetune，它基于 LoRA 范式，可以減少模型所需的可訓(xùn)練參數(shù)的數(shù)量。

　　Mistral 在其博客文章中寫(xiě)道:“使用 mistral-finetune，您可以在自己的基礎(chǔ)設(shè)施上對(duì)我們所有的開(kāi)源模型進(jìn)行精細(xì)調(diào)整，而無(wú)需犧牲性能或內(nèi)存效率。” 同時(shí)，Mistral 還提供了適用于無(wú)服務(wù)器精細(xì)調(diào)整的新服務(wù)，利用了公司通過(guò)研發(fā)不斷優(yōu)化的技術(shù)。Mistral 表示，底層的 LoRA 適配器可以防止模型遺忘基本模型的知識(shí)，同時(shí)實(shí)現(xiàn)高效的服務(wù)。

　　此外，Mistral 還提供定制培訓(xùn)服務(wù)，根據(jù)客戶的特定應(yīng)用使用專有數(shù)據(jù)對(duì) Mistral AI 模型進(jìn)行精細(xì)調(diào)整。該公司通常會(huì)提出先期持續(xù)訓(xùn)練等先進(jìn)技術(shù)，以在模型權(quán)重中包含專有知識(shí)，從而為特定領(lǐng)域創(chuàng)建高度專業(yè)化和優(yōu)化的模型。

　　與今天的發(fā)布相配套，Mistral 啟動(dòng)了一場(chǎng) AI 精細(xì)調(diào)整黑客馬拉松。該比賽將持續(xù)到6月30日，讓開(kāi)發(fā)人員可以嘗試使用該創(chuàng)業(yè)公司的新的精細(xì)調(diào)整 API。

　　Mistral 自成立以來(lái)一直在不斷加速創(chuàng)新，并獲得大量資金支持。該公司于2023年4月由前谷歌 DeepMind 和 Meta 員工 Arthur Mensch、Guillaume Lample 和 Timothée Lacroix 創(chuàng)立，成立僅14個(gè)月就進(jìn)行了創(chuàng)紀(jì)錄的1.18億美元的種子輪融資，據(jù)說(shuō)是歐洲歷史上最大的一筆。成立幾個(gè)月后，Mistral 與 IBM 等公司建立了合作伙伴關(guān)系。今年2月，Mistral 通過(guò)與微軟的合作，通過(guò) Azure 云提供了 Mistral Large。