Allen AI開(kāi)源微調(diào)模型OLMo-7B-Instruct

　　2月29日 消息:Allen AI最近宣布開(kāi)源了微調(diào)模型OLMo-7B-Instruct，這是一個(gè)真正意義上的開(kāi)源項(xiàng)目。該模型是基于AI2的Dolma數(shù)據(jù)集構(gòu)建的，該數(shù)據(jù)集包括了用于語(yǔ)言模型預(yù)訓(xùn)練的三萬(wàn)億標(biāo)記的開(kāi)放語(yǔ)料庫(kù)，還包括生成訓(xùn)練數(shù)據(jù)的代碼。

　　此外，OLMo框架還包括四種7B規(guī)模模型變體的完整模型權(quán)重，每個(gè)模型至少訓(xùn)練了2T個(gè)標(biāo)記。推理代碼、訓(xùn)練指標(biāo)和訓(xùn)練日志也都已提供，讓用戶可以輕松復(fù)刻微調(diào)過(guò)程。

　　為了幫助用戶更好地評(píng)估模型性能，Allen AI還發(fā)布了用于開(kāi)發(fā)中使用的評(píng)估套件。每個(gè)模型在訓(xùn)練過(guò)程中每1000步都有500多個(gè)檢查點(diǎn)，并且提供了在Catwalk項(xiàng)目框架下的訓(xùn)練和評(píng)估代碼。

　　這一系列的開(kāi)源內(nèi)容將使用戶能夠全面了解從預(yù)訓(xùn)練模型到RLHF微調(diào)模型的整個(gè)過(guò)程，為他們的研究和實(shí)踐提供了強(qiáng)大的支持。Allen AI的舉措為開(kāi)源社區(qū)提供了更多可能性，促進(jìn)了模型研究和應(yīng)用的發(fā)展。