開源推理AI模型Sky-T1橫空出世，訓(xùn)練成本不到 450 美元

　　加州大學(xué)伯克利分校天空計(jì)算實(shí)驗(yàn)室的研究團(tuán)隊(duì)NovaSky于周五發(fā)布了Sky-T1-32B-Preview推理模型，這一模型在多個(gè)關(guān)鍵基準(zhǔn)測試中表現(xiàn)優(yōu)異，與OpenAI的o1早期版本相媲美，更令人矚目的是其極低的訓(xùn)練成本。

　　Sky-T1-32B-Preview是首個(gè)真正的開源推理模型，NovaSky團(tuán)隊(duì)不僅發(fā)布了模型，還公開了用于訓(xùn)練它的數(shù)據(jù)集及必要的訓(xùn)練代碼，這意味著該模型可從頭開始復(fù)制。據(jù)團(tuán)隊(duì)在博客文章中所述，“Sky-T1-32B-Preview的訓(xùn)練成本不到450美元，這表明可以經(jīng)濟(jì)高效地復(fù)制高級推理能力。”在不久前，訓(xùn)練同等性能的模型價(jià)格往往高達(dá)數(shù)百萬美元，而如今成本的大幅降低，主要得益于合成訓(xùn)練數(shù)據(jù)或由其他模型生成的訓(xùn)練數(shù)據(jù)的應(yīng)用。例如，人工智能公司W(wǎng)riter最近發(fā)布的模型Palmyra X004幾乎完全基于合成數(shù)據(jù)進(jìn)行訓(xùn)練，開發(fā)成本僅為70萬美元。

　　推理模型與普通人工智能模型不同，能夠有效進(jìn)行自我事實(shí)核查，從而避免一些常見陷阱。不過，推理模型得出解決方案通常需要更長時(shí)間，從幾秒到幾分鐘不等。但其在物理、科學(xué)和數(shù)學(xué)等領(lǐng)域的可靠性更高，這是其顯著優(yōu)勢。

　　NovaSky團(tuán)隊(duì)透露，他們借助阿里巴巴的QwQ-32B-Preview推理模型生成Sky-T1的初始訓(xùn)練數(shù)據(jù)，之后對數(shù)據(jù)進(jìn)行“整理”，并利用OpenAI的GPT-4o-mini將數(shù)據(jù)重構(gòu)為更易用的格式。使用8個(gè)Nvidia ***GPU機(jī)架訓(xùn)練320億參數(shù)的Sky-T1大約需要19個(gè)小時(shí)，參數(shù)數(shù)量大致對應(yīng)模型解決問題的能力。

　　在性能測試方面，Sky-T1在MATH500(一組“競賽級”數(shù)學(xué)挑戰(zhàn))上的表現(xiàn)優(yōu)于o1的早期預(yù)覽版本，還在一組來自LiveCodeBench(一種編碼評估)的難題上擊敗了o1的預(yù)覽版本。然而，Sky-T1在GPQA-Diamond上的表現(xiàn)不如o1預(yù)覽版，后者包含博士畢業(yè)生應(yīng)掌握的物理、生物和化學(xué)相關(guān)問題。此外，OpenAI的o1GA版本比預(yù)覽版更強(qiáng)大，且OpenAI預(yù)計(jì)在未來幾周發(fā)布性能更佳的推理模型o3。

　　盡管如此，NovaSky團(tuán)隊(duì)表示，Sky-T1僅是他們開發(fā)具有高級推理能力的開源模型的起點(diǎn)。“展望未來，我們將專注于開發(fā)更高效的模型，保持強(qiáng)大的推理性能，并探索先進(jìn)技術(shù)，進(jìn)一步提高模型在測試時(shí)的效率和準(zhǔn)確性，”團(tuán)隊(duì)在帖子中寫道，“請繼續(xù)關(guān)注我們在這些激動人心的計(jì)劃上取得的進(jìn)展。”這一開源推理模型的出現(xiàn)，無疑為人工智能領(lǐng)域帶來了新的機(jī)遇和挑戰(zhàn)，其未來發(fā)展值得持續(xù)關(guān)注。