5月29日消息,開源語言模型的進(jìn)步是無可爭議的。但它們真的能與來自 OpenAI、谷歌和其他公司的訓(xùn)練有素的語言模型競爭嗎?
諸如之前所報道的,使用Alpaca Formula訓(xùn)練的開源語言模型幾乎不需要怎么訓(xùn)練以及很低的成本就能達(dá)到了類似于ChatGPT的水平。
Alpaca Formula指的是開發(fā)人員使用 ChatGPT 生成的訓(xùn)練數(shù)據(jù)來微調(diào)Meta語言模型 LLaMA 。使用這些數(shù)據(jù),LLaMA 模型可以在很短的時間內(nèi)學(xué)習(xí)生成類似于 ChatGPT 的輸出,并且只需要很少的計算量。
但伯克利大學(xué)的研究人員在最近的一項研究中得出了不同的結(jié)論:他們將Alpaca Formula應(yīng)用于LLaMA和 GPT-2的一些基礎(chǔ)模型,然后讓這些結(jié)果由人工評估并由GPT-4自動評估。
最初,他們得出了與之前的開發(fā)人員相同的結(jié)論:使用指令改進(jìn)的模型(研究人員稱之為“模仿模型”)的性能遠(yuǎn)遠(yuǎn)超過基礎(chǔ)模型,與 ChatGPT 相當(dāng)。
然而,“更有針對性的自動評估”表明,模仿模型實際上只在他們看到模仿數(shù)據(jù)的任務(wù)中表現(xiàn)良好。在所有其他領(lǐng)域,與GPT-4仍然存在明顯的性能差距。因為這些基礎(chǔ)模型在廣泛的預(yù)訓(xùn)練過程中獲得了大部分功能,而不是在微調(diào)過程中獲取的。
研究人員表示,這些所謂的評價的工作者經(jīng)常在沒有專業(yè)知識的情況下在短時間內(nèi)評估人工智能內(nèi)容,很容易被忽悠。
OpenAI 研究員約翰舒爾曼最近也批評使用 ChatGPT數(shù)據(jù)微調(diào)開源基礎(chǔ)語言模型,稱如果微調(diào)數(shù)據(jù)集包含原始模型中不存在的知識,它們可能會產(chǎn)生更多不正確的內(nèi)容。
文章內(nèi)容僅供閱讀,不構(gòu)成投資建議,請謹(jǐn)慎對待。投資者據(jù)此操作,風(fēng)險自擔(dān)。
近日,德國柏林國際電子消費品展覽會(IFA2024)隆重舉辦。憑借在核心技術(shù)、產(chǎn)品設(shè)計及應(yīng)用方面的創(chuàng)新變革,全球領(lǐng)先的智能終端企業(yè)TCL實業(yè)成功斬獲兩項“IFA全球產(chǎn)品設(shè)計創(chuàng)新大獎”金獎,有力證明了其在全球市場的強(qiáng)大影響力。
近日,中國家電及消費電子博覽會(AWE 2024)隆重開幕。全球領(lǐng)先的智能終端企業(yè)TCL實業(yè)攜多款創(chuàng)新技術(shù)和新品亮相,以敢為精神勇闖技術(shù)無人區(qū),斬獲四項AWE 2024艾普蘭大獎。
“以前都要去窗口辦,一套流程下來都要半個月了,現(xiàn)在方便多了!”打開“重慶公積金”微信小程序,按照提示流程提交相關(guān)材料,僅幾秒鐘,重慶市民曾某的賬戶就打進(jìn)了21600元。
由世界人工智能大會組委會、上海市經(jīng)信委、徐匯區(qū)政府、臨港新片區(qū)管委會共同指導(dǎo),由上海市人工智能行業(yè)協(xié)會聯(lián)合上海人工智能實驗室、上海臨港經(jīng)濟(jì)發(fā)展(集團(tuán))有限公司、開放原子開源基金會主辦的“2024全球開發(fā)者先鋒大會”,將于2024年3月23日至24日舉辦。