研究：GPT-4 在執(zhí)行多項(xiàng)現(xiàn)實(shí)任務(wù)中擊敗其他大語言模型

　　本文概要:

　　1. GPT-4在大型語言模型中表現(xiàn)出色，取得最高總分4.41。

　　2. GPT-4在幾乎所有領(lǐng)域都領(lǐng)先于其他模型，只有在網(wǎng)購任務(wù)中，GPT-3.5表現(xiàn)更好。

　　3. 開源模型整體表現(xiàn)不佳，遠(yuǎn)遠(yuǎn)落后于商業(yè)模型和 GPT-3.5。

　　市面上已經(jīng)有有許多商業(yè)和開源的文本生成人工智能�，F(xiàn)在專門為測試輔助任務(wù)開發(fā)的基準(zhǔn)測試表明，GPT-4在這一領(lǐng)域脫穎而出。

　　最新的研究顯示，在 “現(xiàn)實(shí)世界語用任務(wù)” 中，GPT-4在大型語言模型中表現(xiàn)出色。研究團(tuán)隊(duì)使用一個(gè)名為 “AgentBench” 的基準(zhǔn)測試對多個(gè)提供商的25個(gè)大型語言模型以及開源模型進(jìn)行了測試。

　　“AgentBench”是專門為衡量大語言模型在“現(xiàn)實(shí)世界語用任務(wù)”中的輔助能力而設(shè)計(jì)的標(biāo)準(zhǔn)化測試。所有測試均在實(shí)時(shí)交互環(huán)境中進(jìn)行。這使得該基準(zhǔn)特別適合其想要測量的內(nèi)容:大型語言模型處理總共八個(gè)領(lǐng)域的各種日常任務(wù)的能力。

　　操作系統(tǒng):LLM必須執(zhí)行與計(jì)算機(jī)操作系統(tǒng)的使用相關(guān)的任務(wù)。

　　數(shù)據(jù)庫:這個(gè)環(huán)境是關(guān)于LLM如何與數(shù)據(jù)庫合作。

　　知識圖:此環(huán)境測試LLM如何使用知識圖。

　　數(shù)字卡牌游戲:這測試了LLM對數(shù)字卡牌游戲和制定策略的理解程度。

　　橫向思維難題:此挑戰(zhàn)測試法學(xué)碩士在解決問題時(shí)的創(chuàng)造力。這要求他們跳出框框思考。

　　預(yù)算:此場景涉及基于 Alfworld 數(shù)據(jù)集的預(yù)算中發(fā)生的任務(wù)。

　　互聯(lián)網(wǎng)購物:此場景測試LLM在與在線購物相關(guān)的任務(wù)上的表現(xiàn)。

　　網(wǎng)頁瀏覽:基于 Mind2Web 數(shù)據(jù)集，此場景測試LLM執(zhí)行與使用互聯(lián)網(wǎng)相關(guān)的任務(wù)的能力。

　　結(jié)果顯示，GPT-4以最高總分4.41領(lǐng)先于其他模型，在幾乎所有領(lǐng)域都表現(xiàn)出色，只在網(wǎng)購任務(wù)中稍遜于 GPT-3.5。

　　競爭對手 Anthropic 的 Claude 模型緊隨其后，總得分為2.77，領(lǐng)先于 OpenAI 的免費(fèi) GPT-3.5Turbo 模型。商業(yè)模型的平均得分為2.24。與開源模型相比，GPT-4的優(yōu)勢更加明顯，開源模型的平均得分只有0.42。

　　研究人員指出，開源模型在所有復(fù)雜任務(wù)中普遍表現(xiàn)不佳，遠(yuǎn)遠(yuǎn)落后于 GPT-3.5。研究團(tuán)隊(duì)將工具包、數(shù)據(jù)集和基準(zhǔn)測試環(huán)境提供給研究界，以便進(jìn)行更廣泛的性能比較。