英偉達(dá)發(fā)布ChatQA模型 性能達(dá)到GPT-4級(jí)別

　　1月19日 消息:英偉達(dá)推出了ChatQA模型，據(jù)悉其性能可以對(duì)飚GPT-4，使用兩階段指令調(diào)整和改進(jìn)的上下文檢索等高效的訓(xùn)練方法。

　　ChatQA是一組對(duì)話式問答 (QA) 模型，可以獲得GPT-4級(jí)別的精度。具體來說，開發(fā)團(tuán)隊(duì)提出了一種兩階段指令調(diào)優(yōu)方法，可以顯著改善大型語(yǔ)言模型(LLM)的零樣本對(duì)話QA結(jié)果。

　　為了處理對(duì)話式 QA 中的檢索，在多輪 QA 數(shù)據(jù)集上微調(diào)了密集檢索器，這提供了與使用最先進(jìn)的查詢重寫模型相當(dāng)?shù)慕Y(jié)果，同時(shí)大大降低了部署成本。值得注意的是，ChatQA-70B 在10個(gè)對(duì)話式 QA 數(shù)據(jù)集(54.14對(duì)53.90)上的平均得分方面優(yōu)于 GPT-4，而無(wú)需依賴來自 OpenAI GPT 模型的任何合成數(shù)據(jù)。