谷歌推創(chuàng)新框架AGREE 可增強(qiáng)大模型生成內(nèi)容準(zhǔn)確性

　　谷歌研究院推出了一個(gè)名為AGREE的創(chuàng)新框架，旨在增強(qiáng)大型語(yǔ)言模型(LLM)生成內(nèi)容和引用的準(zhǔn)確性。這一框架通過(guò)檢索文檔中的相關(guān)段落來(lái)增強(qiáng)大模型生成回答的事實(shí)基礎(chǔ)，并提供相應(yīng)的引用，從而提高回答的準(zhǔn)確性，并為用戶(hù)提供驗(yàn)證信息真實(shí)性的途徑。

　　核心技術(shù):

　　訓(xùn)練階段微調(diào):使用基礎(chǔ)大模型生成回答，并利用自然語(yǔ)言推理模型(NLI)評(píng)估段落是否支持特定聲明。AGREE框架使用NLI模型從未標(biāo)記的查詢(xún)中自動(dòng)構(gòu)建訓(xùn)練數(shù)據(jù)集，通過(guò)匹配回答和檢索到的文檔，為每個(gè)聲明找到最相關(guān)的支持性段落。

　　測(cè)試時(shí)自適應(yīng):一種動(dòng)態(tài)、迭代的推理增強(qiáng)方法，幫助大模型在面對(duì)新的內(nèi)容查詢(xún)時(shí)，主動(dòng)從大型語(yǔ)料庫(kù)中檢索相關(guān)信息，并對(duì)生成的回答進(jìn)行補(bǔ)充和修正。

　　AGREE的工作流程:

　　在微調(diào)階段，AGREE框架采用LORA的輕量級(jí)微調(diào)技術(shù)，通過(guò)在大模型的權(quán)重矩陣上添加低秩更新，實(shí)現(xiàn)高效且針對(duì)性的調(diào)整，減少計(jì)算資源消耗，同時(shí)保持模型泛化能力。

　　測(cè)試時(shí)自適應(yīng)從接收到新查詢(xún)開(kāi)始，微調(diào)后的大模型根據(jù)訓(xùn)練階段學(xué)到的知識(shí)生成初步回答，然后進(jìn)入自動(dòng)迭代過(guò)程，自我評(píng)估并識(shí)別需要額外支持的聲明。

　　一旦識(shí)別出需要額外信息的聲明，啟動(dòng)檢索過(guò)程，在預(yù)構(gòu)建的語(yǔ)料庫(kù)中搜索相關(guān)段落，并將這些段落與先前回答結(jié)合，生成更完善、準(zhǔn)確的內(nèi)容。

　　實(shí)驗(yàn)結(jié)果:

　　研究人員在Llama-2-13b等知名大模型上進(jìn)行了實(shí)驗(yàn)，結(jié)果顯示AGREE在提升內(nèi)容回答準(zhǔn)確性和引用性方面表現(xiàn)突出。