2月29日 消息:近日,來自不列顛哥倫比亞大學(xué)和Invertible AI的研究人員推出了一款具有突破性的大型語言模型(LLM)——FinTral,專為金融領(lǐng)域量身定制。FinTral采用了多模態(tài)方法,能夠處理文本、數(shù)字、表格和視覺數(shù)據(jù),以應(yīng)對金融文件的復(fù)雜性。該模型引入了FinSet,一個(gè)全面評估金融LLM的基準(zhǔn)。實(shí)驗(yàn)證明,F(xiàn)inTral在多項(xiàng)任務(wù)中表現(xiàn)出色,包括具有增強(qiáng)視覺和工具檢索功能的版本,在眾多任務(wù)中超越了GPT-4等已建立的模型。
FinTral以Mistral-7b模型為基礎(chǔ),經(jīng)過領(lǐng)域特定的預(yù)訓(xùn)練,利用包含來自C4、新聞和財(cái)務(wù)文件等多元來源的FinSet數(shù)據(jù)集,共計(jì)20億標(biāo)記,以提高對金融查詢的理解和響應(yīng)能力。為了進(jìn)一步增強(qiáng)性能,F(xiàn)inTral通過指導(dǎo)調(diào)整和人工智能反饋結(jié)合人類和AI反饋,優(yōu)化了模型。FinTral通過CLIP編碼器進(jìn)行視覺數(shù)據(jù)處理,并通過工具處理數(shù)值任務(wù),從而有效增強(qiáng)了其功能。該模型通過直接策略優(yōu)化和檢索增強(qiáng)生成進(jìn)一步提升了在金融分析領(lǐng)域的準(zhǔn)確性和深度。
實(shí)驗(yàn)結(jié)果顯示,F(xiàn)inTral在各種金融任務(wù)中表現(xiàn)出色,F(xiàn)inTral-INST模型通過對預(yù)訓(xùn)練模型進(jìn)行微調(diào),在平均得分達(dá)到0.49的情況下,超越了所有其他模型。經(jīng)過帶有AI反饋的強(qiáng)化學(xué)習(xí)的模型也取得了顯著進(jìn)展,F(xiàn)inTral-DPO在平均得分達(dá)到0.59的情況下,表現(xiàn)卓越,僅略低于GPT-4的平均得分0.69。然而,實(shí)驗(yàn)結(jié)果也指出了一些需要改進(jìn)的方面,包括實(shí)時(shí)數(shù)據(jù)處理、維護(hù)和更新、標(biāo)注數(shù)據(jù)的稀缺等。
FinTral是一款先進(jìn)的金融語言模型,利用大量數(shù)據(jù)集和多樣的訓(xùn)練方法分析復(fù)雜的金融數(shù)據(jù)。通過以清潔的金融數(shù)據(jù)進(jìn)行預(yù)訓(xùn)練并采用檢索方法,降低了模型的虛構(gòu)風(fēng)險(xiǎn),提高了準(zhǔn)確性和可靠性。其對金融市場的實(shí)時(shí)適應(yīng)性和動態(tài)數(shù)據(jù)檢索能力可以顯著提高預(yù)測準(zhǔn)確性和決策制定。研究人員承認(rèn)了研究中存在的限制和風(fēng)險(xiǎn)因素,并對未來發(fā)展充滿樂觀。
文章內(nèi)容僅供閱讀,不構(gòu)成投資建議,請謹(jǐn)慎對待。投資者據(jù)此操作,風(fēng)險(xiǎn)自擔(dān)。
近日,德國柏林國際電子消費(fèi)品展覽會(IFA2024)隆重舉辦。憑借在核心技術(shù)、產(chǎn)品設(shè)計(jì)及應(yīng)用方面的創(chuàng)新變革,全球領(lǐng)先的智能終端企業(yè)TCL實(shí)業(yè)成功斬獲兩項(xiàng)“IFA全球產(chǎn)品設(shè)計(jì)創(chuàng)新大獎”金獎,有力證明了其在全球市場的強(qiáng)大影響力。
近日,中國家電及消費(fèi)電子博覽會(AWE 2024)隆重開幕。全球領(lǐng)先的智能終端企業(yè)TCL實(shí)業(yè)攜多款創(chuàng)新技術(shù)和新品亮相,以敢為精神勇闖技術(shù)無人區(qū),斬獲四項(xiàng)AWE 2024艾普蘭大獎。
“以前都要去窗口辦,一套流程下來都要半個(gè)月了,現(xiàn)在方便多了!”打開“重慶公積金”微信小程序,按照提示流程提交相關(guān)材料,僅幾秒鐘,重慶市民曾某的賬戶就打進(jìn)了21600元。
由世界人工智能大會組委會、上海市經(jīng)信委、徐匯區(qū)政府、臨港新片區(qū)管委會共同指導(dǎo),由上海市人工智能行業(yè)協(xié)會聯(lián)合上海人工智能實(shí)驗(yàn)室、上海臨港經(jīng)濟(jì)發(fā)展(集團(tuán))有限公司、開放原子開源基金會主辦的“2024全球開發(fā)者先鋒大會”,將于2024年3月23日至24日舉辦。