近年來(lái),大模型發(fā)展在人工智能領(lǐng)域引起了廣泛的興趣與關(guān)注,龐大的規(guī)模和學(xué)習(xí)能力使其具備了出色的性能和表現(xiàn)。近日,IDEA研究院(粵港澳大灣區(qū)數(shù)字經(jīng)濟(jì)研究院)宣布開(kāi)源通用大模型系列“姜子牙”,讓廣大開(kāi)發(fā)者可以共同參與模型的改進(jìn)、優(yōu)化和拓展,通過(guò)分享經(jīng)驗(yàn)和創(chuàng)意,推動(dòng)模型的進(jìn)步和創(chuàng)新。與IDEA建立合作,UCloud優(yōu)刻得鏡像市場(chǎng)也上線了姜子牙大模型鏡像,基于UCloud優(yōu)刻得強(qiáng)大的云計(jì)算基礎(chǔ)設(shè)施,客戶可以輕松創(chuàng)建預(yù)裝姜子牙大模型的云主機(jī),并享受高性能的GPU算力資源。
“姜子牙通用大模型v1”是由IDEA開(kāi)發(fā)的一款領(lǐng)先的自然語(yǔ)言處理模型;贚LaMa的130億參數(shù)的大規(guī)模預(yù)訓(xùn)練模型,具備翻譯、編程、文本分類(lèi)、信息抽取、摘要、文案生成、常識(shí)問(wèn)答和數(shù)學(xué)計(jì)算等能力。目前姜子牙通用大模型v1已完成大規(guī)模預(yù)訓(xùn)練、多任務(wù)有監(jiān)督微調(diào)和人類(lèi)反饋學(xué)習(xí)三階段的訓(xùn)練過(guò)程。
本次UCloud優(yōu)刻得上線的是姜子牙大模型的Ziya-LLaMA-7B-Reward模型鏡像。該模型基于Ziya-LLaMA模型,在自標(biāo)注高質(zhì)量偏好排序數(shù)據(jù)、嚴(yán)格過(guò)濾的外部開(kāi)源數(shù)據(jù)這兩個(gè)偏好排序數(shù)據(jù)上進(jìn)行訓(xùn)練。同時(shí)該模型能夠模擬中英雙語(yǔ)生成的獎(jiǎng)勵(lì)環(huán)境,對(duì)LLM生成結(jié)果提供準(zhǔn)確的獎(jiǎng)勵(lì)反饋。
作為最新一代發(fā)布的大語(yǔ)言模型,“姜子牙通用大模型v1”具備以下三個(gè)方面的優(yōu)勢(shì):
1、全面的數(shù)據(jù)訓(xùn)練:使用來(lái)自多個(gè)領(lǐng)域和多種來(lái)源的原始數(shù)據(jù)進(jìn)行預(yù)訓(xùn)練,包括英文和中文數(shù)據(jù)。通過(guò)去重、打分、分桶、規(guī)則過(guò)濾和數(shù)據(jù)評(píng)估等處理,最終得到125B tokens的有效數(shù)據(jù)。這種全面的數(shù)據(jù)訓(xùn)練使得模型具備廣泛的語(yǔ)言知識(shí)和理解能力。
2、高效的中文編解碼:通過(guò)擴(kuò)充詞表、優(yōu)化分詞方式,提升了對(duì)中文的編解碼效率。通過(guò)增加常見(jiàn)中文字并復(fù)用Transformers中的LlamaTokenizer,實(shí)現(xiàn)了高效的中文處理能力。
3、多任務(wù)有監(jiān)督微調(diào)和人類(lèi)反饋訓(xùn)練:在多任務(wù)有監(jiān)督微調(diào)階段采用課程學(xué)習(xí)和增量訓(xùn)練的策略,通過(guò)"Easy To Hard"的方式進(jìn)行訓(xùn)練。同時(shí),通過(guò)人類(lèi)反饋訓(xùn)練進(jìn)一步提升模型的綜合表現(xiàn)。人類(lèi)反饋訓(xùn)練采用了以人類(lèi)反饋強(qiáng)化學(xué)習(xí)為主的方法,結(jié)合多種其他手段聯(lián)合訓(xùn)練,包括人類(lèi)反饋微調(diào)、后見(jiàn)鏈微調(diào)、AI反饋和基于規(guī)則的獎(jiǎng)勵(lì)系統(tǒng)等。這些訓(xùn)練方法使得模型能夠更好地理解人類(lèi)意圖、減少錯(cuò)誤輸出,并提高整體性能。
這些優(yōu)勢(shì)使得姜子牙大模型成為一款強(qiáng)大的自然語(yǔ)言處理模型,不僅在語(yǔ)言知識(shí)和理解能力方面有出色表現(xiàn),可以高效處理中文,并且經(jīng)過(guò)多任務(wù)有監(jiān)督微調(diào)和人類(lèi)反饋訓(xùn)練,可進(jìn)一步提升性能和準(zhǔn)確性,尤其在角色扮演的領(lǐng)域,表現(xiàn)效果尤為突出。
圖片來(lái)源:https://huggingface.co/IDEA-CCNL/Ziya-LLaMA-13B-v1
寫(xiě)在最后
作為開(kāi)源模型,姜子牙大模型鼓勵(lì)開(kāi)發(fā)者和研究者之間的合作和共享,這使得更多的人可以通過(guò)領(lǐng)域知識(shí)微調(diào),共同改進(jìn)模型并推動(dòng)新模型的推出與發(fā)展,技術(shù)的本質(zhì)在于應(yīng)用,ChatLaw(法律大模型)應(yīng)用法律行業(yè),就是大模型落地垂直業(yè)務(wù)場(chǎng)景的極佳案例。
UCloud優(yōu)刻得將繼續(xù)與IDEA等優(yōu)秀合作伙伴密切合作,致力于完善大模型和算力相結(jié)合的MaaS(Model as a service)服務(wù)生態(tài),積極推進(jìn)人工智能技術(shù)的發(fā)展,為客戶提供更多高性能、高可靠性的“算力+模型”解決方案,助力企業(yè)實(shí)現(xiàn)智能化轉(zhuǎn)型和業(yè)務(wù)創(chuàng)新,一起迎接大模型時(shí)代的機(jī)遇和挑戰(zhàn)!
文章內(nèi)容僅供閱讀,不構(gòu)成投資建議,請(qǐng)謹(jǐn)慎對(duì)待。投資者據(jù)此操作,風(fēng)險(xiǎn)自擔(dān)。
近日,德國(guó)柏林國(guó)際電子消費(fèi)品展覽會(huì)(IFA2024)隆重舉辦。憑借在核心技術(shù)、產(chǎn)品設(shè)計(jì)及應(yīng)用方面的創(chuàng)新變革,全球領(lǐng)先的智能終端企業(yè)TCL實(shí)業(yè)成功斬獲兩項(xiàng)“IFA全球產(chǎn)品設(shè)計(jì)創(chuàng)新大獎(jiǎng)”金獎(jiǎng),有力證明了其在全球市場(chǎng)的強(qiáng)大影響力。
近日,中國(guó)家電及消費(fèi)電子博覽會(huì)(AWE 2024)隆重開(kāi)幕。全球領(lǐng)先的智能終端企業(yè)TCL實(shí)業(yè)攜多款創(chuàng)新技術(shù)和新品亮相,以敢為精神勇闖技術(shù)無(wú)人區(qū),斬獲四項(xiàng)AWE 2024艾普蘭大獎(jiǎng)。
“以前都要去窗口辦,一套流程下來(lái)都要半個(gè)月了,現(xiàn)在方便多了!”打開(kāi)“重慶公積金”微信小程序,按照提示流程提交相關(guān)材料,僅幾秒鐘,重慶市民曾某的賬戶就打進(jìn)了21600元。
由世界人工智能大會(huì)組委會(huì)、上海市經(jīng)信委、徐匯區(qū)政府、臨港新片區(qū)管委會(huì)共同指導(dǎo),由上海市人工智能行業(yè)協(xié)會(huì)聯(lián)合上海人工智能實(shí)驗(yàn)室、上海臨港經(jīng)濟(jì)發(fā)展(集團(tuán))有限公司、開(kāi)放原子開(kāi)源基金會(huì)主辦的“2024全球開(kāi)發(fā)者先鋒大會(huì)”,將于2024年3月23日至24日舉辦。