由多方企業(yè)和機(jī)構(gòu)組成的日本聯(lián)合研究團(tuán)隊(duì)昨日發(fā)布了 Fugaku-LLM 大模型。該模型的最大特色就是其是在 Arm 架構(gòu)超算“富岳”上訓(xùn)練的。
Fugaku-LLM 模型的開(kāi)發(fā)于 2023 年 5 月啟動(dòng),初期參與方包括富岳超算所有者富士通、東京工業(yè)大學(xué)、日本東北大學(xué)和日本理化學(xué)研究所(理研)。
而在 2023 年 8 月,另外三家合作方 —— 名古屋大學(xué)、CyberAgent(也是游戲企業(yè) Cygames 的母公司)和 HPC-AI 領(lǐng)域創(chuàng)企 Kotoba Technologies 也加入了該模型研發(fā)計(jì)劃。
在昨日發(fā)布的新聞稿中,研究團(tuán)隊(duì)表示其充分挖掘了富岳超算的性能,將矩陣乘法的計(jì)算速度提高了 6 倍,通信速度也提升了 3 倍,證明大型純 CPU 超算也可用于大模型訓(xùn)練。
Fugaku-LLM 模型參數(shù)規(guī)模為 13B,是日本國(guó)內(nèi)最大的大型語(yǔ)言模型。
其使用了 13824 個(gè)富岳超算節(jié)點(diǎn)在 3800 億個(gè) Token 上進(jìn)行訓(xùn)練,其訓(xùn)練資料中 60% 為日語(yǔ),其他 40% 包括英語(yǔ)、數(shù)學(xué)、代碼等部分。
該模型的研究團(tuán)隊(duì)宣稱(chēng) Fugaku-LLM 模型可在交流中自然使用日語(yǔ)敬語(yǔ)等特殊表達(dá)。
具體到測(cè)試成績(jī)上,該模型在日語(yǔ) MT-Bench 模型基準(zhǔn)測(cè)試上的平均得分為 5.5,排在基于日本語(yǔ)料資源的開(kāi)放模型首位,并在人文社科類(lèi)別中得到了 9.18 的高分。
目前 Fugaku-LLM 模型已在 GitHub 和 Hugging Face 平臺(tái)公開(kāi),外部研究人員和工程師可在遵守許可協(xié)議的前提下將該模型用于學(xué)術(shù)和商業(yè)目的。
文章內(nèi)容僅供閱讀,不構(gòu)成投資建議,請(qǐng)謹(jǐn)慎對(duì)待。投資者據(jù)此操作,風(fēng)險(xiǎn)自擔(dān)。
2024年的Adobe MAX 2024發(fā)布會(huì)上,Adobe推出了最新版本的Adobe Creative Cloud。
奧維云網(wǎng)(AVC)推總數(shù)據(jù)顯示,2024年1-9月明火炊具線(xiàn)上零售額94.2億元,同比增加3.1%,其中抖音渠道表現(xiàn)優(yōu)異,同比有14%的漲幅,傳統(tǒng)電商略有下滑,同比降低2.3%。
“以前都要去窗口辦,一套流程下來(lái)都要半個(gè)月了,現(xiàn)在方便多了!”打開(kāi)“重慶公積金”微信小程序,按照提示流程提交相關(guān)材料,僅幾秒鐘,重慶市民曾某的賬戶(hù)就打進(jìn)了21600元。
華碩ProArt創(chuàng)藝27 Pro PA279CRV顯示器,憑借其優(yōu)秀的性能配置和精準(zhǔn)的色彩呈現(xiàn)能力,為您的創(chuàng)作工作帶來(lái)實(shí)質(zhì)性的幫助,雙十一期間低至2799元,性?xún)r(jià)比很高,簡(jiǎn)直是創(chuàng)作者們的首選。
9月14日,2024全球工業(yè)互聯(lián)網(wǎng)大會(huì)——工業(yè)互聯(lián)網(wǎng)標(biāo)識(shí)解析專(zhuān)題論壇在沈陽(yáng)成功舉辦。