OPPO A5 Pro首創(chuàng)獵手天線架構(gòu):信號(hào)能穿十堵墻一加 Ace 5 Pro首發(fā)電競(jìng)Wi-Fi芯片G1 帶來(lái)「穿墻王」和「搶網(wǎng)王」般的網(wǎng)絡(luò)體驗(yàn)電視市場(chǎng)又出黑馬!TCL同檔Mini LED音畫(huà)王P12K,萬(wàn)象分區(qū)打造超強(qiáng)控光!零下25℃如何取暖?海爾水暖通溫暖驛站亮相冰雪大世界馬太效應(yīng),強(qiáng)者恒強(qiáng)?——《中國(guó)企業(yè)科創(chuàng)力研究報(bào)告(2024)》美團(tuán)年度報(bào)告竟然用上了AI和短?這下是真出圈了消息稱(chēng)上汽大眾正開(kāi)發(fā)三款新車(chē),技術(shù)分別來(lái)自小鵬、智己和榮威鴻蒙智行泊車(chē)代駕VPD正式開(kāi)啟全量推送!升級(jí)自動(dòng)泊車(chē)/接駕等多項(xiàng)功能華為官方翻新手機(jī)最高降價(jià)4000元曝蘋(píng)果研發(fā)帶Face ID的智能家居門(mén)鈴:內(nèi)置自研W-Fi芯片李斌回應(yīng)螢火蟲(chóng)外觀設(shè)計(jì):看過(guò)實(shí)車(chē)的人都喜歡這個(gè)設(shè)計(jì)林杰:未來(lái) A 級(jí)、A0 級(jí)、A00 級(jí)車(chē)型都將是領(lǐng)克純電的“主場(chǎng)”豐巢存包柜亮相南寧地鐵站,助力城市韌性建設(shè)與智慧出行萬(wàn)象分區(qū)、絢彩XDR、量子點(diǎn)Pro 2025齊出手,TCL引領(lǐng)觀影體驗(yàn)新變革!QQ音樂(lè)年度聽(tīng)歌報(bào)告發(fā)布:誰(shuí)是你最喜歡的歌手?OpenAI正式發(fā)布o(jì)3 - 通往AGI的路上,已經(jīng)沒(méi)有了任何阻礙「送禮物」難撬動(dòng)社交電商,微信小店缺的是供給微軟Phi-4封神,14B小模型數(shù)學(xué)擊敗GPT-4o,合成數(shù)據(jù)占比40%,36頁(yè)技術(shù)報(bào)告出爐2024年結(jié)束,哪里是原創(chuàng)動(dòng)畫(huà)的應(yīng)許之地?深扒一個(gè)正被游戲行業(yè)「搶占」的流量帝國(guó)
  • 首頁(yè) > 云計(jì)算頻道 > 大模型

    昆侖萬(wàn)維宣布開(kāi)源“天工”Skywork-13B系列大模型

    2023年10月30日 14:55:04   來(lái)源:DoNews

      10月30日,昆侖萬(wàn)維宣布開(kāi)源百億級(jí)大語(yǔ)言模型「天工」Skywork-13B系列,并罕見(jiàn)地配套開(kāi)源了600GB、150B Tokens的超大高質(zhì)量開(kāi)源中文數(shù)據(jù)集。

      昆侖萬(wàn)維「天工」Skywork-13B系列目前包括130億參數(shù)的兩大模型:Skywork-13B-Base模型、Skywork-13B-Math模型,它們?cè)贑EVAL, GSM8K等多個(gè)權(quán)威評(píng)測(cè)與基準(zhǔn)測(cè)試上都展現(xiàn)了同等規(guī)模模型的最佳效果,其中文能力尤為出色,在中文科技、金融、政務(wù)等領(lǐng)域表現(xiàn)均高于其他開(kāi)源模型。

      除模型開(kāi)源外,Skywork-13B系列大模型還將開(kāi)源600GB、150B Tokens的高質(zhì)量中文語(yǔ)料數(shù)據(jù)集Skypile/Chinese-Web-Text-150B,這是目前最大的開(kāi)源中文數(shù)據(jù)集之一。

      同時(shí),昆侖萬(wàn)維「天工」Skywork-13B系列大模型即將全面開(kāi)放商用——開(kāi)發(fā)者無(wú)需申請(qǐng),即可商用。

      130億參數(shù)、兩大模型、最大中文數(shù)據(jù)集之一、全面開(kāi)放商用。昆侖萬(wàn)維「天工」Skywork-13B系列大模型堪稱(chēng)業(yè)內(nèi)開(kāi)源最徹底的百億高質(zhì)量商用模型。

      Skywork-13B系列大模型的開(kāi)源將為大模型的場(chǎng)景應(yīng)用和開(kāi)源社區(qū)發(fā)展提供最佳技術(shù)支持,降低大模型商業(yè)門(mén)檻,推動(dòng)人工智能技術(shù)落地千行百業(yè),為人工智能生態(tài)建設(shè)添磚加瓦,攜手開(kāi)源社區(qū)探索未知世界、創(chuàng)造美好未來(lái)。

      兩大模型 領(lǐng)先行業(yè)

      昆侖萬(wàn)維「天工」Skywork-13B系列包括兩大模型及150B高質(zhì)量中文數(shù)據(jù)集。

      Skywork-13B-Base模型是Skywork-13B的基礎(chǔ)模型,其經(jīng)由3.2萬(wàn)億個(gè)多語(yǔ)言高質(zhì)量數(shù)據(jù)訓(xùn)練,在CEVAL, CMMLU, MMLU, GSM8K等評(píng)測(cè)與基準(zhǔn)測(cè)試上都展現(xiàn)了同等規(guī)模模型的最佳效果。

      Skywork-13B-Math模型經(jīng)過(guò)專(zhuān)門(mén)的數(shù)學(xué)能力強(qiáng)化訓(xùn)練,在GSM8K等數(shù)據(jù)集上取得了同等規(guī)模模型的最佳效果。

      Skypile/Chinese-Web-Text-150B數(shù)據(jù)集。該數(shù)據(jù)集是根據(jù)我們經(jīng)過(guò)精心過(guò)濾的數(shù)據(jù)處理流程從中文網(wǎng)頁(yè)中篩選出的高質(zhì)量數(shù)據(jù)。本次開(kāi)源的數(shù)據(jù)集大小約為600GB,總token數(shù)量約為(1500億),是目前最大得開(kāi)源中文數(shù)據(jù)集之一。

      除此之外,Skywork-13B系列還公開(kāi)了模型中使用的評(píng)估方法、數(shù)據(jù)配比研究和訓(xùn)練基礎(chǔ)設(shè)施調(diào)優(yōu)方案等。希望這些開(kāi)源內(nèi)容能夠進(jìn)一步啟發(fā)社區(qū)對(duì)于大型模型預(yù)訓(xùn)練的認(rèn)知,并推動(dòng)人工智能通用智能(AGI)的實(shí)現(xiàn)。

      五大特點(diǎn) 全面超越

      昆侖萬(wàn)維「天工」Skywork-13B系列大模型在CEVAL, GSM8K等多個(gè)權(quán)威評(píng)測(cè)與基準(zhǔn)測(cè)試上都展現(xiàn)了同等規(guī)模模型的最佳效果,其中文能力尤為出色,在中文科技、金融、政務(wù)等領(lǐng)域表現(xiàn)均高于其他開(kāi)源模型。

      Skywork-13B系列模型的五大特點(diǎn):

      最強(qiáng)參數(shù)表現(xiàn):全面超越同等規(guī)模大模型

      本次開(kāi)源的Skywork-13B系列模型在CEVAL, CMMLU, MMLU, GSM8K等幾大權(quán)威評(píng)估基準(zhǔn)中全面超越LLaMA2-13B等開(kāi)源大模型,在同等規(guī)模大模型間取得最佳效果。(截止至10月25日數(shù)據(jù))

      最多訓(xùn)練數(shù)據(jù):3.2T高質(zhì)量的多語(yǔ)言訓(xùn)練數(shù)據(jù)

      Skywork-13B系列大模型擁有130億參數(shù)、3.2萬(wàn)億高質(zhì)量多語(yǔ)言訓(xùn)練數(shù)據(jù)。模型的生成能力、創(chuàng)作能力和數(shù)學(xué)推理能力提升明顯。

      最強(qiáng)中文語(yǔ)言建模能力:中文語(yǔ)言建模困惑度評(píng)測(cè),超越所有中文開(kāi)源模型

      Skywork-13B系列大模型在中文語(yǔ)言建模方面表現(xiàn)出色,具有優(yōu)秀的中文文創(chuàng)能力。在中文文本創(chuàng)作領(lǐng)域的評(píng)測(cè)中,Skywork-13B系列大模型展現(xiàn)出了卓越的能力,尤其在科技、金融、政務(wù)、企業(yè)服務(wù)、文創(chuàng)、游戲等領(lǐng)域均表現(xiàn)高于業(yè)內(nèi)其他開(kāi)源模型。

      上圖為不同領(lǐng)域數(shù)據(jù)下評(píng)估模型的困惑度,越低代表模型在該領(lǐng)域建模能力越強(qiáng)。結(jié)果顯示天工13B在技術(shù)文章,電影,政務(wù)報(bào)告,游戲,金融,通用領(lǐng)域均表現(xiàn)出色

      最大中文開(kāi)源數(shù)據(jù)集之一:150B Tokens高質(zhì)量中文語(yǔ)料

      Skywork-13B系列將配套開(kāi)源600GB、150B Tokens的高質(zhì)量中文語(yǔ)料數(shù)據(jù)集Skypile/Chinese-Web-Text-150B,這是目前最大的開(kāi)源中文數(shù)據(jù)集之一。開(kāi)發(fā)者可以最大程度地借鑒技術(shù)報(bào)告中大模型預(yù)訓(xùn)練的過(guò)程和經(jīng)驗(yàn),深度定制模型參數(shù),有針對(duì)性的進(jìn)行訓(xùn)練與優(yōu)化。

      最有誠(chéng)意的開(kāi)源商用:無(wú)需申請(qǐng),即可實(shí)現(xiàn)商用

      目前開(kāi)源社區(qū)中的中文大模型多數(shù)并非是完全可商用,一般開(kāi)源社區(qū)用戶通常需要進(jìn)行復(fù)雜的商用授權(quán)申請(qǐng)流程,在某些情況,甚至有對(duì)公司規(guī)模、所在行業(yè)、用戶數(shù)等維度有明確規(guī)定不給予商業(yè)授權(quán)。

      昆侖萬(wàn)維對(duì)Skywork-13B系列開(kāi)源的開(kāi)放性和可商用性高度重視,將授權(quán)流程做到極簡(jiǎn),取消對(duì)行業(yè)、公司規(guī)模、用戶等方面的限制,目的是幫助更多對(duì)中文大模型感興趣的用戶和企業(yè)在行業(yè)中不斷探索和進(jìn)步。

      此次Skywork-13B系列大模型將全面開(kāi)放商用許可,用戶在下載模型并同意并遵守《Skywork模型社區(qū)許可協(xié)議》后,無(wú)需再次申請(qǐng)授權(quán)即可將大模型進(jìn)行商業(yè)用途。希望用戶能夠更便捷地探索Skywork-13B系列大模型技術(shù)能力,探索在不同場(chǎng)景下的商業(yè)化應(yīng)用。

      文章內(nèi)容僅供閱讀,不構(gòu)成投資建議,請(qǐng)謹(jǐn)慎對(duì)待。投資者據(jù)此操作,風(fēng)險(xiǎn)自擔(dān)。

    即時(shí)

    新聞

    明火炊具市場(chǎng):三季度健康屬性貫穿全類(lèi)目

    奧維云網(wǎng)(AVC)推總數(shù)據(jù)顯示,2024年1-9月明火炊具線上零售額94.2億元,同比增加3.1%,其中抖音渠道表現(xiàn)優(yōu)異,同比有14%的漲幅,傳統(tǒng)電商略有下滑,同比降低2.3%。

    企業(yè)IT

    重慶創(chuàng)新公積金應(yīng)用,“區(qū)塊鏈+政務(wù)服務(wù)”顯成效

    “以前都要去窗口辦,一套流程下來(lái)都要半個(gè)月了,現(xiàn)在方便多了!”打開(kāi)“重慶公積金”微信小程序,按照提示流程提交相關(guān)材料,僅幾秒鐘,重慶市民曾某的賬戶就打進(jìn)了21600元。

    3C消費(fèi)

    華碩ProArt創(chuàng)藝27 Pro PA279CRV顯示器,高能實(shí)力,創(chuàng)

    華碩ProArt創(chuàng)藝27 Pro PA279CRV顯示器,憑借其優(yōu)秀的性能配置和精準(zhǔn)的色彩呈現(xiàn)能力,為您的創(chuàng)作工作帶來(lái)實(shí)質(zhì)性的幫助,雙十一期間低至2799元,性價(jià)比很高,簡(jiǎn)直是創(chuàng)作者們的首選。

    研究

    中國(guó)信通院羅松:深度解讀《工業(yè)互聯(lián)網(wǎng)標(biāo)識(shí)解析體系

    9月14日,2024全球工業(yè)互聯(lián)網(wǎng)大會(huì)——工業(yè)互聯(lián)網(wǎng)標(biāo)識(shí)解析專(zhuān)題論壇在沈陽(yáng)成功舉辦。