昆侖萬維「天工」大模型開啟內(nèi)測(cè)，我們跟它聊了聊理想

　　“每隔一段時(shí)間，就會(huì)有一個(gè)革命性的產(chǎn)品出現(xiàn)，然后改變一切。”

　　這是2007年1月9日，喬布斯在一次手機(jī)發(fā)布會(huì)上的開場(chǎng)白。手機(jī)名叫iPhone，它改變了通訊、娛樂和移動(dòng)互聯(lián)網(wǎng)。之后，iPhone或是和iPhone類似的手機(jī)，出現(xiàn)每個(gè)人的手中。

　　2022年11月30日，由OpenAI研發(fā)的ChatGPT問世。

　　在最初的描述中，ChatGPT被稱為“聊天機(jī)器人程序”，但人們發(fā)現(xiàn)這個(gè)AI能做的不只是“Chat”——之后的幾個(gè)月，人們陸陸續(xù)續(xù)將它接入各種場(chǎng)景：答疑、編程、繪畫、翻譯、文本創(chuàng)作、廣告設(shè)計(jì)、頭腦風(fēng)暴……然后震驚于AIGC的想象力、創(chuàng)造力和生產(chǎn)效率。從聊天到創(chuàng)作，或許在2023年之后，沒有任何一個(gè)行業(yè)有理由完全排除AIGC。

　　此時(shí)此刻，恰如彼時(shí)彼刻。

　　但也有不同——這一次，國(guó)內(nèi)AI行業(yè)的跟進(jìn)遠(yuǎn)比過去及時(shí)。百度、商湯等幾位AI課代表很快推出了類似ChatGPT國(guó)產(chǎn)AI大模型，外界的質(zhì)疑聲中漸漸聽到了掌聲。

　　2023年4月，昆侖萬維「天工」3.5大語言模型發(fā)布，并啟動(dòng)邀請(qǐng)測(cè)試。AI藍(lán)媒匯(ID：lanmeih001)的藍(lán)媒君第一時(shí)間對(duì)話了「天工」大模型。

　　對(duì)話的內(nèi)容，都和“理想”有關(guān)：

　　AI大模型沒說自己的理想，但它鼓勵(lì)藍(lán)媒君堅(jiān)持理想——“記得不要因?yàn)榇靷�自尊心而放棄�?rdquo;

　　昆侖萬維的理想——“目前版本我們對(duì)標(biāo)的主要是OpenAI的ChatGPT。未來讓它盡快達(dá)到GPT4的能力。”

　　國(guó)產(chǎn)ChatGPT，能再迎一次驚喜嗎?

　　第一個(gè)實(shí)現(xiàn)“智能涌現(xiàn)”的國(guó)產(chǎn)大模型

　　在和「天工」大模型的對(duì)話中，藍(lán)媒君預(yù)設(shè)了一個(gè)場(chǎng)景：中學(xué)老師與學(xué)生對(duì)話，目的是確定學(xué)生的興趣。

　　藍(lán)媒君確實(shí)曾和體育場(chǎng)里面的小朋友聊過這個(gè)問題，當(dāng)時(shí)小朋友的回答是“喜歡跑步”、“覺得好玩”。

　　盡管在一開始就預(yù)設(shè)了問答模式，但「天工」大模型在實(shí)際對(duì)話中并沒有完全遵循“每答必問”的結(jié)構(gòu)——或許是算法判定藍(lán)媒君“喜歡踢足球”這個(gè)話題已經(jīng)討論充分，可以作為“你的興趣是什么”的答案。

　　藍(lán)媒君提出了第二個(gè)興趣，看書。

　　從這里可以看出，「天工」大模型依然延續(xù)著剛才關(guān)于“確定興趣”的這個(gè)話題，并遵循了問答結(jié)構(gòu)。

　　對(duì)話繼續(xù)，藍(lán)媒君的愛好很多。

　　「天工」大模型所給出的反饋始終直白，像是兩位小朋友最日常的對(duì)話：你喜歡科學(xué)，那你會(huì)怎么做?

　　以上文本在成年人看來略顯簡(jiǎn)單，但一問一答確實(shí)符合需求——「天工」的回答做到了邏輯通順、推進(jìn)溝通。而這種簡(jiǎn)單通順，或許正是人們需要的。

　　或許整場(chǎng)對(duì)話難言十分驚喜，但至少?gòu)膶?duì)話邏輯和內(nèi)容上，「天工」基本做到了連貫通順、符合人類邏輯。

　　在談到大模型的邏輯推理時(shí)，昆侖萬維稱，「天工」目前的記憶力大約可支持20輪次以上的交互式問答，文本容量也在萬字以上。

　　“在AI領(lǐng)域，進(jìn)行自主學(xué)習(xí)并完成邏輯推理等任務(wù)的能力，被稱為‘涌現(xiàn)’能力。”而根據(jù)昆侖萬維CEO方漢的介紹，「天工」大模型是目前“國(guó)內(nèi)第一個(gè)實(shí)現(xiàn)智能涌現(xiàn)”的國(guó)產(chǎn)大語言模型。

　　這是一個(gè)在相對(duì)簡(jiǎn)單的系統(tǒng)中，由量變產(chǎn)生質(zhì)變，最終產(chǎn)生復(fù)雜的行為或特性的過程。

　　而根據(jù)官方提供的測(cè)試數(shù)據(jù)，基于千億基座模型和千億排序模型，「天工」大模型生成內(nèi)容已經(jīng)能夠在某知識(shí)社區(qū)的問答中，獲得KOL級(jí)的贊同和回應(yīng)。

　　但「天工」偶爾也有失誤的時(shí)候。

　　在另一份關(guān)于數(shù)學(xué)題的測(cè)試中，天宮大模型準(zhǔn)確算出了一道雞兔同籠題目，但卻被另一道來自中學(xué)數(shù)學(xué)課本的一元一次方程困住，并最終得出了一個(gè)錯(cuò)誤的計(jì)算結(jié)果。

　　或許是對(duì)題干的理解偏差，或許是方程組相關(guān)的數(shù)據(jù)訓(xùn)練還不夠完善，「天工」在運(yùn)算方面的能力和方法，仍有些改進(jìn)空間。

　　談及大模型訓(xùn)練的工程進(jìn)度，昆侖萬維方面表示，關(guān)于數(shù)據(jù)的篩選、剪枝和清洗是“長(zhǎng)期主義”的過程——「天工」大模型將在后續(xù)的迭代中，通過篩選數(shù)據(jù)調(diào)整參數(shù)改進(jìn)模型設(shè)計(jì)。

　　“問題會(huì)有，但正視差距不會(huì)影響團(tuán)隊(duì)的信心。”

　　而「天工」大模型，也只是昆侖萬維在AIGC賽道內(nèi)的落腳點(diǎn)之一。

　　合作破局

　　和大模型同期公布的，還有昆侖萬維同阿里云的AI合作項(xiàng)目。

　　4月11日的阿里云峰會(huì)上，昆侖萬維與阿里云共同發(fā)布了包括智算中心建設(shè)、大模型訓(xùn)練等領(lǐng)域戰(zhàn)略合作。

　　這并非是兩家公司首度牽線——2015年到2020年間，昆侖游戲、閑徠互娛，OPay海外支付業(yè)務(wù)已經(jīng)相繼接入了阿里云業(yè)務(wù)。

　　兩家公司在AI領(lǐng)域的合作則稍晚一些。2021年，昆侖萬維開始規(guī)劃自建大語言模型之后，于2022年2月敲定第一批AI算力集群的項(xiàng)目合作。

　　項(xiàng)目的合作方，正是阿里云：“當(dāng)時(shí)合作主要是依托阿里那邊的高性能AI計(jì)算集群，進(jìn)行大規(guī)模語言模型預(yù)訓(xùn)練工作。”訓(xùn)練內(nèi)容囊括了算法與架構(gòu)的協(xié)同、計(jì)算流水線與架構(gòu)的協(xié)同、最優(yōu)化存儲(chǔ)、TCO優(yōu)化四個(gè)方面。

　　雙方此番合作，目標(biāo)是則是要進(jìn)一步盤活國(guó)內(nèi)AIGC生態(tài)——不只是大廠背書，還有技術(shù)合作。

　　昆侖萬維方面表示，隨著「天工」訓(xùn)練規(guī)模的擴(kuò)大，模型參數(shù)逐漸接近萬億規(guī)模，“單個(gè)訓(xùn)練任務(wù)需要5000張以上A100(GPU芯片)，這樣大規(guī)模的GPU集群下，通信會(huì)產(chǎn)生大量的擁塞，訓(xùn)練效率會(huì)越來越低，對(duì)存儲(chǔ)讀寫性能同樣是個(gè)挑戰(zhàn)。”

　　而阿里云所提供的，則是業(yè)內(nèi)最領(lǐng)先的算力平臺(tái)。“后續(xù)昆侖萬維的AIGC業(yè)務(wù)，預(yù)計(jì)會(huì)有阿里云的靈駿底座+PAI軟件平臺(tái)加持。”

　　AI藍(lán)媒匯曾在《黃仁勛，ChatGPT時(shí)代的第一位贏家》一文中提及，國(guó)內(nèi)AIGC項(xiàng)目始終繞不開算力和成本的阻力，昆侖萬維CEO方漢也表示，在目前的大模型訓(xùn)練中，購(gòu)買或者租賃英偉達(dá)的A100系列GPU仍占據(jù)了不少開銷。

　　“資源是一張門票。大模型訓(xùn)練的門檻就是幾千張GPU芯片。而在芯片到齊之后，接下來還要拼工程經(jīng)驗(yàn)——實(shí)驗(yàn)的速度，人才的厚度。”

　　圍繞ChatGPT開展的AIGC項(xiàng)目，在變現(xiàn)之前仍需付出。

　　按照計(jì)劃，在2023年的6、7月份，阿里云會(huì)為昆侖萬維打造一個(gè)專屬的、支持萬卡擴(kuò)展的AI算力集群。

　　“我們期望與阿里云展開深入合作，激活國(guó)內(nèi)AIGC技術(shù)生態(tài)，為中小企業(yè)和開發(fā)者的創(chuàng)新提供便利。我們一直覺得，當(dāng)產(chǎn)品的能力足夠好、真正能夠幫助用戶解決剛需，那么獲得經(jīng)濟(jì)回報(bào)就是水到渠成的事。”

　　而現(xiàn)階段昆侖萬維的業(yè)務(wù)重心，則仍在研發(fā)和訓(xùn)練領(lǐng)域：“潛下⼼認(rèn)真打磨產(chǎn)品，幫助模型進(jìn)化到更高水平，讓它盡快達(dá)到GPT4的能力。”

　　可以預(yù)見的是，在未來一段時(shí)間內(nèi)，包括昆侖萬維在內(nèi)的國(guó)內(nèi)AI玩家，仍將面對(duì)GPU資源量方面的阻力，仍將是賽道內(nèi)的追趕者。

　　至于何時(shí)追近，能否比肩，AIGC的從業(yè)者同樣需要市場(chǎng)和時(shí)間來解答

　　來源|AI藍(lán)媒匯 作者|伊柒