昆侖萬維「天工」大模型開啟內(nèi)測，我們跟它聊了聊理想

　　“每隔一段時間，就會有一個革命性的產(chǎn)品出現(xiàn)，然后改變一切。”

　　這是2007年1月9日，喬布斯在一次手機(jī)發(fā)布會上的開場白。手機(jī)名叫iPhone，它改變了通訊、娛樂和移動互聯(lián)網(wǎng)。之后，iPhone或是和iPhone類似的手機(jī)，出現(xiàn)每個人的手中。

　　2022年11月30日，由OpenAI研發(fā)的ChatGPT問世。

　　在最初的描述中，ChatGPT被稱為“聊天機(jī)器人程序”，但人們發(fā)現(xiàn)這個AI能做的不只是“Chat”——之后的幾個月，人們陸陸續(xù)續(xù)將它接入各種場景：答疑、編程、繪畫、翻譯、文本創(chuàng)作、廣告設(shè)計、頭腦風(fēng)暴……然后震驚于AIGC的想象力、創(chuàng)造力和生產(chǎn)效率。從聊天到創(chuàng)作，或許在2023年之后，沒有任何一個行業(yè)有理由完全排除AIGC。

　　此時此刻，恰如彼時彼刻。

　　但也有不同——這一次，國內(nèi)AI行業(yè)的跟進(jìn)遠(yuǎn)比過去及時。百度、商湯等幾位AI課代表很快推出了類似ChatGPT國產(chǎn)AI大模型，外界的質(zhì)疑聲中漸漸聽到了掌聲。

　　2023年4月，昆侖萬維「天工」3.5大語言模型發(fā)布，并啟動邀請測試。AI藍(lán)媒匯(ID：lanmeih001)的藍(lán)媒君第一時間對話了「天工」大模型。

　　對話的內(nèi)容，都和“理想”有關(guān)：

　　AI大模型沒說自己的理想，但它鼓勵藍(lán)媒君堅持理想——“記得不要因為挫傷自尊心而放棄。”

　　昆侖萬維的理想——“目前版本我們對標(biāo)的主要是OpenAI的ChatGPT。未來讓它盡快達(dá)到GPT4的能力。”

　　國產(chǎn)ChatGPT，能再迎一次驚喜嗎?

　　第一個實現(xiàn)“智能涌現(xiàn)”的國產(chǎn)大模型

　　在和「天工」大模型的對話中，藍(lán)媒君預(yù)設(shè)了一個場景：中學(xué)老師與學(xué)生對話，目的是確定學(xué)生的興趣。

　　藍(lán)媒君確實曾和體育場里面的小朋友聊過這個問題，當(dāng)時小朋友的回答是“喜歡跑步”、“覺得好玩”。

　　盡管在一開始就預(yù)設(shè)了問答模式，但「天工」大模型在實際對話中并沒有完全遵循“每答必問”的結(jié)構(gòu)——或許是算法判定藍(lán)媒君“喜歡踢足球”這個話題已經(jīng)討論充分，可以作為“你的興趣是什么”的答案。

　　藍(lán)媒君提出了第二個興趣，看書。

　　從這里可以看出，「天工」大模型依然延續(xù)著剛才關(guān)于“確定興趣”的這個話題，并遵循了問答結(jié)構(gòu)。

　　對話繼續(xù)，藍(lán)媒君的愛好很多。

　　「天工」大模型所給出的反饋始終直白，像是兩位小朋友最日常的對話：你喜歡科學(xué)，那你會怎么做?

　　以上文本在成年人看來略顯簡單，但一問一答確實符合需求——「天工」的回答做到了邏輯通順、推進(jìn)溝通。而這種簡單通順，或許正是人們需要的。

　　或許整場對話難言十分驚喜，但至少從對話邏輯和內(nèi)容上，「天工」基本做到了連貫通順、符合人類邏輯。

　　在談到大模型的邏輯推理時，昆侖萬維稱，「天工」目前的記憶力大約可支持20輪次以上的交互式問答，文本容量也在萬字以上。

　　“在AI領(lǐng)域，進(jìn)行自主學(xué)習(xí)并完成邏輯推理等任務(wù)的能力，被稱為‘涌現(xiàn)’能力。”而根據(jù)昆侖萬維CEO方漢的介紹，「天工」大模型是目前“國內(nèi)第一個實現(xiàn)智能涌現(xiàn)”的國產(chǎn)大語言模型。

　　這是一個在相對簡單的系統(tǒng)中，由量變產(chǎn)生質(zhì)變，最終產(chǎn)生復(fù)雜的行為或特性的過程。

　　而根據(jù)官方提供的測試數(shù)據(jù)，基于千億基座模型和千億排序模型，「天工」大模型生成內(nèi)容已經(jīng)能夠在某知識社區(qū)的問答中，獲得KOL級的贊同和回應(yīng)。

　　但「天工」偶爾也有失誤的時候。

　　在另一份關(guān)于數(shù)學(xué)題的測試中，天宮大模型準(zhǔn)確算出了一道雞兔同籠題目，但卻被另一道來自中學(xué)數(shù)學(xué)課本的一元一次方程困住，并最終得出了一個錯誤的計算結(jié)果。

　　或許是對題干的理解偏差，或許是方程組相關(guān)的數(shù)據(jù)訓(xùn)練還不夠完善，「天工」在運算方面的能力和方法，仍有些改進(jìn)空間。

　　談及大模型訓(xùn)練的工程進(jìn)度，昆侖萬維方面表示，關(guān)于數(shù)據(jù)的篩選、剪枝和清洗是“長期主義”的過程——「天工」大模型將在后續(xù)的迭代中，通過篩選數(shù)據(jù)調(diào)整參數(shù)改進(jìn)模型設(shè)計。

　　“問題會有，但正視差距不會影響團(tuán)隊的信心。”

　　而「天工」大模型，也只是昆侖萬維在AIGC賽道內(nèi)的落腳點之一。

　　合作破局

　　和大模型同期公布的，還有昆侖萬維同阿里云的AI合作項目。

　　4月11日的阿里云峰會上，昆侖萬維與阿里云共同發(fā)布了包括智算中心建設(shè)、大模型訓(xùn)練等領(lǐng)域戰(zhàn)略合作。

　　這并非是兩家公司首度牽線——2015年到2020年間，昆侖游戲、閑徠互娛，OPay海外支付業(yè)務(wù)已經(jīng)相繼接入了阿里云業(yè)務(wù)。

　　兩家公司在AI領(lǐng)域的合作則稍晚一些。2021年，昆侖萬維開始規(guī)劃自建大語言模型之后，于2022年2月敲定第一批AI算力集群的項目合作。

　　項目的合作方，正是阿里云：“當(dāng)時合作主要是依托阿里那邊的高性能AI計算集群，進(jìn)行大規(guī)模語言模型預(yù)訓(xùn)練工作。”訓(xùn)練內(nèi)容囊括了算法與架構(gòu)的協(xié)同、計算流水線與架構(gòu)的協(xié)同、最優(yōu)化存儲、TCO優(yōu)化四個方面。

　　雙方此番合作，目標(biāo)是則是要進(jìn)一步盤活國內(nèi)AIGC生態(tài)——不只是大廠背書，還有技術(shù)合作。

　　昆侖萬維方面表示，隨著「天工」訓(xùn)練規(guī)模的擴(kuò)大，模型參數(shù)逐漸接近萬億規(guī)模，“單個訓(xùn)練任務(wù)需要5000張以上A100(GPU芯片)，這樣大規(guī)模的GPU集群下，通信會產(chǎn)生大量的擁塞，訓(xùn)練效率會越來越低，對存儲讀寫性能同樣是個挑戰(zhàn)。”

　　而阿里云所提供的，則是業(yè)內(nèi)最領(lǐng)先的算力平臺。“后續(xù)昆侖萬維的AIGC業(yè)務(wù)，預(yù)計會有阿里云的靈駿底座+PAI軟件平臺加持。”

　　AI藍(lán)媒匯曾在《黃仁勛，ChatGPT時代的第一位贏家》一文中提及，國內(nèi)AIGC項目始終繞不開算力和成本的阻力，昆侖萬維CEO方漢也表示，在目前的大模型訓(xùn)練中，購買或者租賃英偉達(dá)的A100系列GPU仍占據(jù)了不少開銷。

　　“資源是一張門票。大模型訓(xùn)練的門檻就是幾千張GPU芯片。而在芯片到齊之后，接下來還要拼工程經(jīng)驗——實驗的速度，人才的厚度。”

　　圍繞ChatGPT開展的AIGC項目，在變現(xiàn)之前仍需付出。

　　按照計劃，在2023年的6、7月份，阿里云會為昆侖萬維打造一個專屬的、支持萬卡擴(kuò)展的AI算力集群。

　　“我們期望與阿里云展開深入合作，激活國內(nèi)AIGC技術(shù)生態(tài)，為中小企業(yè)和開發(fā)者的創(chuàng)新提供便利。我們一直覺得，當(dāng)產(chǎn)品的能力足夠好、真正能夠幫助用戶解決剛需，那么獲得經(jīng)濟(jì)回報就是水到渠成的事。”

　　而現(xiàn)階段昆侖萬維的業(yè)務(wù)重心，則仍在研發(fā)和訓(xùn)練領(lǐng)域：“潛下⼼認(rèn)真打磨產(chǎn)品，幫助模型進(jìn)化到更高水平，讓它盡快達(dá)到GPT4的能力。”

　　可以預(yù)見的是，在未來一段時間內(nèi)，包括昆侖萬維在內(nèi)的國內(nèi)AI玩家，仍將面對GPU資源量方面的阻力，仍將是賽道內(nèi)的追趕者。

　　至于何時追近，能否比肩，AIGC的從業(yè)者同樣需要市場和時間來解答

　　來源|AI藍(lán)媒匯 作者|伊柒