在過去幾個月的大模型落地實踐中,業(yè)界遇到了方方面面的挑戰(zhàn)。為了攻下行業(yè)山頭,華為常務(wù)董事、華為云CEO張平安在華為全聯(lián)接大會2023上,提出了 “解難題、做難事、行致遠”的號召。華為云今年還將派出200多位博士和天才少年,與行業(yè)頭部企業(yè)、戰(zhàn)略伙伴一起,開展大模型落地會戰(zhàn)。
文|趙艷秋
編|;
9月21日,在盤古大模型3.0推出兩個多月后,華為云在華為全聯(lián)接大會2023上又推出了汽車、醫(yī)學(xué)等新的行業(yè)大模型,并對政務(wù)、礦山、氣象、數(shù)字人直播、軟件研發(fā)等大模型進行了升級。
與會者觀察到,華為云全力在行業(yè)大模型的道路上快速推進,打法路徑更為明晰。會議上宣布了礦山、氣象、政務(wù)等大模型落地的標桿案例。
由于不少行業(yè)處于大模型落地早期,在過去幾個月的實踐中,業(yè)界普遍反映,遇到了方方面面不小的困難。華為常務(wù)董事、華為云CEO張平安在會上提出了“解難題、做難事、行致遠”的號召。
數(shù)智前線獲悉,為了攻下行業(yè)山頭,華為云今年還將增派200多位博士和天才少年到一線,與頭部企業(yè)、戰(zhàn)略伙伴一起,開展各種會戰(zhàn)。
01
大模型的路線“分歧”
今年7月華為云發(fā)布盤古大模型3.0后,很多客戶和業(yè)界朋友找到軟通動力華為云智能服務(wù)總經(jīng)理魏建勛咨詢,華為云所說的大模型,為什么與OpenAI的ChatGPT大語言模型不同?
華為云對大模型的定義和發(fā)展路徑,在業(yè)界也引發(fā)爭論。不少大廠今年強力投入的是大語言模型,但華為云發(fā)布的是自然語言、視覺、科學(xué)計算、預(yù)測、多模態(tài)等五個基礎(chǔ)大模型以及數(shù)個行業(yè)大模型,對大語言模型并未特別強調(diào)。
有人士認為,這混淆了大模型的概念,也有人士認為,解決行業(yè)問題才是硬道理。不過,魏建勛發(fā)現(xiàn),最近一個多月,華為云的大模型單子越來越多,找華為云和軟通動力合作的企業(yè)也越來越多。“大家看到在行業(yè)中,尤其在礦山和氣象領(lǐng)域的典型落地案例后,無論在惠民,還是在企業(yè)收益上,大家都漸漸有了感知。”
“華為云主打的是行業(yè),行業(yè)有縱深,會遇到多種多樣的訴求。”魏建勛告訴數(shù)智前線,在這種情況下,只有大語言模型是不行的。
華為云一位高管告訴數(shù)智前線,之所以選擇這個模式,是因為他們覺得一個模型解決不了所有問題。“有的模型擅長文,有的擅長理,比如我們的科學(xué)計算大模型,能解決調(diào)度這類復(fù)雜問題。我們的盤古氣象大模型,研究成果上了《自然》雜志,就是因為它有一個獨立的模型。”
“從本質(zhì)上看,華為云的大模型道路是一條可落地、可變現(xiàn)、不燒錢的商業(yè)路徑。”從事數(shù)字人應(yīng)用開發(fā)的云蝠智能創(chuàng)始人魏佳星觀察。
他坦言,華為云選擇這條路徑與ToB基因密切相關(guān)。國內(nèi)外有多個大廠在做大語言模型,但在大語言模型還未展現(xiàn)出明確商業(yè)化優(yōu)勢前,“在這樣一個競爭氛圍里,我感覺華為即使去做,勝算也不會太高”。而在產(chǎn)業(yè)這塊就不同了,像華為云盤古氣象大模型,一兩年內(nèi)可能就是市場上的獨家技術(shù)。“在這個窗口期內(nèi),它可以繼續(xù)加大數(shù)據(jù)、加大算力,做到占領(lǐng)市場。”
實際上,在華為全聯(lián)接大會2023上,張平安介紹,盤古氣象大模型已在歐洲中期天氣預(yù)報中心、國家氣象局等開始試用。泰國氣象局也啟動了與盤古的合作。在礦山領(lǐng)域,山東能源集團已把礦山大模型全面應(yīng)用到9大業(yè)務(wù)系統(tǒng)、21個場景中。目前,礦山大模型在全國其他8個礦井開始規(guī)模使用......
華為判斷,人工智能應(yīng)用迎來奇點,正在加速進入行業(yè)生產(chǎn)系統(tǒng),未來2年將深入到50%以上的行業(yè)核心場景,逐步成為數(shù)字經(jīng)濟增長的主引擎。
“這是不是有點像5年前新能源車的狀況?”魏佳星說,“在純電賽道沒有一個明確的定論前,一些企業(yè)先做增程式,比做純電跑得要快,但大家一開始也有爭議。”
不過,大模型落地行業(yè),并不是一件容易的事。
一位金融行業(yè)資深人士向數(shù)智前線描述了今年銀行落地大模型的狀態(tài):二三月,大家都很焦慮,怕落后;四五月,紛紛組建團隊去做;之后幾個月,大家在找方向、落地上遇到了困難,開始變得理性;現(xiàn)在,他們看標桿,把驗證過的場景拿來試用。
在這個過程中,除了編程助手這類開箱即用的功能外,業(yè)界發(fā)現(xiàn),大模型與業(yè)務(wù)場景結(jié)合的難度不小,一方面需要大算力,不少頭部企業(yè)因為數(shù)據(jù)與合規(guī)要求,要構(gòu)建基礎(chǔ)設(shè)施,投資大,有一定周期;另一方面,在行業(yè)或企業(yè)大模型的訓(xùn)練上,即便是微調(diào),也可能要一兩萬條數(shù)據(jù),還要找到適宜的方法,企業(yè)都在探索中;同時,不少企業(yè)還要開發(fā)算子,解決公有云和私有云協(xié)同。
魏建勛觀察,目前階段,華為云的打法是聚焦頭部企業(yè),找到具有代表性和普適性的痛點,結(jié)合盤古大模型和企業(yè)know-how,打造行業(yè)標桿,為行業(yè)復(fù)制打基礎(chǔ)。
02
大模型落地大會戰(zhàn)
打造標桿是一件具有開拓性的事。在華為內(nèi)部有著密密麻麻的Roadmap,科學(xué)家和數(shù)學(xué)家進一步下沉一線,識別行業(yè)難點,更快構(gòu)建行業(yè)大模型,拓展行業(yè)深度。
華為云人工智能算法專家金博士,參與了盤古汽車大模型的構(gòu)建。“下到一線后,我充分理解到自動駕駛中數(shù)據(jù)的價值。”數(shù)據(jù)是個吞金獸,一個包含視覺、雷達等多傳感器的10秒圖像文字訓(xùn)練,數(shù)據(jù)采集標注成本要幾百元,而自動駕駛需要幾百萬小時的行駛數(shù)據(jù)。
同時,如何補足“鬼探頭”這類Corner Case長尾數(shù)據(jù),解決幾年前自動駕駛車將橫穿馬路的白色大卡車誤判為云朵,而釀成事故的這類問題,是行業(yè)難題之一。
在盤古汽車大模型中,采用NeRF構(gòu)建的數(shù)字孿生、元宇宙虛擬環(huán)境中,利用大模型的生成和泛化能力,產(chǎn)出大量虛擬數(shù)據(jù),而且只要訓(xùn)練一次,就可生成適配不同新車型視角的視頻,讓Corner Case閉環(huán)周期,從兩周以上縮短到兩天內(nèi),也降低了實際道路采集標注成本。
盤古汽車大模型也進入汽車的研產(chǎn)供銷服場景中,一汽解放數(shù)字化部宋磊部長,在會上分享了一汽解放,應(yīng)用盤古汽車大模型的實踐。
在金融領(lǐng)域,負責(zé)盤古金融大模型的祝博士,下到一線后,了解到銀行的痛點之一,是傳統(tǒng)智能客服仍要依賴大量人工,而對一線人員的知識傳遞也存在瓶頸。大模型結(jié)合知識庫,可理解專業(yè)知識,實現(xiàn)專業(yè)問答,成為一線人員的助手;诒P古金融大模型的網(wǎng)點問答,7月在工行上線后,陸續(xù)推廣了幾百個網(wǎng)點,答案采納率超過85%,獲得一線業(yè)務(wù)的好評。目前,文檔問答孵化成的標準解決方案,又快速復(fù)制到交行、農(nóng)行、銀聯(lián)以及上交所等。
值得關(guān)注的是,工行向祝博士反映,他們在人才上面臨兩難:一方面不希望員工被大模型取代;另一方面很多崗位還有人才缺口。他們期望大模型釋放出的員工,能做更多高價值的事。在這一訴求下,華為聯(lián)合工行實驗室的人力資源團隊 ,梳理了大模型在企業(yè)應(yīng)用的人員轉(zhuǎn)身實踐,設(shè)計了系列培訓(xùn)課程,如Prompt調(diào)優(yōu)、微調(diào)、大模型運營等,并與遠程銀行、網(wǎng)點等部門合作,建立聯(lián)合項目組,驅(qū)動企業(yè)人員能力提升。
“這樣的實踐,也驅(qū)動我們梳理了一整套企業(yè)落地方法論,真正做到授人以漁,讓企業(yè)和員工深入擁抱新技術(shù),提升生產(chǎn)力。”祝博士說。
在氣象領(lǐng)域,盤古氣象大模型此前創(chuàng)造了臺風(fēng)路徑的預(yù)測紀錄。這次升級后,它又攻克了暴雨預(yù)測這一全球氣象領(lǐng)域Top級難題,讓暴雨紅色預(yù)警從3小時預(yù)報,提前到24小時發(fā)出,這對政府的災(zāi)害防御、老百姓的生產(chǎn)生活極為關(guān)鍵。
深圳氣象局也在與華為合作,基于盤古氣象大模型,打造深圳區(qū)域氣象預(yù)報大模型。數(shù)智前線獲悉,這或?qū)⒊蔀槿蚴讉區(qū)域氣象預(yù)報模型,有望實現(xiàn)大約三公里精度的氣象預(yù)報。
9月30日,華為云還將啟動盤古氣象平臺的邀測,這是一個SaaS服務(wù),讓全球用戶可以直接調(diào)用降水預(yù)測等功能。
在醫(yī)學(xué)領(lǐng)域,喬博士和劉博士的團隊在解決醫(yī)療大模型嚴肅性和專業(yè)性的挑戰(zhàn)。“通用NLP大模型通過公開數(shù)據(jù)學(xué)習(xí),能力非常有限。”喬博士介紹,他們通過大量醫(yī)學(xué)數(shù)據(jù),并定義了大量醫(yī)學(xué)任務(wù),教會NLP大模型學(xué)習(xí)醫(yī)學(xué)的知識和場景。“大模型還結(jié)合搜索、知識圖譜,進一步保障大模型的可溯源性。”劉博士說。
盤古醫(yī)學(xué)大模型的目標是讓每個醫(yī)生擁有可信賴的臨床助手,這對普惠醫(yī)療的實現(xiàn)也意義深遠。目前,在由10個科室真實病例構(gòu)成的檢驗報告解讀測試中,在三個對照組中,盤古醫(yī)學(xué)助手幾乎達到了對照組1,也就是相當(dāng)于臨床醫(yī)生的平均水平。
在大會期間還公布了多個大模型的落地進展,如政務(wù)大模型首次將NLP大模型與CV大模型融合,讓城市各類開放和長尾事件秒級發(fā)現(xiàn)、分鐘級分撥。礦山大模型,讓山能濟寧二號煤礦每年多產(chǎn)出8000噸精煤,增收數(shù)千萬元;數(shù)字人直播,讓丹寨農(nóng)特產(chǎn)和非遺產(chǎn)業(yè)蠟染走出大山,走向全球。
過去幾個月,華為攻克行業(yè)難題的各種會戰(zhàn)中,合作伙伴的能力和價值也在快速釋放中。他們識別行業(yè)關(guān)鍵問題,結(jié)合自身行業(yè)know-how,推動盤古進入行業(yè)。魏建勛告訴數(shù)智前線,軟通動力在嘗試突破車險理賠的難點,將原來理賠定損,從幾天逐步縮短到小時級、分鐘級,“現(xiàn)場就能解決”,目前該項目與車企客戶在PoC階段。
03
支撐百模千態(tài)
在大模型訓(xùn)練和落地過程中,算力目前是行業(yè)的“集體焦慮”。這也是華為全聯(lián)接大會2023上,與會者最關(guān)注的事情之一。
“大家都在到處找算力,供需比大約在 1:10 之間。”一位算力行業(yè)人士說,“大模型廠商都在各地密集訪談,到處尋找穩(wěn)定算力的合作伙伴,每家對算力的需求都在萬P以上。”
不光是大模型廠商,一些行業(yè)頭部企業(yè),如銀行也已開始入場搶算力了。“銀行動不動就幾十萬、上百萬資料,他們要去做企業(yè)模型訓(xùn)練,首先就要購置算力。”
有資深人士判斷,國內(nèi)目前H800的缺口達到45萬張。面對中國的算力需求熱,上述算力行業(yè)人士稱,英偉達的發(fā)貨政策是優(yōu)先美國本土,中國供貨量不到兩成,而這樣的供貨還有隨時被卡的風(fēng)險。
此前,由于美國禁令,英偉達為中國提供了特供的A800和H800,今年以來仍不斷有消息認為,美國還在考慮打壓升級,包括進一步限制A800和H800的出口,限制中國企業(yè)使用美國AI云服務(wù)等。
面對算力的稀缺和昂貴,在9月21日的會議中,張平安宣布了華為云昇騰AI云服務(wù)正式上線。華為云投入很大,在貴安、烏蘭察布和蕪湖建設(shè)了非常大的AI算力中心。企業(yè)只需通過一鍵接入,即可隨取隨用AI云服務(wù)。
有趣的是,此前業(yè)界云廠商紛紛宣布支持各類開閉源大模型,華為云這次也宣布,除了支持盤古大模型,還將適配業(yè)界主流的近一百個開源大模型,如Llama2,GLM等,支持企業(yè)既可以基于盤古基礎(chǔ)大模型和行業(yè)大模型,也可以基于開源大模型,打造自己的專屬大模型。
9月20日,華為云昇騰AI云服務(wù)“百模千態(tài)”專區(qū)上線。千卡訓(xùn)練30天長穩(wěn)率達到90%,訓(xùn)練作業(yè)故障自動恢復(fù),非自動場景下恢復(fù)時長小于30分鐘;此外,還提供了開發(fā)、遷移工具鏈,30多種可視化調(diào)優(yōu)部署工具,自動化實施工具,典型模型遷移周期可降低到兩周。此前,針對華為在《自然》雜志上發(fā)表的華為云盤古氣象大模型的論文,任正非就在內(nèi)部講話中談及,要“在新的淘金時代賣鏟子”。
為了應(yīng)對千模百態(tài)的需求,在會議期間,華為云CTO張宇昕也介紹,華為云以系統(tǒng)架構(gòu)創(chuàng)新的思路,正式發(fā)布分布式QingTian架構(gòu),打破了計算、存儲、網(wǎng)絡(luò)的邊界,把過去主從式架構(gòu)升級為對等架構(gòu),來提升AI算力。
正如華為輪值董事長孟晚舟所言,華為致力于打造中國堅實的算力底座,為世界構(gòu)建第二選擇。
文章內(nèi)容僅供閱讀,不構(gòu)成投資建議,請謹慎對待。投資者據(jù)此操作,風(fēng)險自擔(dān)。
2024年的Adobe MAX 2024發(fā)布會上,Adobe推出了最新版本的Adobe Creative Cloud。
奧維云網(wǎng)(AVC)推總數(shù)據(jù)顯示,2024年1-9月明火炊具線上零售額94.2億元,同比增加3.1%,其中抖音渠道表現(xiàn)優(yōu)異,同比有14%的漲幅,傳統(tǒng)電商略有下滑,同比降低2.3%。
“以前都要去窗口辦,一套流程下來都要半個月了,現(xiàn)在方便多了!”打開“重慶公積金”微信小程序,按照提示流程提交相關(guān)材料,僅幾秒鐘,重慶市民曾某的賬戶就打進了21600元。
華碩ProArt創(chuàng)藝27 Pro PA279CRV顯示器,憑借其優(yōu)秀的性能配置和精準的色彩呈現(xiàn)能力,為您的創(chuàng)作工作帶來實質(zhì)性的幫助,雙十一期間低至2799元,性價比很高,簡直是創(chuàng)作者們的首選。
9月14日,2024全球工業(yè)互聯(lián)網(wǎng)大會——工業(yè)互聯(lián)網(wǎng)標識解析專題論壇在沈陽成功舉辦。