行業(yè)大模型到了必須下場(chǎng)的時(shí)刻

　　如果說2023年是通用大模型的元年，2024年將是行業(yè)大模型落地元年。

　　從去年底到今年初，各行各業(yè)正迎來大模型落地潮。“大家都馬不停蹄的。”

　　就在這樣的熱潮之中，政企市場(chǎng)的資深玩家浪潮云，在青島發(fā)布海若大模型業(yè)務(wù)戰(zhàn)略，定位行業(yè)大模型市場(chǎng)，首批面向政府、交通、應(yīng)急、制造、醫(yī)療、農(nóng)業(yè)六大行業(yè)，通過培育“三位一體”的數(shù)字生態(tài)創(chuàng)新共同體，加速行業(yè)大模型在百城落地。

　　01

　　大模型落地?zé)衢_始了

　　“大模型的行業(yè)落地需求來的又快又猛。”一位趕到青島參加浪潮云數(shù)字創(chuàng)新生態(tài)大會(huì)的大模型落地服務(wù)商說。“從去年底到今年初，這樣的氛圍特別濃，大家都馬不停蹄的，這個(gè)潮流來的太快了。”另一位現(xiàn)場(chǎng)人士說。

　　一位正在與醫(yī)院合作大模型落地的浪潮云人士說，原來每家醫(yī)院都有自己的一個(gè)小生態(tài)，其他人想進(jìn)入都有壁壘。“但我們現(xiàn)在用大模型去聊，醫(yī)院都很開放。雙方在一起碰撞的思路特別多，大家都愿意做出一些創(chuàng)新的東西。”

　　在醫(yī)院，一位科室主任告訴浪潮云人士，自己手下那么多博士，80%的時(shí)間都花在文書上了。“一點(diǎn)都不夸張。”另一位參觀的服務(wù)商說，現(xiàn)在實(shí)習(xí)生就是在辦公室寫病歷，根本接觸不到患者。“所以他們就想解決這個(gè)問題。”目前，浪潮云與一家三甲醫(yī)院合作，采用大模型的即時(shí)病例生成，準(zhǔn)確率已達(dá)90%。

　　在經(jīng)歷了近一年的市場(chǎng)培育和摸索后，各行各業(yè)正迎來大模型落地潮。背后根本的原因是，傳統(tǒng)技術(shù)已不能解決企業(yè)當(dāng)下面臨的問題，而大模型在降本增效上確實(shí)效果明顯。正是在這樣的形勢(shì)下，浪潮云正式發(fā)布海若大模型業(yè)務(wù)戰(zhàn)略。

　　“如果說2023年是通用大模型的元年，2024年從浪潮云的角度來看，是行業(yè)大模型落地的元年。”浪潮云首席技術(shù)官孫思清說，浪潮云正在與生態(tài)伙伴，跑通行業(yè)大模型商業(yè)閉環(huán)。

　　02

　　行業(yè)大模型必須下場(chǎng)

　　去年，全國掀起了百模大戰(zhàn)。“前期的同質(zhì)化比較嚴(yán)重，大家尤其關(guān)注通用大模型的基礎(chǔ)能力。”顏亮說，“但在后續(xù)的裂變中，我們意識(shí)到，大模型要能快速展現(xiàn)場(chǎng)景價(jià)值、快速落地，行業(yè)大模型必須下場(chǎng)。”

　　現(xiàn)在各個(gè)城市已意識(shí)到這個(gè)趨勢(shì)，都在加大行業(yè)大模型投入力度。

　　那么，一個(gè)行業(yè)大模型是怎么煉成的?孫思清告訴數(shù)智前線，在每個(gè)行業(yè)，浪潮云都有“燈塔客戶”，合作去訓(xùn)練行業(yè)模型。

　　在數(shù)據(jù)方面，大模型的訓(xùn)練使用了公開數(shù)據(jù)、授權(quán)數(shù)據(jù)和私有數(shù)據(jù)。其中，公開數(shù)據(jù)集完全能對(duì)外，是浪潮云經(jīng)過治理形成的;如果用到了行業(yè)授權(quán)數(shù)據(jù)，要保障不出域;而針對(duì)私有數(shù)據(jù)則是本地化的。“每個(gè)行業(yè)的數(shù)據(jù)安全分級(jí)不同，要根據(jù)不同的法規(guī)解決這件事。”孫思清說。

　　“有些數(shù)據(jù)不容易確權(quán)怎么辦?就在域內(nèi)做模型訓(xùn)練，訓(xùn)練后模型能不能出域，就涉及到安全審查或安全評(píng)估。”顏亮進(jìn)一步分析，“因?yàn)槟Ｐ涂梢约釉�，如果技術(shù)能證明原始數(shù)據(jù)是不可復(fù)原的，模型就可以出域，這是下一個(gè)課題，業(yè)內(nèi)還在探討。”

　　在訓(xùn)練行業(yè)大模型時(shí)，浪潮云會(huì)沉淀每個(gè)行業(yè)的通用智能體，這是一些共性應(yīng)用，發(fā)布在智能體商店。每個(gè)行業(yè)智能體商店將覆蓋200多個(gè)典型應(yīng)用場(chǎng)景，加快復(fù)制推廣。行業(yè)大模型在進(jìn)入企業(yè)或政府內(nèi)部，可以再結(jié)合專有數(shù)據(jù)、專有場(chǎng)景調(diào)優(yōu)。

　　“行業(yè)大模型落地的一個(gè)特點(diǎn)，是必須有一個(gè)對(duì)專有數(shù)據(jù)的精調(diào)過程。”顏亮說。

　　“從浪潮云來講，我們必須跟別人不一樣，會(huì)考慮標(biāo)準(zhǔn)化、規(guī)�；�，同時(shí)一定會(huì)考慮定制化。”孫思清說。

　　有趣的是，通用大模型參數(shù)已經(jīng)從上千億走到萬億級(jí)，但在浪潮云在行業(yè)落地中發(fā)現(xiàn)，參數(shù)不是越多越好。“在行業(yè)中，我們認(rèn)為7B-70B性價(jià)比最佳。”孫思清說，因?yàn)閲�民�?jīng)濟(jì)共有97個(gè)行業(yè)，每個(gè)行業(yè)采用的數(shù)據(jù)集通常是2T、3T，不會(huì)很大。這一實(shí)踐得到不少服務(wù)商的認(rèn)同。

　　對(duì)于大模型落地路徑，業(yè)界有不同觀點(diǎn)。“大家現(xiàn)在有一個(gè)很大的概念，叫做大模型的原生，但我不這么認(rèn)為。”顏亮告訴數(shù)智前線，“我們的想法是針對(duì)原有的生產(chǎn)系統(tǒng)或管理系統(tǒng)，植入大模型能力，這既能快速體現(xiàn)行業(yè)價(jià)值，也能對(duì)原有架構(gòu)挑戰(zhàn)最小。”

　　現(xiàn)場(chǎng)一位資深服務(wù)商表示贊同。他們從去年開始與一些地市合作，將行業(yè)大模型植入到原有的投訴舉報(bào)系統(tǒng)，實(shí)現(xiàn)了效果提升，目前已在幾個(gè)地市推廣復(fù)制。

　　當(dāng)下大模型處于場(chǎng)景點(diǎn)的挖掘，顏亮認(rèn)為，要真正讓行業(yè)產(chǎn)生質(zhì)變，大模型需要全流程植入。這可能需要1-2年，其中關(guān)鍵是大模型要經(jīng)過周期性迭代，才能達(dá)到可用。“最多兩年時(shí)間。競(jìng)爭(zhēng)會(huì)促成大家的互相學(xué)習(xí)和投入，我們感知到，2024年用戶在大模型上的投入，是2023年水平的3-4倍以上。”

　　03

　　行業(yè)落地關(guān)卡和三個(gè)解法

　　在這一年的實(shí)踐中，浪潮云觀察，政企用戶在接納、落地行業(yè)大模型上，要過四大關(guān)卡：

　　首先是數(shù)據(jù)隱私的保護(hù)和合規(guī)，這是客戶的底線，這個(gè)問題不解決，很多行業(yè)客戶就不會(huì)進(jìn)場(chǎng);其次是復(fù)雜的定制化需求，這是政企行業(yè)的基本要求;再次是人工與智能的協(xié)作，這是當(dāng)下每個(gè)人都面臨的新變化;最后是持續(xù)的學(xué)習(xí)和優(yōu)化，大模型落地不是一個(gè)項(xiàng)目，而是服務(wù)與運(yùn)營。

　　浪潮云也摸索出三個(gè)解法，將其提煉為可信賴、易落地和可持續(xù)。

　　首先是可信賴，核心要解決的問題是本地化部署。政府有明確的“數(shù)據(jù)不出域”的邊界，行業(yè)和企業(yè)也有“模糊的”數(shù)據(jù)不出域的邊界。本地部署是行業(yè)大模型的必備條件，滿足用戶的底線要求。

　　其次是易落地。大模型企業(yè)要提供完整的產(chǎn)品矩陣。“算力一定是大模型廠商帶著入場(chǎng)的。”顏亮說。數(shù)據(jù)治理能力是必不可少的。而大模型引擎是最基本的要求。要在行業(yè)里實(shí)現(xiàn)價(jià)值，要靠智能體工廠，這是一個(gè)面向行業(yè)的人工智能低代碼開發(fā)平臺(tái)。最終，做出的智能體要發(fā)布到商店里。

　　最后是可持續(xù)。“如果不可持續(xù)，得不償失，因?yàn)槲覀內(nèi)プ鲆粋�(gè)大模型驗(yàn)證的試驗(yàn)環(huán)境，投入量級(jí)都是幾百萬元。”顏亮在大會(huì)上介紹說，我們建議“平臺(tái)+服務(wù)”模式，購買MaaS服務(wù)。從持續(xù)性上看，核心問題是數(shù)據(jù)的持續(xù)供給，現(xiàn)在95%的政企客戶，數(shù)據(jù)質(zhì)量不高，要做數(shù)據(jù)治理。

　　浪潮云在這三方面已有明確布局。浪潮云已在120個(gè)城市部署了云中心。預(yù)計(jì)今年6月，基于浪潮政務(wù)云，會(huì)在90個(gè)城市部署大模型引擎和智能體平臺(tái)，提供從底層分布式算力，到上層治理好的數(shù)據(jù)集，再到上面的海若大模型、智能體工廠和智能體商店，以及安全衛(wèi)士的整個(gè)體系。

　　在這樣的體系下，云上的政務(wù)客戶，在一天內(nèi)可以接入大模型，開箱即用。在云中心覆蓋的城市，不能直接用政務(wù)云的非政務(wù)客戶，浪潮云一周可以在云中心內(nèi)為企業(yè)和行業(yè)做部署;如果是基于客戶自有云中心或第三方云中心，部署周期為一個(gè)月。

　　04

　　大模型的“三位一體”創(chuàng)新生態(tài)

　　大模型帶來了新的生態(tài)結(jié)構(gòu)。顏亮告訴數(shù)智前線，這是一個(gè)“三位一體”的創(chuàng)新共同體，分別是算力層生態(tài)伙伴、行業(yè)數(shù)據(jù)層生態(tài)伙伴，以及智能體運(yùn)用生態(tài)伙伴。

　　從算力角度講，浪潮云自身有一定算力，但因?yàn)榇竽Ｐ拖聢?chǎng)會(huì)帶來很大的算力消耗，所以各地建設(shè)的算力中心，包括政府平臺(tái)公司建設(shè)的算力平臺(tái)，都在浪潮云的生態(tài)伙伴范疇。

　　在智能體開發(fā)商伙伴方面，大模型也改變了傳統(tǒng)的開發(fā)形態(tài)。軟硬件廠商、端廠商會(huì)融合起來一同創(chuàng)新。比如在醫(yī)院病歷生成應(yīng)用中，醫(yī)生會(huì)掛采集端。“我們甚至有個(gè)想法，是把模型小型化之后，植入到采集端，突破效率、環(huán)境的局限性。這在發(fā)展之中。”顏亮說。