百模大戰(zhàn)，不拼單項(xiàng)拼平臺(tái)

　　企業(yè)智能化轉(zhuǎn)型不但要有愿景目標(biāo)規(guī)劃，也需要有推進(jìn)協(xié)調(diào)和監(jiān)督機(jī)制，并且要有完備工具，確保實(shí)施。AI平臺(tái)就是其中的生產(chǎn)力工具。

　　文|徐鑫

　　編|任曉漁

　　產(chǎn)業(yè)智能化轉(zhuǎn)型走進(jìn)深水區(qū)，企業(yè)對(duì)AI能力的需求點(diǎn)在起變化。

　　越來(lái)越多大型企業(yè)的視野已不局限在單一智能應(yīng)用上。在電力、金融等行業(yè)，大型企業(yè)正圍繞著AI能力的生產(chǎn)、運(yùn)用和管理全流程，對(duì)廠商的AI學(xué)習(xí)平臺(tái)及平臺(tái)性生產(chǎn)力工具提出需求，從而解決人才稀缺、數(shù)據(jù)稀缺、管理困難、資源復(fù)用率低等一系列痛點(diǎn)。

　　大模型熱潮到來(lái)后，平臺(tái)的比拼重點(diǎn)轉(zhuǎn)移到了大模型開(kāi)發(fā)和應(yīng)用之上，廠商們積極將此前的AI平臺(tái)解決方案和大模型結(jié)合。 在平臺(tái)大比拼中，一些企業(yè)的優(yōu)勢(shì)已經(jīng)凸顯出來(lái)。國(guó)際分析機(jī)構(gòu)Forrester近日發(fā)布報(bào)告顯示，中國(guó)人工智能/機(jī)器學(xué)習(xí)平臺(tái)競(jìng)爭(zhēng)中，百度智能云表現(xiàn)亮眼，參與評(píng)選的AI平臺(tái)在數(shù)據(jù)、推理、應(yīng)用等6個(gè)大類，15個(gè)細(xì)項(xiàng)獲得了最高分，位居領(lǐng)導(dǎo)者象限。

　　AI平臺(tái)，正幫助企業(yè)快速構(gòu)建符合業(yè)務(wù)需求的人工智能模型及應(yīng)用，有效監(jiān)控和優(yōu)化模型效果。

　　一百個(gè)場(chǎng)景要建一百個(gè)模型的境況已經(jīng)成為歷史。

　　01

　　深度用AI，老炮們的困擾

　　產(chǎn)業(yè)正在進(jìn)入深度用AI應(yīng)用階段，AI已不再遙不可及。不過(guò)也有越來(lái)越多企業(yè)發(fā)現(xiàn)，隨著應(yīng)用深入，這些企業(yè)智能化領(lǐng)域里的資深用戶們正在遭遇新的困擾。

　　以能源行業(yè)為例，大型電力企業(yè)已經(jīng)將AI模型用于電路巡檢等多個(gè)場(chǎng)景。通常情況下，這類企業(yè)的相關(guān)需求，多由不同部門(mén)或分公司獨(dú)立采購(gòu)。隨著AI應(yīng)用變多，模型數(shù)量也在積累。管理大量模型，并讓大量的零散模型能穩(wěn)定、高效運(yùn)行，正成為一項(xiàng)挑戰(zhàn)。

　　許多大型企業(yè)都存在類似問(wèn)題。一位資深人士告訴數(shù)智前線，他親眼見(jiàn)過(guò)企業(yè)里A部門(mén)放5個(gè)人做A算法，B部門(mén)搞B小分隊(duì)也放幾個(gè)人做算法，這導(dǎo)致很難從公司層級(jí)進(jìn)行統(tǒng)一的監(jiān)控優(yōu)化更新維護(hù)，同時(shí)企業(yè)內(nèi)整體的AI資源復(fù)用率很低。

　　金融行業(yè)應(yīng)用AI也走在前列，一些企業(yè)或機(jī)構(gòu)早已將AI技術(shù)應(yīng)用于信用卡發(fā)放資格審批和欺詐識(shí)別等多個(gè)環(huán)節(jié)，實(shí)現(xiàn)AI風(fēng)控和精準(zhǔn)營(yíng)銷。但金融行業(yè)對(duì)安全和合規(guī)的強(qiáng)調(diào)也在延伸到AI的應(yīng)用過(guò)程。比如，銀行內(nèi)的技術(shù)團(tuán)隊(duì)非常重視合規(guī)因素，新建一個(gè)模型時(shí)，建設(shè)的委托和批準(zhǔn)角色是誰(shuí)，數(shù)據(jù)讀取的審批由誰(shuí)經(jīng)手，數(shù)據(jù)撰寫(xiě)、模型生產(chǎn)、訓(xùn)練、落地和上線也都有層層流程保障。這類需求明顯不是傳統(tǒng)的智能應(yīng)用建設(shè)。

　　一位云廠商資深行業(yè)解決方案人士告訴數(shù)智前線，一些大型央國(guó)企明確提出希望構(gòu)建企業(yè)的智能中樞，培育自身的AI能力，這樣企業(yè)里的數(shù)字化部門(mén)就能針對(duì)新場(chǎng)景，自己研發(fā)算法做全新應(yīng)用。

　　業(yè)界也觀察到這一趨勢(shì)。百度智能云AI平臺(tái)高級(jí)架構(gòu)師靳偉告訴數(shù)智前線，這反映出，AI應(yīng)用邁向深水區(qū)，企業(yè)的智能化轉(zhuǎn)型的系統(tǒng)性日益凸顯。企業(yè)不但要有愿景目標(biāo)規(guī)劃，也需要有很強(qiáng)的推進(jìn)協(xié)調(diào)和監(jiān)督機(jī)制，并且要有完備的工具，確保順利推進(jìn)實(shí)施。AI平臺(tái)就是企業(yè)智能化轉(zhuǎn)型的生產(chǎn)力工具。

　　行業(yè)上下已經(jīng)意識(shí)到這一平臺(tái)產(chǎn)品的重要性。日前，國(guó)際分析機(jī)構(gòu)Forrester發(fā)布《The Forrester WaveTM：中國(guó)市場(chǎng)人工智能/機(jī)器學(xué)習(xí)平臺(tái)廠商評(píng)測(cè)，Q42023》報(bào)告指出，中國(guó)的企業(yè)決策者們正進(jìn)一步優(yōu)先考慮采用AI技術(shù)，推動(dòng)生產(chǎn)率提升和業(yè)務(wù)創(chuàng)新。過(guò)程中，企業(yè)需要人工智能平臺(tái)產(chǎn)品，從而在各自的業(yè)務(wù)環(huán)境中支持復(fù)雜用例。

　　新的趨勢(shì)對(duì)機(jī)器學(xué)習(xí)平臺(tái)廠商的能力也提出了要求。Forrester認(rèn)為，領(lǐng)先的平臺(tái)既要能提供跨數(shù)據(jù)管理、模型培訓(xùn)和人工智能應(yīng)用程序構(gòu)建的綜合工具;也要貼合產(chǎn)業(yè)場(chǎng)景，幫助一些缺乏AI人才和數(shù)據(jù)科學(xué)家的企業(yè)基于自身業(yè)務(wù)需求來(lái)獲得AI能力;另外，還能通過(guò)工具、技術(shù)和實(shí)踐幫助企業(yè)可以規(guī)�；�開(kāi)發(fā)部署模型。

　　Forrester對(duì)中國(guó)14家主流機(jī)器學(xué)習(xí)平臺(tái)廠商從產(chǎn)品能力、戰(zhàn)略布局、市場(chǎng)表現(xiàn)3大維度，進(jìn)行了25項(xiàng)細(xì)分標(biāo)準(zhǔn)的評(píng)估。數(shù)據(jù)顯示，目前百度智能云獲評(píng)該報(bào)告的領(lǐng)導(dǎo)者陣營(yíng)，在數(shù)據(jù)、訓(xùn)練、預(yù)測(cè)推理、應(yīng)用等9項(xiàng)細(xì)分評(píng)分均獲第一。

　　靳偉介紹，百度在AI平臺(tái)的產(chǎn)品能力領(lǐng)先經(jīng)歷了長(zhǎng)期的積累和打磨。AI平臺(tái)的初衷是希望打造一款生產(chǎn)力軟件，讓不同類型的企業(yè)用戶能夠多快好省地建設(shè)AI應(yīng)用，同時(shí)做到平臺(tái)上算法多、工具多、運(yùn)行快、效果好，幫助客戶節(jié)省服務(wù)器和人力。

　　目前能源、金融行業(yè)的一些大型企業(yè)里已經(jīng)在深度使用�；�于AI平臺(tái)，企業(yè)不僅可以快速構(gòu)建符合業(yè)務(wù)需求的人工智能模型及應(yīng)用，還能有效監(jiān)控和優(yōu)化模型效果。此外，管理和協(xié)調(diào)數(shù)據(jù)、算力、人員、流程等資源時(shí)也更便捷、高效。

　　例如，電力行業(yè)，百度智能云AI平臺(tái)正幫助大型集團(tuán)解決業(yè)務(wù)痛點(diǎn)。一方面，模型和數(shù)據(jù)能在不同子公司分享，避免重復(fù)造輪子。同時(shí)一些已有的安全生產(chǎn)相關(guān)模型使用這款產(chǎn)品，可由國(guó)網(wǎng)直接統(tǒng)一分發(fā)到省網(wǎng)或市網(wǎng)，能高效利用AI資源，質(zhì)量一致。另外，AI平臺(tái)還能助力企業(yè)創(chuàng)新，比如研發(fā)出的電力調(diào)度新算法，用上了百度的強(qiáng)化學(xué)習(xí)框架，可實(shí)現(xiàn)不用大量專家的人工經(jīng)驗(yàn)調(diào)參數(shù)，AI自動(dòng)完成調(diào)度參數(shù)校準(zhǔn)。

　　金融行業(yè)里，百度智能云的AI平臺(tái)解決方案也幫助許多金融機(jī)構(gòu)構(gòu)建了大的模型風(fēng)險(xiǎn)管理模塊，保障AI應(yīng)用到金融場(chǎng)景里流程合規(guī)和可信安全。

　　02

　　大模型時(shí)代，如何量體裁衣

　　今年以來(lái)，大模型和生成式AI浪潮推動(dòng)了產(chǎn)業(yè)界進(jìn)一步深度應(yīng)用AI，機(jī)器學(xué)習(xí)平臺(tái)也在迎來(lái)新的發(fā)展機(jī)會(huì)。

　　資深人士介紹，大語(yǔ)言模型到來(lái)后，機(jī)器學(xué)習(xí)平臺(tái)的變化體現(xiàn)在三個(gè)層面。最典型的一個(gè)變化在操作界面上，NLP之前復(fù)雜的操作界面變簡(jiǎn)單了，企業(yè)應(yīng)用語(yǔ)言類AI的門(mén)檻在降低。同時(shí)，模型的自動(dòng)化能力提升，數(shù)據(jù)處理、模型選擇、自動(dòng)報(bào)告生成等任務(wù)都可以自動(dòng)化完成。另外，AI原生的創(chuàng)新應(yīng)用空間也隨之打開(kāi)。

　　在這一背景下，許多企業(yè)已經(jīng)把大模型當(dāng)作了一道必答題，各平臺(tái)廠商也摩拳擦掌，加足馬力，推出各類產(chǎn)品和平臺(tái)來(lái)加速大模型技術(shù)的應(yīng)用落地。以百度為例，今年3月推出了百度智能云千帆大模型平臺(tái)，將大模型開(kāi)發(fā)和應(yīng)用的關(guān)鍵能力與AI平臺(tái)深度整合，打造大模型服務(wù)的“超級(jí)工廠”。

　　為方便企業(yè)輕松使用和開(kāi)發(fā)大模型應(yīng)用，目前百度千帆上既提供包括百度自研的文心大模型和第三方大模型，還提供了各種AI開(kāi)發(fā)工具和整套開(kāi)發(fā)環(huán)境，助力各行業(yè)的生成式AI產(chǎn)業(yè)落地。

　　具體而言，百度將產(chǎn)業(yè)界對(duì)大模型的需求總結(jié)為五種類型，無(wú)論是只有算力需求的客戶，還是希望直接調(diào)用大模型API或基于現(xiàn)有大模型做二次開(kāi)發(fā)的企業(yè)，以及想要基于大模型去開(kāi)發(fā)AI原生應(yīng)用或者直接使用已開(kāi)發(fā)好應(yīng)用的公司，百度千帆平臺(tái)都能提供有針對(duì)性的服務(wù)。

　　對(duì)只有算力需求的企業(yè)，百度千帆平臺(tái)可提供極具高效和性價(jià)比的異構(gòu)算力服務(wù)。靳偉透露，要做到這一點(diǎn)，百度智能云AI平臺(tái)的技術(shù)團(tuán)隊(duì)花幾年時(shí)間做了大量Dirty Work。例如兼容國(guó)內(nèi)外主流AI芯片，需要從框架層、核心算法及網(wǎng)絡(luò)、芯片型號(hào)、操作系統(tǒng)四個(gè)層級(jí)做適配。“PyTorch寫(xiě)的和TensorFlow寫(xiě)的不一樣，操作系統(tǒng)用Windows、Linux或者單片機(jī)，要做的工作也有差別。四層組合做了四萬(wàn)種適配，才能保證各種模型順利運(yùn)轉(zhuǎn)。”靳偉說(shuō)。

　　想直接調(diào)用大模型API的用戶關(guān)心模型能力的豐富性，目前千帆大模型平臺(tái)既接入了文心大模型4.0，還納管了44個(gè)第三方的國(guó)內(nèi)外主流大模型，數(shù)量上是國(guó)內(nèi)平臺(tái)里最多。

　　有些企業(yè)希望對(duì)現(xiàn)有大模型進(jìn)行二次開(kāi)發(fā)，這需要豐富的工具鏈和大量的數(shù)據(jù)集支持。千帆平臺(tái)目前有覆蓋大模型再訓(xùn)練、微調(diào)、評(píng)估和部署等全生命周期的完善工具鏈和大量高質(zhì)量數(shù)據(jù)集，能針對(duì)場(chǎng)景快速優(yōu)化模型效果，進(jìn)一步提升企業(yè)的大模型用戶體驗(yàn)。

　　大模型對(duì)數(shù)據(jù)標(biāo)注環(huán)節(jié)帶來(lái)新變化，許多標(biāo)注任務(wù)可通過(guò)模型完成。目前千帆平臺(tái)支持業(yè)務(wù)數(shù)據(jù)回流和高度自動(dòng)化的數(shù)據(jù)標(biāo)注。比如目標(biāo)檢測(cè)場(chǎng)景里，千帆直接提供預(yù)訓(xùn)練能力，通過(guò)點(diǎn)按紐標(biāo)注少部分，剩下的讓模型學(xué)習(xí)人類標(biāo)注風(fēng)格自動(dòng)標(biāo)注，可為企業(yè)節(jié)省70%～90%的人力。

　　也有許多企業(yè)想基于大模型來(lái)開(kāi)發(fā)AI原生應(yīng)用。本月中旬，百度智能云發(fā)布“千帆AI原生應(yīng)用開(kāi)發(fā)工作臺(tái)”，其中包含大模型應(yīng)用開(kāi)發(fā)的常見(jiàn)應(yīng)用組件、應(yīng)用框架兩層服務(wù)，正是針對(duì)開(kāi)發(fā)AI原生應(yīng)用需求。

　　以應(yīng)用組件為例，千帆平臺(tái)包含了多種類型的能力，如問(wèn)答、思維鏈等大語(yǔ)言模型組件和文生圖、語(yǔ)音識(shí)別等多模態(tài)組件以及向量數(shù)據(jù)庫(kù)、對(duì)象存儲(chǔ)等傳統(tǒng)云服務(wù)能力等。

　　而應(yīng)用框架能將組件有機(jī)串聯(lián)起來(lái)，完成特定場(chǎng)景的完整任務(wù)。千帆平臺(tái)已經(jīng)提供市面上常用的檢索增強(qiáng)生成(RAG)、智能體(Agent)等框架服務(wù)，先鋒企業(yè)如三一重工已經(jīng)應(yīng)用這些框架，快速開(kāi)發(fā)自己的知識(shí)問(wèn)答應(yīng)用。

　　Prompt工程是大模型出現(xiàn)之后誕生的新領(lǐng)域。這與大模型的特性有關(guān)，稍微改變一下指令，它的輸出或行為會(huì)發(fā)生巨大變化。目前，各家廠商都在強(qiáng)調(diào)Prompt工程工具。百度千帆平臺(tái)也提供了覆蓋對(duì)話、編程、電商、醫(yī)療、游戲、翻譯、演講等十余個(gè)場(chǎng)景，共226個(gè)模版。據(jù)介紹，這是國(guó)內(nèi)主流平臺(tái)里數(shù)量最多的Prompt模板庫(kù)。開(kāi)發(fā)者和企業(yè)還能使用平臺(tái)提供的各類自動(dòng)化及批量工具，高效完成prompt環(huán)節(jié)。

　　靳偉認(rèn)為，過(guò)去幾個(gè)月里百度智能云千帆大模型平臺(tái)夯實(shí)了基礎(chǔ)，為百模大戰(zhàn)，助力企業(yè)規(guī)�；瘧�(yīng)用AI做好了準(zhǔn)備。

　　03

　　AI平臺(tái)，下一站拼什么?

　　AI并不只是大企業(yè)專屬。目前機(jī)器學(xué)習(xí)平臺(tái)廠商們都重視對(duì)大型企業(yè)、中小型客戶和開(kāi)發(fā)者市場(chǎng)的全面覆蓋，百度智能云的AI平臺(tái)解決方案也有針對(duì)性地服務(wù)不同群體。

　　靳偉告訴數(shù)智前線，百度AI平臺(tái)解決方案是多個(gè)產(chǎn)品的總稱，包含了全功能AI開(kāi)發(fā)平臺(tái)BML、零門(mén)檻AI開(kāi)發(fā)平臺(tái)EasyDL及百度智能云千帆大模型平臺(tái)等產(chǎn)品。針對(duì)不同領(lǐng)域或不同客戶偏好，AI平臺(tái)都有對(duì)應(yīng)的產(chǎn)品適配。例如，數(shù)據(jù)處理能力被打包成EasyData產(chǎn)品，零代碼建模能力也被抽出來(lái)做了EasyDL產(chǎn)品，能幫助用戶實(shí)現(xiàn)用高性能預(yù)訓(xùn)練模型完成零代碼建模，而大模型的能力則由百度智能云千帆平臺(tái)承載。

　　在公有云上，客戶類型以偏中小的企業(yè)居多，AI平臺(tái)的模塊被重新打散組合，以全功能AI開(kāi)發(fā)平臺(tái)BML和EasyDL產(chǎn)品為主要代表來(lái)適應(yīng)需求。針對(duì)大型客戶的私有化部署需求，各類產(chǎn)品又會(huì)被打包成超大產(chǎn)品去完成交付。

　　此次Forrester報(bào)告顯示，百度智能云AI平臺(tái)的產(chǎn)品能力在數(shù)據(jù)處理、模型訓(xùn)練、預(yù)測(cè)推理、應(yīng)用、架構(gòu)等五大領(lǐng)域都表現(xiàn)優(yōu)異。

　　靳偉介紹了不同領(lǐng)域里的獨(dú)特能力優(yōu)勢(shì)。以數(shù)據(jù)領(lǐng)域的特征工程為例，靳偉介紹，百度AI平臺(tái)集成了非常優(yōu)異的特征庫(kù)管理能力，能力上達(dá)到了專業(yè)級(jí)水平。可以提供特征的增刪改查，特征生產(chǎn)、共享、版本管理、數(shù)據(jù)驗(yàn)證等功能，支持批示流式不同形式的數(shù)據(jù)用于預(yù)測(cè)服務(wù)，還能保證模型訓(xùn)練時(shí)用的特征和最終預(yù)測(cè)時(shí)候的特征一致。“如果訓(xùn)練的時(shí)候特征分布上，比如男人占50%，女人50%，而預(yù)測(cè)的時(shí)候男人占60%、女人40%，那你不可能指望這個(gè)模型特別準(zhǔn)”，靳偉說(shuō)，這對(duì)模型的準(zhǔn)確性非常關(guān)鍵。

　　又比如模型訓(xùn)練領(lǐng)域，百度AI平臺(tái)可支持包含圖像、視頻、文本、語(yǔ)音以及結(jié)構(gòu)化數(shù)據(jù)等多種數(shù)據(jù)類型的建模和訓(xùn)練。在建模方式上，為愿意寫(xiě)代碼的人提供了NoteBook工具支持，不喜歡寫(xiě)代碼的人能拖拉拽甚至點(diǎn)一下集成式一站式按紐就能建模。針對(duì)大量的場(chǎng)景比如圖像分類，單標(biāo)簽多標(biāo)簽，物體檢測(cè)等CV場(chǎng)景，都由飛槳算法團(tuán)隊(duì)基于Paddle算子進(jìn)行了深度優(yōu)化，性能和效果表現(xiàn)會(huì)更優(yōu)異。

　　產(chǎn)品性能上的獨(dú)特優(yōu)勢(shì)點(diǎn)，離不開(kāi)長(zhǎng)期的技術(shù)投入和對(duì)新技術(shù)趨勢(shì)的關(guān)注。百度AI平臺(tái)研發(fā)團(tuán)隊(duì)介紹，他們非常關(guān)注新的技術(shù)趨勢(shì)，比如三年前業(yè)界就在探討模型可解釋性問(wèn)題，不知道模型怎么做決策的，就會(huì)影響模型在安全合規(guī)要求比較高的場(chǎng)景里使用。一般而言，深度學(xué)習(xí)模型參數(shù)量上比傳統(tǒng)的機(jī)器學(xué)習(xí)模型大很多，黑盒問(wèn)題會(huì)更加嚴(yán)重。

　　經(jīng)過(guò)長(zhǎng)期的準(zhǔn)備，百度AI平臺(tái)團(tuán)隊(duì)最終攻克了常規(guī)機(jī)器學(xué)習(xí)領(lǐng)域下的模型可解釋性算法，集成了五個(gè)常見(jiàn)的機(jī)器學(xué)習(xí)的原理白盒化，同時(shí)還攻克了部分深度學(xué)習(xí)可解釋性問(wèn)題。“弄清模型在什么場(chǎng)合下做出決策，是數(shù)據(jù)引發(fā)還是算法引發(fā)，都可以歸因，這些成果推動(dòng)了AI平臺(tái)相關(guān)產(chǎn)品在金融決策等特殊行業(yè)場(chǎng)景里的應(yīng)用。”靳偉介紹。

　　當(dāng)下業(yè)界把大模型的發(fā)展范式分五層，大模型本身、prompt工程、Chain工具鏈和行動(dòng)鏈、Agency與Multiagency。百度智能云千帆平臺(tái)此前主要的工作重心在第一、二層走得非常扎實(shí)，后面三層包括工具鏈、Agent和Multiagency能力也處于重點(diǎn)建設(shè)階段。靳偉介紹，千帆大模型平臺(tái)將持續(xù)完善升級(jí)，讓大模型自主發(fā)揮主觀能動(dòng)性，具備解決復(fù)雜問(wèn)題的能力。同時(shí)，未來(lái)不排除有出海計(jì)劃。

　　總體而言，企業(yè)智能化建設(shè)下，企業(yè)應(yīng)用AI深度升級(jí)，AI平臺(tái)領(lǐng)域的競(jìng)爭(zhēng)也日趨激烈。要在這一領(lǐng)域持續(xù)保持領(lǐng)先，迎接合規(guī)性和技術(shù)復(fù)雜度變化等帶來(lái)的長(zhǎng)期挑戰(zhàn)，廠商們還需要技術(shù)投入。靳偉認(rèn)為，廠商需要堅(jiān)持技術(shù)創(chuàng)新、在客戶滿意度、安全性、合規(guī)性上提升來(lái)適應(yīng)這個(gè)不斷變化的市場(chǎng)。