大模型一體機(jī)填上了多少AI應(yīng)用落地的“坑”？企業(yè)進(jìn)軍AI賽道的思路該變了

　　時(shí)至今日，隨著越來(lái)越多的企業(yè)和機(jī)構(gòu)不斷加速把AI技術(shù)融入自己的業(yè)務(wù)流程中，AI正持續(xù)改變著千行百業(yè)的業(yè)務(wù)模式。

　　在客戶服務(wù)領(lǐng)域，聊天機(jī)器人已經(jīng)可以7*24小時(shí)提供服務(wù)支持，減少了對(duì)人工客服的依賴。在供應(yīng)鏈管理領(lǐng)域，AI正在通過(guò)分析歷史銷售數(shù)據(jù)預(yù)測(cè)未來(lái)需求，幫助企業(yè)更好地規(guī)劃庫(kù)存。在制造領(lǐng)域，AI質(zhì)檢系統(tǒng)能夠自動(dòng)識(shí)別產(chǎn)品缺陷、分類問(wèn)題并提供實(shí)時(shí)反饋，從而幫助企業(yè)提升生產(chǎn)質(zhì)量、減少人工成本以及加快產(chǎn)品上市時(shí)間等等。

　　這些AI應(yīng)用在不同的行業(yè)場(chǎng)景大量涌現(xiàn)，而率先接入AI技術(shù)的廠商或企業(yè)也開(kāi)始嘗到了技術(shù)創(chuàng)新所帶來(lái)的發(fā)展紅利。市場(chǎng)對(duì)AI的熱情日益增長(zhǎng)，與此同時(shí)，技術(shù)的迭代似乎也不可避免地抬高后來(lái)者的進(jìn)入門(mén)檻，新的應(yīng)用挑戰(zhàn)和落地難題在不斷被放大。

　　對(duì)于沒(méi)有深厚AI技術(shù)積累的企業(yè)而言，應(yīng)該如何趕上這波紅利?市場(chǎng)同樣在尋求解答思路，而大模型一體機(jī)的走紅恰好在這個(gè)節(jié)點(diǎn)上為行業(yè)指明了路徑。

　　在2024中國(guó)算力大會(huì)期間，浪潮信息重磅發(fā)布元腦企智EPAI一體機(jī)，通過(guò)軟硬件高度協(xié)同的一體化設(shè)計(jì)，為客戶提供多元多模、簡(jiǎn)單易用、本地部署、安全可靠的大模型開(kāi)發(fā)平臺(tái)。——這樣的解題思路無(wú)疑將成為行業(yè)的共識(shí)，但是具體來(lái)看，大模型一體機(jī)應(yīng)該如何幫助廣大企業(yè)群體找到更省心、更快速的AI引用落地路徑，從而加速大模型產(chǎn)業(yè)化落地?這樣的問(wèn)題還得回歸行業(yè)中去尋找具體的答案。

　　四大挑戰(zhàn)，讓企業(yè)望“AI”興嘆

　　隨著大模型技術(shù)不斷升級(jí)和成熟，盡管應(yīng)用前景廣闊，但在實(shí)際部署過(guò)程中，許多企業(yè)仍面臨著諸多挑戰(zhàn)。如果不克服這些挑戰(zhàn)，就很難實(shí)現(xiàn)大模型應(yīng)用系統(tǒng)性的落地。

　　其一，由于產(chǎn)業(yè)生態(tài)離散以及行業(yè)應(yīng)用的具體需求，大模型落地面臨著多元多模適配難的困境。一方面，從芯片到軟件框架，再到模型本身，不同廠商提供的產(chǎn)品存在數(shù)據(jù)源不同、技術(shù)標(biāo)準(zhǔn)不一等情況，很難進(jìn)行統(tǒng)一適配，易用性差，需要企業(yè)在應(yīng)用的過(guò)程中處理好多元多模的問(wèn)題，即做出選擇、做好兼容，才能完成AI應(yīng)用的落地。

　　另一方面，源于行業(yè)場(chǎng)景的復(fù)雜性，單一的算力資源和大模型產(chǎn)品很難完美地解決實(shí)際性問(wèn)題。多元多模是企業(yè)面向場(chǎng)景問(wèn)題落地大模型應(yīng)用的一個(gè)必要配置，即兼顧多元算力和多樣大模型的選擇、適配與協(xié)同。

　　比如，在一個(gè)常見(jiàn)的智能交通場(chǎng)景，短期內(nèi)的車流監(jiān)控會(huì)采用邊緣算力和面向交通場(chǎng)景的端側(cè)大模型進(jìn)行實(shí)時(shí)處理，而長(zhǎng)期積累下來(lái)的交通監(jiān)控?cái)?shù)據(jù)則會(huì)傳回云端，采用云端算力和云端的通用大模型進(jìn)行分析、解讀，以輔助交通部門(mén)對(duì)城市道路的交通情況進(jìn)行調(diào)控。——這樣的場(chǎng)景需要多元多模的思路來(lái)解決，也必然要解決好多元多模問(wèn)題才能完美實(shí)現(xiàn)。

　　其二，計(jì)算模式的選擇將影響大模型開(kāi)發(fā)與落地的實(shí)際效率。目前來(lái)看，以云邊端為主導(dǎo)的計(jì)算模式正在成為AI產(chǎn)業(yè)發(fā)展的一個(gè)主流趨勢(shì)，綜合性的計(jì)算解決方案可以結(jié)合邊緣計(jì)算的低延遲和云服務(wù)的強(qiáng)大計(jì)算能力，通過(guò)合理的任務(wù)分配實(shí)現(xiàn)最佳性能。

　　但是問(wèn)題的關(guān)鍵則在于，綜合性的計(jì)算解決方案會(huì)促使系統(tǒng)設(shè)計(jì)和管理變得更加復(fù)雜，需要考慮如何有效地劃分任務(wù)以及協(xié)調(diào)不同節(jié)點(diǎn)之間的通信，解決好異構(gòu)算力的調(diào)度難題。簡(jiǎn)單來(lái)說(shuō)，企業(yè)落地大模型應(yīng)用無(wú)法再單一地依賴云計(jì)算，而需要考慮到邊緣計(jì)算與實(shí)際場(chǎng)景需求的適配，否則就會(huì)直接影響大模型開(kāi)發(fā)和應(yīng)用的效率。

　　其三，數(shù)據(jù)治理難的問(wèn)題再上一個(gè)層級(jí)。數(shù)據(jù)是AI系統(tǒng)的“燃料”，沒(méi)有高質(zhì)量的數(shù)據(jù)，就無(wú)法訓(xùn)練出高性能的模型。長(zhǎng)期以來(lái)，數(shù)據(jù)治理就是一條復(fù)雜的鏈條，包括了數(shù)據(jù)的識(shí)別、清洗、標(biāo)注、分類、存儲(chǔ)、應(yīng)用等多個(gè)環(huán)節(jié)。

　　過(guò)去，業(yè)內(nèi)試圖在云端打造一條完整的數(shù)據(jù)治理鏈條，但隨著大模型應(yīng)用走向深實(shí)，越來(lái)越多的企業(yè)開(kāi)始意識(shí)到核心的數(shù)據(jù)資產(chǎn)過(guò)于敏感，放在云端難以保障隱私和安全性，開(kāi)始尋求“數(shù)據(jù)不出域”的解決方案。而這樣的解決方案不僅需要構(gòu)建一條同樣完整的端側(cè)數(shù)據(jù)治理鏈條，做好本地?cái)?shù)據(jù)與端側(cè)大模型的匹配協(xié)同，還需要進(jìn)一步與云端數(shù)據(jù)治理解決方案融合，無(wú)形之中又加劇了數(shù)據(jù)治理的難度。

　　其四，學(xué)習(xí)成本高的問(wèn)題始終困擾企業(yè)開(kāi)發(fā)和落地大模型應(yīng)用。綜上，不難發(fā)現(xiàn)，不管是多元多模的客觀問(wèn)題，還是基于多元多模所延伸出來(lái)的計(jì)算模式、數(shù)據(jù)治理等難題，對(duì)于企業(yè)而言都意味著高門(mén)檻。如果企業(yè)內(nèi)部沒(méi)有深厚技術(shù)積累的IT團(tuán)隊(duì)，解決好這些問(wèn)題的難度還將上升，難以估量。

　　因此，擺在行業(yè)面前的是一個(gè)進(jìn)階的問(wèn)題，不僅要解決好客觀存在的技術(shù)性問(wèn)題，還要進(jìn)一步降低企業(yè)的應(yīng)用門(mén)檻，讓沒(méi)有IT團(tuán)隊(duì)或沒(méi)有深厚AI技術(shù)積累的企業(yè)能在不增加太多成本的情況下獲得更省心更快速的大模型開(kāi)發(fā)和應(yīng)用解決方案，完成AI落地。

　　大模型一體機(jī)，能讓企業(yè)少走多少?gòu)澛?

　　大模型一體機(jī)的出現(xiàn)以及在市場(chǎng)上走紅，似乎給行業(yè)提出了一條切實(shí)可行的路徑。具體來(lái)看，以浪潮信息發(fā)布的元腦企智EPAI一體機(jī)為例，其基于三點(diǎn)進(jìn)階能力讓企業(yè)在落地大模型應(yīng)用的過(guò)程中少走了不少?gòu)澛贰?/p>

　　一、基礎(chǔ)底座的打造，避免大模型應(yīng)用根基不穩(wěn)。

　　很多企業(yè)在落地大模型應(yīng)用的過(guò)程中，一上手就先基于通用大模型做業(yè)務(wù)開(kāi)發(fā)。當(dāng)業(yè)務(wù)開(kāi)發(fā)不少了，才發(fā)現(xiàn)算力不夠用、模型消耗太大，對(duì)業(yè)務(wù)的適配性太弱等問(wèn)題開(kāi)始暴露。這個(gè)時(shí)候，就不得不回過(guò)頭來(lái)重新構(gòu)建“算力+模型”的基礎(chǔ)底座，再把開(kāi)發(fā)完成的業(yè)務(wù)重新進(jìn)行適配或遷移，工程量就大了。而元腦企智EPAI一體機(jī)具備多元算力和多模管理能力，一臺(tái)機(jī)器就可以率先幫助企業(yè)穩(wěn)定基礎(chǔ)底座的構(gòu)建。

　　一方面，元腦企智EPAI一體機(jī)可以通過(guò)大模型計(jì)算框架TensorGlue實(shí)現(xiàn)異構(gòu)算力調(diào)度，同時(shí)通過(guò)算子基礎(chǔ)化技術(shù)，還實(shí)現(xiàn)了上層模型算法和下層基礎(chǔ)設(shè)施的邏輯解耦，能高效地屏蔽模型和芯片差異，從而降低企業(yè)跨算力平臺(tái)遷移、多元模型部署適配的試錯(cuò)成本。另一方面，元腦企智EPAI一體機(jī)目前還支持10+業(yè)界主流大模型計(jì)算框架，同時(shí)也內(nèi)置了7個(gè)主流基礎(chǔ)大模型，預(yù)設(shè)了20+微調(diào)參數(shù)，企業(yè)根據(jù)不同的場(chǎng)景和業(yè)務(wù)需求可以快速開(kāi)發(fā)模型應(yīng)用

　　二、全流程工具提供，解決企業(yè)上手難的問(wèn)題。

　　大模型應(yīng)用落地難度大對(duì)于企業(yè)而言，不僅是“算力+模型”的選擇與適配，還有后續(xù)一系列流程如數(shù)據(jù)、微調(diào)、RAG、部署、上線、運(yùn)維等環(huán)節(jié)的理解與攻關(guān)。而在這個(gè)方面，浪潮信息的研發(fā)團(tuán)隊(duì)自2007年起就開(kāi)始在異構(gòu)加速計(jì)算以及背后一系列的工作。時(shí)至今日，這種長(zhǎng)期的探索和積累正在通過(guò)元腦企智EPAI一體機(jī)轉(zhuǎn)化為一站式大模型開(kāi)發(fā)解決方案開(kāi)放給行業(yè)客戶。

　　根據(jù)浪潮信息產(chǎn)品方案開(kāi)發(fā)部總經(jīng)理魏健介紹，元腦企智EPAI一體機(jī)提供從數(shù)據(jù)準(zhǔn)備、大模型微調(diào)、知識(shí)庫(kù)構(gòu)建、大模型部署上線運(yùn)維的全流程支持工具鏈，將快速且低成本地幫助企業(yè)構(gòu)建開(kāi)發(fā)專屬大模型的能力。比如，針對(duì)大模型微調(diào)，元腦企智EPAI一體機(jī)采用低代碼可視化界面來(lái)進(jìn)行微調(diào)，并且內(nèi)置了Lora、SFT等多種微調(diào)框架以及20多種優(yōu)化參數(shù)。用戶可依據(jù)具體業(yè)務(wù)需求和數(shù)據(jù)特性，選擇最為合適的框架與技術(shù)。

　　三、本地化部署思維，免去后顧之憂。

　　在大模型產(chǎn)業(yè)發(fā)展的過(guò)程中，云端部署的風(fēng)險(xiǎn)和弊端逐步顯露，企業(yè)的關(guān)注點(diǎn)也開(kāi)始從云端轉(zhuǎn)向云、邊、端一體，愈發(fā)注重本地化部署模式的結(jié)合。特別是數(shù)據(jù)不出域的需求，決定了企業(yè)在進(jìn)行大模型應(yīng)用落地的過(guò)程中比以往更重視本地化部署。

　　在這個(gè)節(jié)點(diǎn)上，元腦企智EPAI一體機(jī)的本地化部署模式提供全鏈路的企業(yè)數(shù)據(jù)防護(hù)能力，設(shè)置多級(jí)過(guò)濾和審核體系，不管是部署模式還是安全能力，都非常好地幫助用戶解決好數(shù)據(jù)治理問(wèn)題，不用擔(dān)心大模型應(yīng)用落地一段時(shí)間后還要再考慮數(shù)據(jù)是否安全、會(huì)不會(huì)被泄漏等后續(xù)問(wèn)題，免除了企業(yè)發(fā)展AI的后顧之憂。

　　總的來(lái)說(shuō)，“算力+模型”基礎(chǔ)底座全面且穩(wěn)定，當(dāng)前憑借全流程工具鏈易上手，未來(lái)基于本地化部署模式無(wú)后顧之憂，元腦企智EPAI一體機(jī)所提供的解決方案既兼顧當(dāng)前的應(yīng)用落地問(wèn)題，也考慮到了未來(lái)長(zhǎng)期主義的發(fā)展。——企業(yè)在落地大模型應(yīng)用時(shí)，就不需要再重復(fù)繞彎子，直接底座構(gòu)建-工具鏈開(kāi)發(fā)應(yīng)用-本地化部署一條路走到底。

　　站在前人的經(jīng)驗(yàn)中，把未來(lái)的發(fā)展時(shí)間搶回來(lái)

　　大模型一體機(jī)意味著什么?從浪潮信息的元腦企智EPAI一體機(jī)或是業(yè)內(nèi)其他廠商的產(chǎn)品，可以看到大模型一體機(jī)正在綜合過(guò)去企業(yè)落地AI應(yīng)用的各種路徑和經(jīng)驗(yàn)，以集成化、智能化的思路最終形成了當(dāng)前的解決方案，僅憑一臺(tái)機(jī)器就解決了大模型應(yīng)用開(kāi)發(fā)的諸多問(wèn)題。

　　不可置否，AI行業(yè)日新月異，在這個(gè)不斷迭代、交替的過(guò)程中，前人已經(jīng)走了不少?gòu)澛贰１热�，過(guò)去很多企業(yè)落地大模型應(yīng)用，大多是在云平臺(tái)上基于通用大模型進(jìn)行開(kāi)發(fā)，隨著業(yè)務(wù)深入，進(jìn)而尋求行業(yè)大模型、企業(yè)大模型的專精開(kāi)發(fā)，再意識(shí)到云計(jì)算所提供的算力不夠用，開(kāi)始轉(zhuǎn)向邊緣計(jì)算，探索云邊端一體的發(fā)展。

　　這是一種自上而下的視角。一路走來(lái)，我們也很容易意識(shí)到大模型應(yīng)用落地的問(wèn)題出在哪里。如今，基于前人的經(jīng)驗(yàn)，大模型一體機(jī)則有機(jī)會(huì)針對(duì)性地解決這些問(wèn)題，提供了一個(gè)自下而上的發(fā)展視角。

　　正如元腦企智EPAI一體機(jī)所帶來(lái)的解決方案，一上來(lái)就先系統(tǒng)地解決好多元算力、多模應(yīng)用的基礎(chǔ)底座構(gòu)建問(wèn)題以及后續(xù)的本地?cái)?shù)據(jù)治理問(wèn)題，然后再一步步向上推進(jìn)，依托全流程工具鏈做好應(yīng)用開(kāi)發(fā)，從而幫助企業(yè)規(guī)避前人走過(guò)的“坑”。

　　未來(lái)，如果企業(yè)的業(yè)務(wù)繼續(xù)向智能化轉(zhuǎn)型，只需要在頂層做好大模型應(yīng)用開(kāi)發(fā)即可，不需要再回過(guò)頭來(lái)做底層的基礎(chǔ)設(shè)施重構(gòu)或遷移。在發(fā)展上，這就相當(dāng)于把未來(lái)的時(shí)間搶了回來(lái)。

　　隨著大模型技術(shù)越來(lái)越普遍，企業(yè)的發(fā)展亟需智能化應(yīng)用提高效率，少回頭一步，企業(yè)越能在日益激烈的市場(chǎng)競(jìng)爭(zhēng)中搶占幾分優(yōu)勢(shì)，率先吃到技術(shù)創(chuàng)新的紅利。由此，大模型一體機(jī)或許才會(huì)在現(xiàn)階段出現(xiàn)并迅速火爆，成為業(yè)內(nèi)的共識(shí)吧。