隨著大語言模型的快速發(fā)展,大模型訓(xùn)練及其應(yīng)用落地面臨諸多挑戰(zhàn)。9月16日,在“掘力計(jì)劃”第24期活動(dòng)中,白?萍技夹g(shù)負(fù)責(zé)人劉喆老師就大模型實(shí)踐中的 LLMOps 和 LLM Agent 做了主題分享。
劉喆老師總體負(fù)責(zé)白?萍 IDP LM 專屬大模型應(yīng)用加速平臺(tái)及解決方案,有豐富的數(shù)據(jù)開發(fā)和架構(gòu)經(jīng)驗(yàn)。他曾在百度、明略科技、人民搜索任職,負(fù)責(zé)包括AI開發(fā)生產(chǎn)平臺(tái)構(gòu)建、大數(shù)據(jù)平臺(tái)構(gòu)建和廣告監(jiān)測(cè)全流程設(shè)計(jì)等。
視頻回放:https://juejin.cn/live/jpowermeetup24
一、夢(mèng)中情“模”:大模型應(yīng)用期望值管理
劉喆老師首先通過“夢(mèng)中情人”的比喻,說明大多數(shù)人對(duì)理想對(duì)象的描述比較粗淺,難以給出明確具體的特征。他舉了多數(shù)人對(duì)夢(mèng)中情人的描述僅僅是“好看”、“帥氣”的例子。劉喆老師進(jìn)一步引申到大模型應(yīng)用中,許多企業(yè)同樣無法明確表達(dá)自己的需求,只是簡(jiǎn)單表示希望能達(dá)到類似 ChatGPT 的效果和功能。但 ChatGPT 是一個(gè)完整的系統(tǒng)產(chǎn)品,想要達(dá)到類似效果需要定義具體的應(yīng)用場(chǎng)景、問題范圍、交互方式、輸出形式等,否則很難實(shí)現(xiàn)。劉喆老師指出,大模型應(yīng)用第一步是明確需求,需要量化功能和效果指標(biāo),設(shè)定問題域和場(chǎng)景邊界,同時(shí)考慮交互模式、輸出形式等細(xì)節(jié)。否則很容易陷入沒有具體目標(biāo)的漫無方向的開發(fā)。
二、開始實(shí)踐:大模型應(yīng)用技術(shù)路徑選擇
討論完大模型應(yīng)用目標(biāo),劉喆老師進(jìn)一步梳理了大模型應(yīng)用的技術(shù)路徑。
他首先說明,目前大模型應(yīng)用主要有 Prompt Engineering、量化微調(diào)、前綴調(diào)節(jié)、Lora 微調(diào)、全量微調(diào)等技術(shù)手段。這些技術(shù)各有優(yōu)劣,Prompt Engineering 不需要訓(xùn)練,但上限受模型本身限制;量化微調(diào)可以降低訓(xùn)練成本,但會(huì)損失模型能力;Lora 微調(diào)只調(diào)整部分參數(shù),可大大降低成本,但對(duì)數(shù)據(jù)量要求較高。
其次,劉喆老師介紹了大模型應(yīng)用的操作系統(tǒng) LLMOps。它通過標(biāo)準(zhǔn)化、自動(dòng)化和智能化,將模型訓(xùn)練中的數(shù)據(jù)處理、模型調(diào)優(yōu)、結(jié)果評(píng)估等步驟系統(tǒng)化,使開發(fā)者能更高效地完成大模型建設(shè)。
最后,為處理復(fù)雜任務(wù),劉喆老師提出了 Agent 系統(tǒng),它通過任務(wù)分解和多 Agent 協(xié)同,實(shí)現(xiàn)大模型的鏈?zhǔn)綉?yīng)用。但 Agent 系統(tǒng)也面臨穩(wěn)定性等問題。
三、現(xiàn)實(shí)困境:大模型應(yīng)用面臨挑戰(zhàn)
接下來,演講重點(diǎn)討論了大模型實(shí)際應(yīng)用時(shí)面臨的困難。
數(shù)據(jù)方面,大模型對(duì)數(shù)據(jù)質(zhì)量和規(guī)模要求極高,但高質(zhì)量數(shù)據(jù)的收集標(biāo)注又非常耗時(shí);復(fù)雜任務(wù)需要的數(shù)據(jù)量也難以滿足。此外,不同 Agent 輸出之間的誤差累積也是一個(gè)問題。
在軟硬件方面,大批量數(shù)據(jù)的加載與訓(xùn)練非常耗時(shí),需要大量計(jì)算資源支持,但算力成本仍十分高昂;分布式集群環(huán)境也增加了調(diào)試難度。
模型能力方面,簡(jiǎn)化問題、編碼、多輪交互等方面的能力都有待提高。單個(gè) Agent 也難以完成復(fù)雜任務(wù)。
四、LLMOps 和 LLM Agent
劉喆老師介紹說,LLMOps 是大語言模型落地過程中的必要支撐。它可以提供模型訓(xùn)練、測(cè)試、部署、監(jiān)控等全流程的操作支持,使復(fù)雜的大模型應(yīng)用過程標(biāo)準(zhǔn)化和系統(tǒng)化,從而降低用戶門檻。
他表示,當(dāng)前 LLMOps 還處在建設(shè)階段,需要進(jìn)一步完善數(shù)據(jù)處理、超參數(shù)調(diào)優(yōu)、結(jié)果評(píng)估等方面的自動(dòng)化功能。只有當(dāng) LLMOps 變得足夠成熟和易用時(shí),再結(jié)合 LLM Agent,大模型才能真正落地并創(chuàng)造價(jià)值。
關(guān)于 LLM Agent,劉喆老師解釋說,它可以看作是一個(gè)“小模型”,負(fù)責(zé)完成特定的子任務(wù),多個(gè) Agent 協(xié)同工作以解決復(fù)雜問題。這種分工合作的方式,既發(fā)揮了各 Agent 的專長(zhǎng),也降低了系統(tǒng)穩(wěn)定性風(fēng)險(xiǎn)。
他表示,未來的大模型應(yīng)用需要更多地采用 Agent 模式,將任務(wù)進(jìn)行拆分。目前已有初步探索,例如 Plan and Execute Agent 負(fù)責(zé)任務(wù)規(guī)劃,Action Agent 負(fù)責(zé)執(zhí)行等。隨著研究的深入,LLM Agent 的作用將愈發(fā)凸顯。
五、技術(shù)展望:LLMOps和LLM Agent發(fā)展趨勢(shì)
最后,劉喆老師展望了 LLMOps 和 LLM Agent 的未來發(fā)展趨勢(shì)。
在 LLMOps 方面,通過行業(yè)最佳實(shí)踐的逐步形成,以及自動(dòng)化和智能化手段的引入,LLMOps 將日趨成熟,為大模型應(yīng)用提供強(qiáng)大支持。
LLM Agent 方面,隨著算法的進(jìn)步,Agent 協(xié)作的穩(wěn)定性和效率也將不斷提高,復(fù)雜任務(wù)的完成難度將降低。此外,低成本硬件的出現(xiàn)也為大規(guī)模Agent系統(tǒng)應(yīng)用提供可能。
大模型技術(shù)仍處在初級(jí)階段,需要持續(xù)探索。但它的應(yīng)用前景廣闊,我們要積極準(zhǔn)備,以把握新一輪技術(shù)變革的機(jī)遇。
總結(jié)
總體來看,劉喆老師表達(dá)了對(duì)大模型應(yīng)用前景的積極態(tài)度。他認(rèn)為,隨著模型性能的提升、計(jì)算力的增強(qiáng)和方法的進(jìn)步,大模型訓(xùn)練的成本逐步降低,應(yīng)用范圍也在不斷擴(kuò)大。面對(duì)種種挑戰(zhàn),LLMOps 和 LLM Agent 為大模型的實(shí)際落地提供了可能性。同時(shí)他呼吁業(yè)界積極探索大模型的應(yīng)用,因?yàn)檫@是一項(xiàng)系統(tǒng)工程,需要持續(xù)迭代和發(fā)展。當(dāng)前雖有諸多困難,但只要堅(jiān)持不懈,就一定能夠推動(dòng)大模型真正應(yīng)用于各行各業(yè),并最終惠及社會(huì)。
掘力計(jì)劃
掘力計(jì)劃由稀土掘金技術(shù)社區(qū)發(fā)起,致力于打造一個(gè)高品質(zhì)的技術(shù)分享和交流的系列品牌。聚集國內(nèi)外頂尖的技術(shù)專家、開發(fā)者和實(shí)踐者,通過線下沙龍、閉門會(huì)、公開課等多種形式分享最前沿的技術(shù)動(dòng)態(tài)。
近日,德國柏林國際電子消費(fèi)品展覽會(huì)(IFA2024)隆重舉辦。憑借在核心技術(shù)、產(chǎn)品設(shè)計(jì)及應(yīng)用方面的創(chuàng)新變革,全球領(lǐng)先的智能終端企業(yè)TCL實(shí)業(yè)成功斬獲兩項(xiàng)“IFA全球產(chǎn)品設(shè)計(jì)創(chuàng)新大獎(jiǎng)”金獎(jiǎng),有力證明了其在全球市場(chǎng)的強(qiáng)大影響力。
近日,中國家電及消費(fèi)電子博覽會(huì)(AWE 2024)隆重開幕。全球領(lǐng)先的智能終端企業(yè)TCL實(shí)業(yè)攜多款創(chuàng)新技術(shù)和新品亮相,以敢為精神勇闖技術(shù)無人區(qū),斬獲四項(xiàng)AWE 2024艾普蘭大獎(jiǎng)。
“以前都要去窗口辦,一套流程下來都要半個(gè)月了,現(xiàn)在方便多了!”打開“重慶公積金”微信小程序,按照提示流程提交相關(guān)材料,僅幾秒鐘,重慶市民曾某的賬戶就打進(jìn)了21600元。
由世界人工智能大會(huì)組委會(huì)、上海市經(jīng)信委、徐匯區(qū)政府、臨港新片區(qū)管委會(huì)共同指導(dǎo),由上海市人工智能行業(yè)協(xié)會(huì)聯(lián)合上海人工智能實(shí)驗(yàn)室、上海臨港經(jīng)濟(jì)發(fā)展(集團(tuán))有限公司、開放原子開源基金會(huì)主辦的“2024全球開發(fā)者先鋒大會(huì)”,將于2024年3月23日至24日舉辦。