行業(yè)唯一!海爾熱聲熱泵技術(shù)獲全國顛覆性技術(shù)創(chuàng)新大賽最高獎OPPO A5 Pro首創(chuàng)獵手天線架構(gòu):信號能穿十堵墻一加 Ace 5 Pro首發(fā)電競Wi-Fi芯片G1 帶來「穿墻王」和「搶網(wǎng)王」般的網(wǎng)絡體驗電視市場又出黑馬!TCL同檔Mini LED音畫王P12K,萬象分區(qū)打造超強控光!零下25℃如何取暖?海爾水暖通溫暖驛站亮相冰雪大世界馬太效應,強者恒強?——《中國企業(yè)科創(chuàng)力研究報告(2024)》美團年度報告竟然用上了AI和短?這下是真出圈了消息稱上汽大眾正開發(fā)三款新車,技術(shù)分別來自小鵬、智己和榮威鴻蒙智行泊車代駕VPD正式開啟全量推送!升級自動泊車/接駕等多項功能華為官方翻新手機最高降價4000元曝蘋果研發(fā)帶Face ID的智能家居門鈴:內(nèi)置自研W-Fi芯片李斌回應螢火蟲外觀設計:看過實車的人都喜歡這個設計林杰:未來 A 級、A0 級、A00 級車型都將是領(lǐng)克純電的“主場”豐巢存包柜亮相南寧地鐵站,助力城市韌性建設與智慧出行萬象分區(qū)、絢彩XDR、量子點Pro 2025齊出手,TCL引領(lǐng)觀影體驗新變革!QQ音樂年度聽歌報告發(fā)布:誰是你最喜歡的歌手?OpenAI正式發(fā)布o3 - 通往AGI的路上,已經(jīng)沒有了任何阻礙「送禮物」難撬動社交電商,微信小店缺的是供給微軟Phi-4封神,14B小模型數(shù)學擊敗GPT-4o,合成數(shù)據(jù)占比40%,36頁技術(shù)報告出爐2024年結(jié)束,哪里是原創(chuàng)動畫的應許之地?
  • 首頁 > 云計算頻道 > 大模型

    掘力計劃第24期 大模型實踐:LLMOps和LLM Agent的關(guān)鍵方法與展望

    2023年09月22日 11:39:24   來源:中文科技資訊

      隨著大語言模型的快速發(fā)展,大模型訓練及其應用落地面臨諸多挑戰(zhàn)。9月16日,在“掘力計劃”第24期活動中,白海科技技術(shù)負責人劉喆老師就大模型實踐中的 LLMOps 和 LLM Agent 做了主題分享。

    圖片1.jpg

      劉喆老師總體負責白海科技 IDP LM 專屬大模型應用加速平臺及解決方案,有豐富的數(shù)據(jù)開發(fā)和架構(gòu)經(jīng)驗。他曾在百度、明略科技、人民搜索任職,負責包括AI開發(fā)生產(chǎn)平臺構(gòu)建、大數(shù)據(jù)平臺構(gòu)建和廣告監(jiān)測全流程設計等。

      視頻回放:https://juejin.cn/live/jpowermeetup24

      一、夢中情“模”:大模型應用期望值管理

    圖片2.jpg

      劉喆老師首先通過“夢中情人”的比喻,說明大多數(shù)人對理想對象的描述比較粗淺,難以給出明確具體的特征。他舉了多數(shù)人對夢中情人的描述僅僅是“好看”、“帥氣”的例子。劉喆老師進一步引申到大模型應用中,許多企業(yè)同樣無法明確表達自己的需求,只是簡單表示希望能達到類似 ChatGPT 的效果和功能。但 ChatGPT 是一個完整的系統(tǒng)產(chǎn)品,想要達到類似效果需要定義具體的應用場景、問題范圍、交互方式、輸出形式等,否則很難實現(xiàn)。劉喆老師指出,大模型應用第一步是明確需求,需要量化功能和效果指標,設定問題域和場景邊界,同時考慮交互模式、輸出形式等細節(jié)。否則很容易陷入沒有具體目標的漫無方向的開發(fā)。

      二、開始實踐:大模型應用技術(shù)路徑選擇

    圖片3.jpg

      討論完大模型應用目標,劉喆老師進一步梳理了大模型應用的技術(shù)路徑。

      他首先說明,目前大模型應用主要有 Prompt Engineering、量化微調(diào)、前綴調(diào)節(jié)、Lora 微調(diào)、全量微調(diào)等技術(shù)手段。這些技術(shù)各有優(yōu)劣,Prompt Engineering 不需要訓練,但上限受模型本身限制;量化微調(diào)可以降低訓練成本,但會損失模型能力;Lora 微調(diào)只調(diào)整部分參數(shù),可大大降低成本,但對數(shù)據(jù)量要求較高。

      其次,劉喆老師介紹了大模型應用的操作系統(tǒng) LLMOps。它通過標準化、自動化和智能化,將模型訓練中的數(shù)據(jù)處理、模型調(diào)優(yōu)、結(jié)果評估等步驟系統(tǒng)化,使開發(fā)者能更高效地完成大模型建設。

      最后,為處理復雜任務,劉喆老師提出了 Agent 系統(tǒng),它通過任務分解和多 Agent 協(xié)同,實現(xiàn)大模型的鏈式應用。但 Agent 系統(tǒng)也面臨穩(wěn)定性等問題。

      三、現(xiàn)實困境:大模型應用面臨挑戰(zhàn)

      接下來,演講重點討論了大模型實際應用時面臨的困難。

      數(shù)據(jù)方面,大模型對數(shù)據(jù)質(zhì)量和規(guī)模要求極高,但高質(zhì)量數(shù)據(jù)的收集標注又非常耗時;復雜任務需要的數(shù)據(jù)量也難以滿足。此外,不同 Agent 輸出之間的誤差累積也是一個問題。

      在軟硬件方面,大批量數(shù)據(jù)的加載與訓練非常耗時,需要大量計算資源支持,但算力成本仍十分高昂;分布式集群環(huán)境也增加了調(diào)試難度。

      模型能力方面,簡化問題、編碼、多輪交互等方面的能力都有待提高。單個 Agent 也難以完成復雜任務。

      四、LLMOps 和 LLM Agent

    圖片4.jpg

      劉喆老師介紹說,LLMOps 是大語言模型落地過程中的必要支撐。它可以提供模型訓練、測試、部署、監(jiān)控等全流程的操作支持,使復雜的大模型應用過程標準化和系統(tǒng)化,從而降低用戶門檻。

      他表示,當前 LLMOps 還處在建設階段,需要進一步完善數(shù)據(jù)處理、超參數(shù)調(diào)優(yōu)、結(jié)果評估等方面的自動化功能。只有當 LLMOps 變得足夠成熟和易用時,再結(jié)合 LLM Agent,大模型才能真正落地并創(chuàng)造價值。

    圖片5.jpg

      關(guān)于 LLM Agent,劉喆老師解釋說,它可以看作是一個“小模型”,負責完成特定的子任務,多個 Agent 協(xié)同工作以解決復雜問題。這種分工合作的方式,既發(fā)揮了各 Agent 的專長,也降低了系統(tǒng)穩(wěn)定性風險。

      他表示,未來的大模型應用需要更多地采用 Agent 模式,將任務進行拆分。目前已有初步探索,例如 Plan and Execute Agent 負責任務規(guī)劃,Action Agent 負責執(zhí)行等。隨著研究的深入,LLM Agent 的作用將愈發(fā)凸顯。

      五、技術(shù)展望:LLMOps和LLM Agent發(fā)展趨勢

    圖片6.jpg

      最后,劉喆老師展望了 LLMOps 和 LLM Agent 的未來發(fā)展趨勢。

      在 LLMOps 方面,通過行業(yè)最佳實踐的逐步形成,以及自動化和智能化手段的引入,LLMOps 將日趨成熟,為大模型應用提供強大支持。

      LLM Agent 方面,隨著算法的進步,Agent 協(xié)作的穩(wěn)定性和效率也將不斷提高,復雜任務的完成難度將降低。此外,低成本硬件的出現(xiàn)也為大規(guī)模Agent系統(tǒng)應用提供可能。

      大模型技術(shù)仍處在初級階段,需要持續(xù)探索。但它的應用前景廣闊,我們要積極準備,以把握新一輪技術(shù)變革的機遇。

      總結(jié)

      總體來看,劉喆老師表達了對大模型應用前景的積極態(tài)度。他認為,隨著模型性能的提升、計算力的增強和方法的進步,大模型訓練的成本逐步降低,應用范圍也在不斷擴大。面對種種挑戰(zhàn),LLMOps 和 LLM Agent 為大模型的實際落地提供了可能性。同時他呼吁業(yè)界積極探索大模型的應用,因為這是一項系統(tǒng)工程,需要持續(xù)迭代和發(fā)展。當前雖有諸多困難,但只要堅持不懈,就一定能夠推動大模型真正應用于各行各業(yè),并最終惠及社會。

      掘力計劃

      掘力計劃由稀土掘金技術(shù)社區(qū)發(fā)起,致力于打造一個高品質(zhì)的技術(shù)分享和交流的系列品牌。聚集國內(nèi)外頂尖的技術(shù)專家、開發(fā)者和實踐者,通過線下沙龍、閉門會、公開課等多種形式分享最前沿的技術(shù)動態(tài)。

      

    [No. X048]
    分享到微信

    即時

    新聞

    明火炊具市場:三季度健康屬性貫穿全類目

    奧維云網(wǎng)(AVC)推總數(shù)據(jù)顯示,2024年1-9月明火炊具線上零售額94.2億元,同比增加3.1%,其中抖音渠道表現(xiàn)優(yōu)異,同比有14%的漲幅,傳統(tǒng)電商略有下滑,同比降低2.3%。

    企業(yè)IT

    重慶創(chuàng)新公積金應用,“區(qū)塊鏈+政務服務”顯成效

    “以前都要去窗口辦,一套流程下來都要半個月了,現(xiàn)在方便多了!”打開“重慶公積金”微信小程序,按照提示流程提交相關(guān)材料,僅幾秒鐘,重慶市民曾某的賬戶就打進了21600元。

    3C消費

    華碩ProArt創(chuàng)藝27 Pro PA279CRV顯示器,高能實力,創(chuàng)

    華碩ProArt創(chuàng)藝27 Pro PA279CRV顯示器,憑借其優(yōu)秀的性能配置和精準的色彩呈現(xiàn)能力,為您的創(chuàng)作工作帶來實質(zhì)性的幫助,雙十一期間低至2799元,性價比很高,簡直是創(chuàng)作者們的首選。

    研究

    中國信通院羅松:深度解讀《工業(yè)互聯(lián)網(wǎng)標識解析體系

    9月14日,2024全球工業(yè)互聯(lián)網(wǎng)大會——工業(yè)互聯(lián)網(wǎng)標識解析專題論壇在沈陽成功舉辦。