2023稀土掘金創(chuàng)新論壇在京舉辦 探討技術(shù)革新的機(jī)遇與挑戰(zhàn)

　　10月28日，由稀土掘金社區(qū)主辦的首屆「稀土掘金創(chuàng)新論壇」在北京開幕。本次創(chuàng)新論壇以「AI時(shí)代下的管理變革」為主題，線上線下聯(lián)動(dòng)，重點(diǎn)關(guān)注LLM等新技術(shù)以及開源新模式帶來的管理挑戰(zhàn)，與技術(shù)決策者們共探應(yīng)對(duì)之道。

　　本次創(chuàng)新論壇通過主論壇(上午場，公開直播)及掘金閉門會(huì)(下午場，閉門交流)兩大環(huán)節(jié)，不僅可以讓參會(huì)者提升技術(shù)視野，同時(shí)也給予了相應(yīng)參會(huì)者深度探討和交流的機(jī)會(huì)。

　　來自AMD公司中國區(qū)數(shù)據(jù)中心業(yè)務(wù)部產(chǎn)品及市場總監(jiān)曲大健作為開場嘉賓帶來了《卓越算力，引領(lǐng)新一代數(shù)據(jù)中心和AI技術(shù)》分享。在會(huì)議上，他首先從AMD的公司使命和愿景出發(fā)，詳細(xì)闡述了產(chǎn)品不斷改進(jìn)和提升算力的重要性。接著，他從“多”、“快”、“好”、“省”四個(gè)角度全面介紹了第四代EPYC處理器。他特別強(qiáng)調(diào)了第四代EPYC處理器在云計(jì)算功能和CPU單核性能上的領(lǐng)先地位。此外，他還從成本的角度出發(fā)，指出這次的第四代EPYC處理器相較于以往產(chǎn)品，能夠節(jié)省每年能源成本、減少占用空間、減少網(wǎng)絡(luò)端口和線纜的使用，同時(shí)還能保持10%的性能提升。

　　上海人工智能實(shí)驗(yàn)室青年科學(xué)家陳愷帶來了《書生·浦語大模型全鏈條開源體系》的主題演講。會(huì)上他簡單介紹了書生·浦語大模型從6月7日發(fā)布至今的開源歷程。陳愷強(qiáng)調(diào)，目前20B開源大模型的性能已經(jīng)全面領(lǐng)先相近量級(jí)的開源模型，并以不足三分之一的參數(shù)量，達(dá)到了Llama2-70B的水平，并可免費(fèi)商用。

　　同時(shí)，陳愷還向開發(fā)者們詳細(xì)介紹了書生·浦語全鏈條開源開放體系所覆蓋的六大環(huán)節(jié)。首先，在數(shù)據(jù)環(huán)節(jié)，上海人工智能實(shí)驗(yàn)室開源了多模態(tài)語料庫書生·萬卷，數(shù)據(jù)總量超過2TB。其次，在預(yù)訓(xùn)練環(huán)節(jié)，開源了InternLM-Train預(yù)訓(xùn)練框架，支持了書生·浦語大模型的千卡級(jí)高效訓(xùn)練。在微調(diào)環(huán)節(jié)，陳愷介紹了不同微調(diào)方法，以及低成本微調(diào)框架XTuner。接下來是評(píng)測環(huán)節(jié)，介紹了國內(nèi)外整體的評(píng)測情況以及社區(qū)最全面的開源評(píng)測體系OpenCompass。在部署環(huán)節(jié)，陳愷展示了如何將書生·浦語大模型部署到實(shí)際應(yīng)用中，并介紹了大模型推理部署框架LMDeploy的優(yōu)勢。最后是應(yīng)用環(huán)節(jié)，介紹了基于大語言模型的智能體應(yīng)用方案，和輕量靈活的智能體框架Lagent。

　　智聯(lián)招聘集團(tuán)ALG執(zhí)行副總裁蔡白銀帶來的演講主題是《AI 時(shí)代的人力資源生態(tài)鏈重塑》。會(huì)上他分享了來自北京大學(xué)國家發(fā)展研究院與智聯(lián)招聘聯(lián)合發(fā)布的《AI大模型對(duì)我國勞動(dòng)力市場潛在影響研究報(bào)告》內(nèi)容。據(jù)研究團(tuán)隊(duì)構(gòu)建的"基于工作任務(wù)的大語言模型影響指數(shù)"顯示，影響指數(shù)最高的20個(gè)職業(yè)主要是白領(lǐng)工作，共同特點(diǎn)是需要處理大量文本和資料整理等知識(shí)性任務(wù)，而這正是大語言模型人工智能的強(qiáng)項(xiàng)。但同時(shí)AI的發(fā)展也產(chǎn)生了許多新興崗位。他強(qiáng)調(diào)人工智能的進(jìn)步重塑了人力資源生態(tài)鏈，幫助了企業(yè)組織進(jìn)行人才升級(jí)，并對(duì)AI未來為人力資源帶來的改變充滿期待。

　　Dify.AI 聯(lián)合創(chuàng)始人兼產(chǎn)品VP 延君晨，為開發(fā)者帶來了題為《 LLMs App 技術(shù)棧與工作流實(shí)踐 101 》的主題演講。他圍繞大語言模型落地應(yīng)用的現(xiàn)狀，提出并回答了以下三個(gè)問題:

　　1. 關(guān)于應(yīng)用創(chuàng)新是否有配方，他強(qiáng)調(diào)要抓住機(jī)遇快速交付價(jià)值，沒有所謂的平均機(jī)會(huì)和低垂的果實(shí)。

　　2. 關(guān)于工程落地是否有范式，他認(rèn)為優(yōu)秀的大模型基礎(chǔ)設(shè)施可以極大降低落地門檻。

　　3. 最后關(guān)于組織協(xié)作問題，他看好提示詞工程在R&D領(lǐng)域的發(fā)展，并展望未來人與AI能建立互信合作。

　　BentoML 創(chuàng)始人、CEO 楊超予帶來了《OpenLLM: 開源大語言模型的推理與部署實(shí)踐》的主題演講。會(huì)上他指出，在AIGC飛速發(fā)展的時(shí)代，可以通過三個(gè)方面來判斷市面上琳瑯滿目的開源 LLM的質(zhì)量：一是它能否滿足特定領(lǐng)域的模型需求、二是它是否能保證數(shù)據(jù)的安全，最后是能否用低成本去獲取高收益。除此之外他強(qiáng)調(diào)了針對(duì)目前大模型落地目前還面臨著五個(gè)挑戰(zhàn)，分別是實(shí)操性、拓展性、吞吐量、端對(duì)端的延遲以及成本問題。對(duì)于這些挑戰(zhàn)他總結(jié)出一個(gè)有價(jià)值的openLLM是如何去解決這些問題。

　　面對(duì)AI的革新可能會(huì)引發(fā)一些擔(dān)憂和不確定性，主論壇圓桌環(huán)節(jié)5位嘉賓就時(shí)下開發(fā)者關(guān)心的一些落地場景、商業(yè)模式、業(yè)務(wù)創(chuàng)新等問題，通過不同業(yè)務(wù)視角，深度探討了應(yīng)對(duì)之道。

　　在未來的日子里，稀土掘金技術(shù)社區(qū)將會(huì)始終如一地為企業(yè)和技術(shù)人員提供一個(gè)交流觀點(diǎn)、碰撞思想的平臺(tái)，以實(shí)現(xiàn)雙向賦能。2023年，稀土掘金將繼續(xù)堅(jiān)持以開發(fā)者為核心，努力將產(chǎn)業(yè)的上下游緊密連接起來，與各行業(yè)共同迎接技術(shù)發(fā)展的新時(shí)代。(作者：邵仁順)