2024與開發(fā)者同行｜掘金年度技術(shù)演講主論壇：探索精彩看點，展望技術(shù)未來

　　2024年1月20日，由稀土掘金社區(qū)主辦的 掘金年度技術(shù)演講在深圳拉開帷幕。此次論壇主題為“與開發(fā)者同行”，共設(shè)置了主論壇和分論壇兩個精彩紛呈的發(fā)言環(huán)節(jié)。會議邀請到了科技創(chuàng)新者、互聯(lián)網(wǎng)領(lǐng)域?qū)＜液推髽I(yè)代表，共同圍繞著AI、大前端、數(shù)據(jù)庫和云原生等熱門領(lǐng)域科技的進(jìn)步，從多個維度探討開發(fā)者面臨的機遇和挑戰(zhàn)。

　　通過此次技術(shù)演講，掘金社區(qū)帶領(lǐng)與會者們一起回顧2023年的技術(shù)發(fā)展，展望2024年的科技前景。這場會議激發(fā)了與會者們的思考，并為他們在快速發(fā)展的科技領(lǐng)域中抓住機遇、應(yīng)對挑戰(zhàn)提供了參考。

　　字節(jié)跳動數(shù)據(jù)庫負(fù)責(zé)人 張雷

　　字節(jié)跳動數(shù)據(jù)庫負(fù)責(zé)人張雷作為開場嘉賓，在會議上分享了《云數(shù)據(jù)庫技術(shù)挑戰(zhàn)與趨勢：字節(jié)跳動的實踐洞察》。他指出，字節(jié)跳動業(yè)務(wù)的高速發(fā)展推動了數(shù)據(jù)庫產(chǎn)品體系的不斷豐富，使其逐漸從 2017 年前的“刀耕火種”時代，走向 2018～2022 年的大規(guī)模自研產(chǎn)品及平臺化時代，并進(jìn)一步邁向如今的體系化、云化、智能化時代。張雷回顧了過去五年字節(jié)數(shù)據(jù)庫的發(fā)展歷程，強調(diào)主要重心在于解決“規(guī)�；�”問題。他同時指出，在 2024 年，字節(jié)跳動將面臨服務(wù)者持有成本、用戶接入和系統(tǒng)運行時效等方面的挑戰(zhàn)。最后，他總結(jié)道，云數(shù)據(jù)庫作為最基礎(chǔ)的數(shù)字基礎(chǔ)設(shè)施之一，其最核心的價值在于“成本”與“效率”的優(yōu)化。字節(jié)跳動將繼續(xù)努力應(yīng)對這些挑戰(zhàn)，提供高效、可靠的云數(shù)據(jù)庫服務(wù)。

　　NVIDIA的資深解決方案架構(gòu)師 盧翔龍

　　來自NVIDIA的資深解決方案架構(gòu)師盧翔龍分享了《NVIDIA：LLM 推理和服務(wù)部署技術(shù)總結(jié)及未來展望》。他深入總結(jié)了LLM推理和服務(wù)部署技術(shù)，并展望了未來。盧翔龍指出，隨著生產(chǎn)語言應(yīng)用的部署需求增加，高精度模型對于正確結(jié)果的重要性不可忽視。為應(yīng)對挑戰(zhàn)，TensorRT-LLM應(yīng)運而生，用于優(yōu)化NVIDIA GPU上的大型語言模型推理性能。同時，他還介紹了LLM生態(tài)系統(tǒng)的演變，以及注意力機制優(yōu)化、KV緩存優(yōu)化、Inflight Batching和量化等優(yōu)化技術(shù)。此外，NVIDIA的Triton Inference Server提供了快速、可擴展、低延遲的推理服務(wù)。NVIDIA承諾不僅提供工具，還將加速LLM的發(fā)展，為開發(fā)者提供更高效、靈活的解決方案。

　　Datastrato 創(chuàng)始人、CEO 堵俊平

　　Datastrato 創(chuàng)始人、CEO 堵俊平在會上發(fā)表了主題演講《開源與商業(yè)：GenAI 時代的新碰撞》。他總結(jié)了開源軟件的 8 種商業(yè)模式，并介紹了相關(guān)經(jīng)典案例。演講中，他以“RedHat”作為訂閱服務(wù)模式中的例子，闡述了商業(yè)模式是在實踐中不斷發(fā)展完善的。他還指出，在 PC 與服務(wù)器時代，企業(yè)版與訂閱服務(wù)成為開發(fā)者需要關(guān)注的重點。在互聯(lián)網(wǎng)時代，開源軟件被廣泛應(yīng)用于構(gòu)建互聯(lián)網(wǎng)大廈。在移動互聯(lián)網(wǎng)時代，把握應(yīng)用與流量入口變得至關(guān)重要。隨著云時代的到來，開發(fā)者需要關(guān)注托管云服務(wù)“X as a service”。最后，堵俊平詳細(xì)介紹了即將到來的具有挑戰(zhàn)性的“GenAI 時代”，他強調(diào)在這個時代，人工智能技術(shù)將與開源軟件相結(jié)合，為創(chuàng)新和商業(yè)帶來新的機遇和挑戰(zhàn)。

　　華為諾亞方舟實驗室語音語義首席科學(xué)家劉群

　　華為諾亞方舟實驗室語音語義首席科學(xué)家 劉群 帶來了《大語言模型技術(shù)現(xiàn)狀和發(fā)展趨勢的思考》的主題演講。他回顧了近年來 LLM 的發(fā)展時間線及不同模型的演進(jìn)。討論了 LLM 的先天能力和后天能力，并強調(diào)通過提升硬件性能、優(yōu)化模型架構(gòu)和規(guī)格參數(shù)等方法來提高模型能力。他還探討了 LLM 架構(gòu)方面的發(fā)展趨勢，包括稀疏化前向網(wǎng)絡(luò)、訓(xùn)練推理優(yōu)化、長序列等技術(shù)。劉群強調(diào)了預(yù)訓(xùn)練、指令微調(diào)和強化學(xué)習(xí)訓(xùn)練等方法對提升 LLM 能力的重要性。此外，他還分析了 LLM 可能引發(fā)的問題、風(fēng)險以及對社會的影響，如幻象問題、超人智能和就業(yè)市場的變化等。最后，劉群認(rèn)為 AI 技術(shù)將成為人類社會的基礎(chǔ)設(shè)施，AI將給人帶來更多的休閑娛樂和受教育的時間和機會。

　　Jina AI 聯(lián)合創(chuàng)始人兼 CTO 王楠

　　Jina AI 聯(lián)合創(chuàng)始人兼 CTO 王楠在會上發(fā)表了主題演講《尋找 AI 變革下的不變需求：工具開發(fā)者視角下的 2023》。他指出，自 ChatGPT 誕生以來，工具開發(fā)者們一直深感焦慮。針對如何為 AI 應(yīng)用開發(fā)者節(jié)省開發(fā)時間、提高開發(fā)效率的問題，王楠總結(jié)了三個方面的應(yīng)對策略：關(guān)注開發(fā)者的痛點、系統(tǒng)集成以及開發(fā)者的反饋。針對即將到來的 2024 年，他展望了以下趨勢：模型架構(gòu)同質(zhì)化、開源模型蓬勃發(fā)展、閉源模型引領(lǐng)發(fā)展、算力問題得到緩解、高質(zhì)量公開文本數(shù)據(jù)逐漸枯竭、文字仍將是交互的核心。這些趨勢將對工具開發(fā)者們產(chǎn)生深遠(yuǎn)影響。

　　字節(jié)跨端與 Web 架構(gòu)師，前 Meta React 核心成員黃玄在會上分享了主題演講《前端已死，前端永生》。他針對近年來技術(shù)領(lǐng)域中的熱門話題“前端已死”發(fā)表了自己的看法。他認(rèn)為，無論是從“技術(shù)”還是軟件行業(yè)的“分工”角度來看，前端都只是一個動態(tài)的概念。通過對前端歷史上中的大小拐點建模，他推理出前端作為人與機器的紐帶會得以“永生”的方式。最后，他還展望了 AI 與元宇宙將為前端帶來的全新可能。

　　在主論壇最后，為了表彰這一年為稀土掘金社區(qū)貢獻(xiàn)優(yōu)質(zhì)內(nèi)容的團隊和個人，舉行了「2023掘金年度影響力榜單」發(fā)布儀式。來自互聯(lián)網(wǎng)技術(shù)的精英齊聚一堂，共同見證了這個時刻。

　　這次演講為與會者提供了一個全面而深入的技術(shù)交流平臺，促進(jìn)了開發(fā)者之間的互動與合作，展望了2024年科技領(lǐng)域的發(fā)展前景。希望在新的一年里這些討論和見解將為開發(fā)者們在面對機遇和挑戰(zhàn)時提供有價值的指導(dǎo)和啟示!稀土掘金也將持續(xù)與開發(fā)者同行。