百度沈抖：傳統(tǒng)云計算不再是主角，智能計算呼喚新一代“操作系統(tǒng)”

　　4月16日，Create 2024 百度AI開發(fā)者大會在深圳召開。期間，百度集團執(zhí)行副總裁、百度智能云事業(yè)群總裁沈抖正式發(fā)布新一代智能計算操作系統(tǒng)——萬源，通過對AI原生時代的智能計算平臺進行抽象與封裝設計，為用戶屏蔽掉云原生系統(tǒng)與異構算力的復雜性，提升AI原生應用開發(fā)效率與體驗。

　　沈抖表示，隨著大模型技術的不斷演進，通過自然語言進行編程正在成為現(xiàn)實。編程將不再面向過程或者面向對象，而是面向需求;編程的過程將成為開發(fā)者表達愿望的過程，并為操作系統(tǒng)帶來革命性的變化。

　　在操作系統(tǒng)的內核中，底層硬件從以CPU算力為主變成以GPU算力為主，并且新增了被大模型壓縮的世界知識。操作系統(tǒng)管理的對象發(fā)生了本質的變化，從管理進程、管理微服務，進化為管理智能。

　　“傳統(tǒng)的云計算系統(tǒng)依然重要，但不再是主角，我們需要一個全新的操作系統(tǒng)，對新的計算平臺，也就是智能計算做好抽象和封裝，重新定義人機交互，為開發(fā)者提供更簡單、更流暢的開發(fā)體驗。”沈抖如是說。

　　(百度智能云發(fā)布新一代智能計算操作系統(tǒng)——萬源)

　　本次大會上，百度智能云全新推出的“萬源”智能計算操作系統(tǒng)，旨在“橋接”算力效能與應用創(chuàng)新。具體來講，萬源主要由Kernel(內核)、Shell(外殼)、Toolkit(工具)三層構成，底層屏蔽掉云原生系統(tǒng)與異構算力的復雜性，上層則為AI原生應用的敏捷開發(fā)提供支撐與保障。

　　首先，在內核層，在算力資源管理方面，百度百舸·AI異構計算平臺針對大模型訓練、推理等任務，對智算集群的設計、調度、容錯等環(huán)節(jié)進行了專項優(yōu)化。目前，百舸能夠實現(xiàn)萬卡集群上的模型有效訓練時長占比超過98.8%，線性加速比、帶寬有效性分別高達95%，算力效能業(yè)界領先。

　　此外，百舸還兼容昆侖芯、昇騰、海光DCU、英偉達、英特爾等國內外主流AI芯片，支持用戶以最小代價完成算力適配。相比模型推理，“一云多芯”在模型訓練場景中是極難攻堅的難題，主要包含兩類細分場景：

　　1、智算集群中存在多個訓練任務，單一廠商芯片只服務單一任務;

　　2、在每個獨立的模型訓練任務中同時使用不同廠商芯片。這就需要解決不同廠商芯片算力均勻切分、芯片間通信效率優(yōu)化等問題，難度極高。

　　(業(yè)界領先的單一任務一云多芯大模型訓練解決方案)

　　目前，百舸已經實現(xiàn)了單一訓練任務下不同廠商芯片的混合訓練，且百卡規(guī)模性能損失不超過3%，千卡規(guī)模性能損失不超過5%，業(yè)界領先。最大程度上屏蔽硬件之間差異，幫助用戶擺脫單一芯片的依賴，實現(xiàn)更優(yōu)成本，打造更具彈性的供應鏈體系。

　　萬源內核中的另一個重要組成部分是大模型。大模型能夠將巨量的世界知識進行高效壓縮，并將自然語言的理解、生成、邏輯、記憶能力進行封裝。

　　目前，萬源內核中既包含了業(yè)界領先的ERNIE 4.0、ERNIE 3.5大語言模型，也包括ERNIE Speed/Lite/Tiny等輕量級模型、文心視覺大模型和各具特色的第三方大模型，充分滿足用戶在不同業(yè)務場景下的多樣化需求。

　　在內核層之上是Shell層，通過百度智能云千帆ModelBuilder解決內核中模型的管理、調度、二次開發(fā)等問題，屏蔽掉模型開發(fā)的復雜性，幫助更多人只投入少量的數據、資源和精力，就能快速精調出適合自己業(yè)務的模型。

　　同時，在實際應用中，ModelBuidler提供的模型路由服務，能夠自動為不同難度的任務選擇合適參數規(guī)模的模型，給出平衡效果與成本的最優(yōu)模型組合。經測算，在模型效果基本持平的情況下，模型路由平均降低推理成本多達30%!

　　在Shell層之上，千帆AppBuilder和AgentBuilder共同構成了工具層，為開發(fā)者提供強大的AI原生應用開發(fā)能力。尤其是AppBuilder提供的工作流編排功能，支持開發(fā)者使用預置的模板和組件，輕松定制自己的業(yè)務流程，還能夠集成、擴建自己的特色組件，在不同節(jié)點上選用適合的模型，通過靈活的編排實現(xiàn)業(yè)務邏輯。

　　在AppBuilder上開發(fā)AI原生應用的過程中，還可以直接調用通過ModelBuilder精調過的模型，讓整個開發(fā)過程變得極為流暢和便捷。在應用開發(fā)完成后，可以一鍵發(fā)布到百度搜索、微信公眾號等平臺，也可以通過API或SDK的方式直接集成到用戶自己的系統(tǒng)中，真正做到極速開發(fā)、輕松上市。

　　萬源作為開放的操作系統(tǒng)，未來還將進一步開放生態(tài)合作，為應用開發(fā)者提供更多能力和接口;助力企業(yè)打造專屬的垂直行業(yè)操作系統(tǒng);將萬源部署在客戶自有智算中心，提供穩(wěn)定、安全、高效的智能計算平臺服務;適配更多廠商異構芯片并發(fā)揮其最大效能。

　　當前，大模型技術與AI原生應用正在促使云服務向以AI為核心的新一代智能計算操作系統(tǒng)方向發(fā)展，這一趨勢不僅反映了技術發(fā)展的內在邏輯，也體現(xiàn)了市場需求的強勁推力，并開啟一個由AI驅動的嶄新的智能云時代。