火山引擎彈性容器實(shí)例：從節(jié)點(diǎn)中心轉(zhuǎn)型 Serverless 化架構(gòu)的利器

　　在 Kubernetes 和容器化技術(shù)愈發(fā)成熟的今日，越來(lái)越多企業(yè)開(kāi)始將業(yè)務(wù)應(yīng)用遷移到云上，采用云原生架構(gòu)支持業(yè)務(wù)高速穩(wěn)定地發(fā)展。

　　而隨著云計(jì)算向開(kāi)發(fā)流程縱深發(fā)展，Serverless 架構(gòu)的成熟讓云原生技術(shù)進(jìn)入全新階段——Serverless 把公有云彈性伸縮、免運(yùn)維、快速接入等特性發(fā)揮到了極致，極大降低了用戶的使用成本，讓用戶和企業(yè)只需要專注于其業(yè)務(wù)邏輯，實(shí)現(xiàn)真正意義上的敏捷開(kāi)發(fā)。

　　為了更好幫助企業(yè)業(yè)務(wù)應(yīng)用真正踐行 Serverless 化的新型云原生思想，火山引擎云原生團(tuán)隊(duì)正在從理念、系統(tǒng)設(shè)計(jì)、架構(gòu)設(shè)計(jì)等多方面推進(jìn)產(chǎn)品的升級(jí)和創(chuàng)新，以充分發(fā)揮 Serverless 的優(yōu)勢(shì)及價(jià)值。

　　從節(jié)點(diǎn)中心到 Serverless 化架構(gòu)

　　傳統(tǒng) Kubernetes 架構(gòu)一般以節(jié)點(diǎn)為中心，即技術(shù)團(tuán)隊(duì)需要基于云服務(wù)器等資源節(jié)點(diǎn)搭建集群，并圍繞節(jié)點(diǎn)進(jìn)行運(yùn)維管理的傳統(tǒng) Kubernetes 集群架構(gòu)。

　　隨著業(yè)務(wù)規(guī)模的擴(kuò)大和節(jié)點(diǎn)數(shù)的增加，這種架構(gòu)在容器應(yīng)用的部署和運(yùn)行等方面往往存在諸多局限性，主要表現(xiàn)在以下幾個(gè)方面：

　　● 節(jié)點(diǎn)運(yùn)維復(fù)雜：用戶需要自行管理和維護(hù)節(jié)點(diǎn)，具體包括節(jié)點(diǎn)的配置與初始化、操作系統(tǒng)更新與升級(jí)、安全性管理、運(yùn)行監(jiān)控與日志采集分析、故障恢復(fù)、網(wǎng)絡(luò)管理、存儲(chǔ)管理、擴(kuò)縮容、資源規(guī)劃與分配，以及資源成本管理等復(fù)雜且繁瑣的節(jié)點(diǎn)運(yùn)維工作;

　　● 資源利用率低：節(jié)點(diǎn)預(yù)留固定資源，即便實(shí)際工作負(fù)載所需資源量較少，也無(wú)法降低節(jié)點(diǎn)資源占用;節(jié)點(diǎn)資源碎片率較高，分布在各個(gè)節(jié)點(diǎn)之上的部分未使用的資源難以被有效聚合，無(wú)法充分利用;資源過(guò)度分配，為了避免性能瓶頸，往往傾向于按照最大負(fù)載規(guī)劃資源，難以預(yù)測(cè)實(shí)際需求，可能造成大量資源閑置;

　　● 資源擴(kuò)容速度慢：容器應(yīng)用可能會(huì)經(jīng)歷突發(fā)流量，需要快速擴(kuò)展以響應(yīng)增加的負(fù)載。在傳統(tǒng)以節(jié)點(diǎn)為中心的架構(gòu)中，計(jì)算資源的擴(kuò)展往往需要?jiǎng)?chuàng)建和配置新的云服務(wù)器節(jié)點(diǎn)，這個(gè)過(guò)程可能需要幾分鐘，無(wú)法實(shí)現(xiàn)即時(shí)擴(kuò)展。

　　火山引擎彈性容器實(shí)例(Volcengine Container Instance，簡(jiǎn)稱 VCI)是針對(duì)上述情況推出的新型云原生方案，它抽象自字節(jié)跳動(dòng)內(nèi)部多年云原生技術(shù)積累，是一種 Serverless 和容器化的計(jì)算服務(wù)——

　　通過(guò) Virtual Kubelet 技術(shù)與火山引擎容器服務(wù) VKE 無(wú)縫結(jié)合，彈性容器實(shí)例 VCI 可以為用戶提供彈性計(jì)算和 Kubernetes 編排能力，支持秒級(jí)啟動(dòng)、高并發(fā)創(chuàng)建、沙箱容器安全隔離。

　　通過(guò)融合 Serverless 和容器的優(yōu)勢(shì)，彈性容器實(shí)例 VCI 能為企業(yè)提供一個(gè)高效、可靠和安全的運(yùn)行環(huán)境，使用戶能夠?qū)Ｗ⒂陂_(kāi)發(fā)和運(yùn)行云原生架構(gòu)的應(yīng)用程序，而無(wú)需關(guān)心底層基礎(chǔ)設(shè)施的管理和維護(hù)，并且僅為業(yè)務(wù)實(shí)際運(yùn)行所需要的資源付費(fèi)，幫助企業(yè)更加合理地控制用云成本。

　　基礎(chǔ)設(shè)施免運(yùn)維、計(jì)算資源免規(guī)劃

　　在傳統(tǒng)自建 Kubernetes 集群的架構(gòu)中，無(wú)論是控制平面還是數(shù)據(jù)平面，作為容器組 Pod 運(yùn)行的載體，節(jié)點(diǎn)都位于 Kubernetes 架構(gòu)的核心位置，當(dāng)節(jié)點(diǎn)計(jì)算資源不足時(shí)，需要先通過(guò)增加節(jié)點(diǎn)來(lái)補(bǔ)充計(jì)算資源，才能支持業(yè)務(wù)工作負(fù)載的部署或者擴(kuò)容。

　　在云上，以火山引擎容器服務(wù) VKE 為代表的各類托管 Kubernetes 服務(wù)會(huì)代替用戶管理和運(yùn)維 Kubernetes 控制平面，提供具有 SLA 保障的托管服務(wù)。而對(duì)于運(yùn)行用戶實(shí)際業(yè)務(wù)工作負(fù)載的數(shù)據(jù)平面而言，則通常需要用戶自行運(yùn)維工作節(jié)點(diǎn)，并需要根據(jù)業(yè)務(wù)特征對(duì)節(jié)點(diǎn)所提供的計(jì)算資源進(jìn)行提前規(guī)劃，如在業(yè)務(wù)高峰需要進(jìn)行提前擴(kuò)容，在業(yè)務(wù)低谷則需要縮容。

　　因此，在傳統(tǒng)以節(jié)點(diǎn)為核心的 Kubernetes 架構(gòu)中，節(jié)點(diǎn)運(yùn)維往往需要耗費(fèi)技術(shù)團(tuán)隊(duì)大量精力;同時(shí)，如何平衡資源超前規(guī)劃與資源成本問(wèn)題，也成為企業(yè)進(jìn)入“精細(xì)化用云”時(shí)代后不得不思考的問(wèn)題。

　　彈性容器實(shí)例 VCI 提供了 Serverless 和容器化的計(jì)算服務(wù)，每個(gè) VCI 只會(huì)為單個(gè) Pod 提供運(yùn)行環(huán)境和計(jì)算資源，用戶無(wú)需關(guān)心底層節(jié)點(diǎn)的運(yùn)維和容量規(guī)劃，只需要按需部署容器應(yīng)用即可。而在使用 VCI 部署容器應(yīng)用時(shí)，可以使用原生的 Kubernetes 語(yǔ)義，與節(jié)點(diǎn)中心的架構(gòu)并無(wú)區(qū)別。

　　在資源層面，彈性容器實(shí)例 VCI 以火山引擎計(jì)算基礎(chǔ)設(shè)施作為資源池，提供多種資源類型的容器計(jì)算資源，方便用戶根據(jù)業(yè)務(wù)需要靈活選擇。同時(shí)，用戶也無(wú)需關(guān)注資源容量規(guī)劃問(wèn)題，VCI 提供海量計(jì)算資源，不會(huì)出現(xiàn)傳統(tǒng)節(jié)點(diǎn)中心架構(gòu)下常見(jiàn)的 Pod 漂移(Drift)和重調(diào)度(Rescheduling)等現(xiàn)象，而進(jìn)一步造成服務(wù)中斷、性能波動(dòng)、數(shù)據(jù)不一致、調(diào)度延遲等問(wèn)題。

　　最后，容器服務(wù) VKE 與彈性容器實(shí)例 VCI 的無(wú)縫集成，不僅實(shí)現(xiàn)了 Kubernetes 集群控制平面全托管，同時(shí)也為用戶提供了數(shù)據(jù)平面(即彈性容器實(shí)例 VCI)的 Serverless 化全托管、免運(yùn)維、安全隔離，極大地降低用戶在 Kubernetes 基礎(chǔ)設(shè)施上的運(yùn)維成本，并且省去了容量規(guī)劃的復(fù)雜性，從而使用戶可以將更多精力聚焦于自身業(yè)務(wù)應(yīng)用。

　　極致彈性，所需即所得

　　彈得省

　　根據(jù) Flexera 在《2022 年云狀態(tài)報(bào)告》披露的調(diào)查數(shù)據(jù)，受訪企業(yè)自評(píng)估云成本浪費(fèi)達(dá) 32%，“成本”已連續(xù)三年成為企業(yè)最關(guān)注的用云挑戰(zhàn)之一——“精細(xì)化用云”開(kāi)始得到越來(lái)越多企業(yè)的重視，如何在滿足業(yè)務(wù)發(fā)展需求的同時(shí)節(jié)省云上成本開(kāi)銷(xiāo)，成為企業(yè)用云所需要解決的一項(xiàng)重要挑戰(zhàn)。

　　彈性容器實(shí)例 VCI 在產(chǎn)品設(shè)計(jì)之初就圍繞企業(yè)“云成本控制”的需求，強(qiáng)調(diào)按照實(shí)際使用資源量精細(xì)化計(jì)費(fèi)，支持多種計(jì)費(fèi)模式，助力企業(yè)真正用好云。

　　精細(xì)化計(jì)費(fèi)：彈性容器實(shí)例 VCI 按照用戶容器組(Pod)實(shí)際使用的資源計(jì)費(fèi)，計(jì)費(fèi)資源包括 vCPU、內(nèi)存、GPU 等。同時(shí) VCI 實(shí)例的計(jì)費(fèi)時(shí)長(zhǎng)為其運(yùn)行時(shí)長(zhǎng)，即用戶 Pod 從下載容器鏡像開(kāi)始到停止運(yùn)行為止所使用的時(shí)間，精確到秒級(jí)，真正實(shí)現(xiàn)了按實(shí)際用量計(jì)費(fèi)。

　　提升裝箱率：在云原生架構(gòu)下，相較于傳統(tǒng)計(jì)算資源，彈性容器實(shí)例的另一優(yōu)勢(shì)是減少閑置資源、提升裝箱率，從而降低用戶的計(jì)算資源使用成本。具體而言，Kubernetes 集群使用云服務(wù)器 ECS 作為工作節(jié)點(diǎn)時(shí)，需要在節(jié)點(diǎn)上運(yùn)行 Kubernetes 所需的系統(tǒng)組件，因此需要預(yù)留部分計(jì)算資源，存在一定額外成本;而若使用彈性容器實(shí)例 VCI 作為計(jì)算資源，則只需要為業(yè)務(wù) Pod 實(shí)際使用資源付費(fèi)：

　　● 示例：運(yùn)行 3 個(gè)業(yè)務(wù) Pod，其對(duì)于 vCPU 的資源需求分為 16C、8C、8C

　　● 使用 ECS：至少需要 2 臺(tái) 32C vCPU 的 ECS 節(jié)點(diǎn)(需要在每個(gè)節(jié)點(diǎn)為系統(tǒng)預(yù)留資源)

　　● 使用 VCI：創(chuàng)建 3 個(gè)與 Pod 所需資源相等的 VCI 實(shí)例，即 32 C 計(jì)算資源(無(wú)任何資源閑置)

　　豐富計(jì)費(fèi)方式：當(dāng)前彈性容器實(shí)例 VCI 已正式支持按量計(jì)費(fèi)，并將上線搶占式實(shí)例(Spot)付費(fèi)模式的邀測(cè)活動(dòng)，同時(shí)預(yù)留實(shí)例、彈性預(yù)約實(shí)例等預(yù)付費(fèi)模式也有計(jì)劃支持。通過(guò)提供多種付費(fèi)模式，我們希望能幫助用戶進(jìn)一步優(yōu)化對(duì)計(jì)算資源的成本管理和預(yù)算編制，針對(duì)不同業(yè)務(wù)場(chǎng)景選用不同付費(fèi)模式，從而更好地協(xié)調(diào)業(yè)務(wù)資源需求與用云成本規(guī)劃。

　　彈得出

　　彈性容器實(shí)例 VCI 充分整合了火山引擎的計(jì)算資源基礎(chǔ)設(shè)施進(jìn)行算力供給，并且根據(jù)不同的底層硬件能力提供了多種實(shí)例規(guī)格族供用戶選擇，提供差異化的計(jì)算、存儲(chǔ)、網(wǎng)絡(luò)性能，支持覆蓋多種業(yè)務(wù)應(yīng)用和服務(wù)場(chǎng)景。

　　CPU 通用型規(guī)格族：如通用算力型 u1、通用型 n3i 等，提供了均衡的 vCPU、內(nèi)存、網(wǎng)絡(luò)能力，可以滿足大多數(shù)場(chǎng)景下的服務(wù)需求。

　　GPU 計(jì)算型規(guī)格族：如 GPU 計(jì)算型 gni2(搭載 NVIDIA A10 GPU 顯卡)、GPU 計(jì)算型 g1v(搭載 NVIDIA V100 GPU 顯卡)等，可在大模型訓(xùn)練、文本與圖像生成、任務(wù)推理等各類 AI 計(jì)算類場(chǎng)景下提供高性價(jià)比使用體驗(yàn)。

　　最新推出的通用算力型 u1 實(shí)例規(guī)格族依托火山引擎資源池化技術(shù)和智能調(diào)度算法進(jìn)行動(dòng)態(tài)資源管理，能夠?yàn)槠髽I(yè)提供穩(wěn)定的算力供應(yīng)，并且支持多種處理器以及處理器內(nèi)存的靈活配比，從 0.25C-0.5Gi、0.5C-1Gi、1C-2Gi 等細(xì)粒度小規(guī)格到 24C-48Gi、32C-256Gi 等大規(guī)格可供任意選擇，具有極高的性價(jià)比!

　　背靠龐大的算力資源供給，彈性容器實(shí)例 VCI 也為用戶提供了業(yè)界領(lǐng)先的彈性資源優(yōu)先級(jí)調(diào)度策略：結(jié)合容器服務(wù) VKE，我們支持用戶通過(guò)自定義資源策略(ResourcePolicy)將彈性調(diào)度到云服務(wù)器 ECS、彈性容器實(shí)例 VCI 等不同類型算力資源池，并根據(jù)實(shí)際業(yè)務(wù)場(chǎng)景按照百分比閾值、優(yōu)先級(jí)控制等策略進(jìn)行調(diào)度分配。

　　這意味著用戶可以將云服務(wù)器 ECS 算力資源池和彈性容器實(shí)例 VCI 算力資源池結(jié)合使用，享用海量火山引擎計(jì)算資源;同時(shí)，結(jié)合容器集群中的 Cluster Autoscaler 能力和 VCI，即便容器集群中未提前申請(qǐng)計(jì)算資源，用戶也能夠及時(shí)獲得彈性資源高效支撐業(yè)務(wù)應(yīng)用。

　　彈得快

　　面對(duì)在線業(yè)務(wù)不可預(yù)測(cè)的業(yè)務(wù)流量洪峰，確保業(yè)務(wù)運(yùn)行穩(wěn)定與用戶體驗(yàn)至關(guān)重要;在業(yè)務(wù)發(fā)展的關(guān)鍵時(shí)刻，快速?gòu)棾鲇?jì)算資源與快速啟用業(yè)務(wù)應(yīng)用也非常關(guān)鍵。彈性容器實(shí)例同樣天然適配這些場(chǎng)景。

　　一方面，火山引擎彈性容器實(shí)例(VCI)的彈性能力可滿足分鐘級(jí)數(shù)萬(wàn)核 vCPU 計(jì)算資源的需求，保證在業(yè)務(wù)需要時(shí)，快速?gòu)棾龀渥阌?jì)算資源。當(dāng)流量洪峰結(jié)束，業(yè)務(wù)工作負(fù)載降低時(shí)亦可迅速釋放彈性計(jì)算資源，讓用云成本更加節(jié)約。

　　另一方面，容器鏡像拉取的耗時(shí)往往較長(zhǎng)，這一點(diǎn)在大規(guī)模 Pod 并發(fā)啟動(dòng)的情況下更加嚴(yán)重。彈性容器實(shí)例 VCI 不僅具備 VKE 提供的多種容器鏡像加速能力，如容器鏡像延遲加載(鏡像懶加載)、P2P 容器鏡像分發(fā)等，也擁有容器鏡像緩存能力這樣的特有加速能力，根據(jù)實(shí)際測(cè)試數(shù)據(jù)，容器鏡像緩存可以使容器鏡像(數(shù)據(jù)量在百 G 以內(nèi))的 Pod 的整體啟動(dòng)耗時(shí)控制在十秒級(jí)別，幫助用戶大幅提升效率、降低云成本。

　　結(jié)語(yǔ)

　　自 2022 年正式上線以來(lái)，彈性容器實(shí)例 VCI 服務(wù)了諸多大中型企業(yè)客戶，在字節(jié)跳動(dòng)內(nèi)外部業(yè)務(wù)場(chǎng)景中得到了充分的實(shí)踐檢驗(yàn)�；鹕揭�擎云原生團(tuán)隊(duì)也基于客戶服務(wù)經(jīng)驗(yàn)，不斷打磨產(chǎn)品能力，持續(xù)提升產(chǎn)品服務(wù)的質(zhì)量和穩(wěn)定性：

　　● 在生態(tài)集成方面，彈性容器實(shí)例 VCI 不僅持續(xù)增強(qiáng)與 Kubernetes 生態(tài)的集成，能夠與火山引擎容器服務(wù) VKE 無(wú)縫集成，使客戶能夠更容易地在云原生環(huán)境中部署和管理容器應(yīng)用;

　　● 在分布式容器鏡像啟動(dòng)加速方面，VCI 與火山引擎鏡像倉(cāng)庫(kù) CR 等產(chǎn)品協(xié)同改進(jìn) Dragonfly 架構(gòu)，進(jìn)一步增強(qiáng)了鏡像分發(fā)到 VCI 中的效率與可靠性;

　　● VCI 所特有的容器鏡像緩存加速能力，更好地解決了大規(guī)模并發(fā)、大型容器鏡像場(chǎng)景下的 Pod 啟動(dòng)速度慢與鏡像拉取成功率低等問(wèn)題，減輕鏡像倉(cāng)庫(kù)壓力;

　　● 在計(jì)算資源規(guī)格的多樣性方面，VCI 在 2023 年推出了更多的可選資源，如基于火山引擎自研 DPU 全卸載架構(gòu)的全新通用計(jì)算型實(shí)例 n3i，屏蔽后端服務(wù)器差異，理論具有無(wú)限資源池的通用算力型實(shí)例 u1 等。

　　火山引擎云原生團(tuán)隊(duì)主要負(fù)責(zé)火山引擎公有云及私有化場(chǎng)景中 PaaS 類產(chǎn)品體系的構(gòu)建，結(jié)合字節(jié)跳動(dòng)多年的云原生技術(shù)棧經(jīng)驗(yàn)和最佳實(shí)踐沉淀，幫助企業(yè)加速數(shù)字化轉(zhuǎn)型和創(chuàng)新。產(chǎn)品包括容器服務(wù)、鏡像倉(cāng)庫(kù)、分布式云原生平臺(tái)、函數(shù)服務(wù)、服務(wù)網(wǎng)格、持續(xù)交付、可觀測(cè)服務(wù)等。

　　面向 2024 年，彈性容器實(shí)例 VCI 將持續(xù)在 Serverless Kubernetes 產(chǎn)品架構(gòu)與形態(tài)下持續(xù)精進(jìn)與探索，為內(nèi)外部更多客戶提供基礎(chǔ)設(shè)施免運(yùn)維、計(jì)算資源免規(guī)劃、極致彈性的 Serverless 容器化產(chǎn)品與服務(wù)，能夠更好地支持客戶在 AIGC、生信科學(xué)計(jì)算、社交電商等業(yè)務(wù)場(chǎng)景的多種 GPU 和 CPU 的算力需求。