雙十一剛剛過去,你的快遞都收到了嗎?好像曾經(jīng)因流量激增,導(dǎo)致各地中轉(zhuǎn)及收件點(diǎn)爆倉,快遞遲遲不到,延遲甚至長達(dá)半個(gè)月的新聞幾乎絕跡。當(dāng)運(yùn)輸速度恒定,中轉(zhuǎn)站點(diǎn)的多寡、分揀能力的強(qiáng)弱、是否丟包重發(fā),決定了你的快遞能否如期到達(dá)。
那么,如果 IM 消息是物,音視頻內(nèi)容是物,那么全球通信網(wǎng)就是負(fù)責(zé)傳輸?shù)奈锪飨到y(tǒng)。在物理距離恒定的前提下,對于路由跳數(shù)、網(wǎng)絡(luò)帶寬、網(wǎng)絡(luò)質(zhì)量和緩存隊(duì)列的設(shè)計(jì)和優(yōu)化,決定了系統(tǒng)能否做到高質(zhì)量、低延遲的傳輸。
這是融云首席架構(gòu)師李淼在 WICC 廣州“出海分論壇”中分享的話題引子。也因此,李淼關(guān)于《全球低延遲通信網(wǎng)絡(luò)的設(shè)計(jì)與優(yōu)化》的話題分享變得更加具象。
RTC 與 IM 全球網(wǎng)絡(luò)的設(shè)計(jì)有所同,有所不同
融云全球通信網(wǎng)絡(luò)分為 RTC 全球網(wǎng)絡(luò)和 IM 全球通信絡(luò)兩個(gè)部分,這是由于 RTC 和 IM 在傳輸中不同的加速特點(diǎn)所決定。
(RTC 網(wǎng)絡(luò)與 IM 網(wǎng)絡(luò))
相同點(diǎn)在于:二者可在數(shù)據(jù)中心、節(jié)點(diǎn)等多項(xiàng)物理設(shè)施上進(jìn)行復(fù)用,并且都必須保證高質(zhì)量、低延遲的傳輸,從而為用戶帶來極佳的場景體驗(yàn)。
不同點(diǎn)在于:RTC 基于 UTP 協(xié)議運(yùn)行,對于用戶體驗(yàn)而言,允許有一定的丟包率,但對于延時(shí)要求苛刻;而 IM 基于 TCP 協(xié)議進(jìn)行業(yè)務(wù)承載,在要求消息不能丟失的同時(shí),需要消息的集中存儲,不僅能為用戶不在線時(shí)存儲離線消息,還要根據(jù)業(yè)務(wù)類型,進(jìn)行歷史消息的存儲。
因此,融云對于 RTC 的設(shè)計(jì),是完全去中心化的分布式通信網(wǎng)絡(luò)。好處是在后續(xù)進(jìn)行網(wǎng)絡(luò)優(yōu)化時(shí),可以隨意增加媒體節(jié)點(diǎn)部署,而不影響用戶的任何使用體驗(yàn)。
融云 IM 的網(wǎng)絡(luò)設(shè)計(jì)采用的是將數(shù)據(jù)流量導(dǎo)入到數(shù)據(jù)中心的方式,已陸續(xù)在國內(nèi)、北美和新加坡分別設(shè)立了數(shù)據(jù)中心,目前已迭代至基于 Anycast 的一體化加速網(wǎng)。特點(diǎn)在于多協(xié)議支持、多數(shù)據(jù)中心支持,并且,基于 SmartDNS & Anycast 的加速原理可以更高質(zhì)量地保證在全球范圍內(nèi),節(jié)點(diǎn)分配的準(zhǔn)確度。此外,IM 的許多全球鏈路優(yōu)化工作,都可以在 RTC 上復(fù)用。
了解完以上架構(gòu),重點(diǎn)來了:融云是如何進(jìn)行延時(shí)優(yōu)化的呢?這需要分別從 RTC 和 IM 兩個(gè)方向進(jìn)行解析。
如何降低 RTC 的網(wǎng)絡(luò)延時(shí)
(RTC 通信過程)
對于 RTC 而言,能降低延時(shí)最好的辦法,就是提高 RTC 節(jié)點(diǎn)的覆蓋率,目的在于縮短用戶與邊緣節(jié)點(diǎn)的物理距離,也就意味著以更少的跳數(shù)完成連接。
融云對于節(jié)點(diǎn)的選擇先是要保證大洲級的全覆蓋,再是對熱門區(qū)域進(jìn)行重點(diǎn)覆蓋。所選節(jié)點(diǎn)基于一線 IaaS 廠商的公有云服務(wù)搭建,每個(gè)節(jié)點(diǎn)之間都可通過專線互聯(lián)。不但可以提升鏈路傳輸?shù)姆(wěn)定性,還可以降低 RTC 節(jié)點(diǎn)的跳數(shù),甚至可以做到 0 跳或者 1 跳。
優(yōu)化的難點(diǎn)在于:如何讓用戶選擇到質(zhì)量最好的節(jié)點(diǎn)。通常最直觀的辦法是通過智能 DNS 解析,但融云經(jīng)過驗(yàn)證發(fā)現(xiàn),準(zhǔn)確度率只在 80% 左右。為此,融云在之后增加了 IP Anycast,它跟 DNS 原理完全不同,可直接通過 IP 的方式來進(jìn)行分配,這個(gè)分配是運(yùn)營商級的。
在鏈路探測方面,物理距離最近的 IDC 未必就是質(zhì)量最好的節(jié)點(diǎn),即便采用 smart DNS+IP Anycast,準(zhǔn)確度依然無法達(dá)到 100%。為此,融云增加了客戶端的探測能力,在用戶連接時(shí)下發(fā) N 個(gè)地址?蛻舳烁鶕(jù)下發(fā)地址進(jìn)行探測,擇優(yōu)選擇鏈路連接。據(jù)日志分析,準(zhǔn)確度達(dá) 99.5% 以上。
同云連接可以通過鏈路優(yōu)化來保證,那么跨云又該怎么辦呢?
融云的做法是通過二級級聯(lián),將數(shù)據(jù)中心之間的流量通過所采購的 SD-WAN 進(jìn)行導(dǎo)入導(dǎo)出。這其中,級聯(lián)優(yōu)化至關(guān)重要。
比如,一個(gè)北美用戶跟一個(gè)國內(nèi)用戶通信,融云會先在北美與香港之間進(jìn)行專線互聯(lián),然后香港再與國內(nèi)的節(jié)點(diǎn)進(jìn)行專線互聯(lián)。這種通過香港節(jié)點(diǎn)進(jìn)行轉(zhuǎn)發(fā)的方案,能夠在保證質(zhì)量的前提下,達(dá)到低延時(shí)的網(wǎng)絡(luò)優(yōu)化效果。
但難點(diǎn)在于:故障降級。傳輸過程中,同云的專線和 SD-WAN 都可能會出現(xiàn)故障。盡管故障的概率極低,但一旦故障發(fā)生,就必須有所取舍,為了保證用戶能夠正常接聽互通,只能選擇將整個(gè)通訊鏈路進(jìn)行降級。比如當(dāng)專線出問題時(shí),會通過二級級聯(lián)的方式,進(jìn)行節(jié)點(diǎn)的跳轉(zhuǎn),或者直接通過互聯(lián)網(wǎng)公網(wǎng)的方式進(jìn)行數(shù)據(jù)的轉(zhuǎn)發(fā)。
此外,要降延就要有完善的網(wǎng)絡(luò)延時(shí)監(jiān)控系統(tǒng)。融云在客戶端建設(shè)了各種標(biāo)準(zhǔn)的 QoS 監(jiān)測系統(tǒng),包括數(shù)據(jù)實(shí)時(shí)上報(bào)和后臺分析。
如何降低 IM 的網(wǎng)絡(luò)延時(shí)
IM 的網(wǎng)絡(luò)延時(shí)優(yōu)化途徑主要集中于節(jié)點(diǎn)間數(shù)據(jù)轉(zhuǎn)發(fā)和證書計(jì)算前置兩個(gè)方面。
在節(jié)點(diǎn)數(shù)據(jù)的轉(zhuǎn)發(fā)方面:由于 IM 數(shù)據(jù)基于 TCP 協(xié)議傳輸,但 TCP 的擁塞控制和丟包重傳策略并不友好,因此融云將部分 TCP 協(xié)議替換成 QUIC 協(xié)議,也就是說,從物理距離最遠(yuǎn)的邊緣節(jié)點(diǎn)到路由節(jié)點(diǎn)數(shù)據(jù)的傳輸,融云都通過 QUIC 進(jìn)行了優(yōu)化。
(IM 全球網(wǎng)絡(luò)的歷程)
通過 QUIC 優(yōu)化,首先可以避免在邊緣點(diǎn)跟路由節(jié)點(diǎn)之間,TCP 的三次握手,直接將 TLS RTT 降為 0;其次是當(dāng)網(wǎng)絡(luò)抖動(dòng)時(shí),QUIC 有更友好的丟包重傳策略,可以做到丟哪個(gè)包就補(bǔ)哪個(gè)包,而不會像 TCP 那樣,一旦丟包,后續(xù)所有的包都要進(jìn)行重傳。內(nèi)測表明,這一優(yōu)化,使整個(gè)網(wǎng)絡(luò)延時(shí)降低了 15% 左右。
在證書計(jì)算前置方面:融云采取將 TLS 證書和 SSL 的證書,在邊緣節(jié)點(diǎn)上直接進(jìn)行交換的方式。這樣一來,首先是減少了用戶數(shù)據(jù)到數(shù)據(jù)中心之間的整體的 RTT,可將 RTT 直接降到 0。其次,IM 多有小包通訊的場景,例如一個(gè)信令包只有 10-20 個(gè)字節(jié),通過在邊緣點(diǎn)上將數(shù)據(jù)包進(jìn)行解密,明文傳遞到融云的路由節(jié)點(diǎn),再進(jìn)行加密傳到數(shù)據(jù)中心,大大降低了兩個(gè)最遠(yuǎn)物理距端點(diǎn)間的數(shù)據(jù)傳輸量。
需要說明的是,用戶完全無需擔(dān)心數(shù)據(jù)的安全問題。因?yàn)槿谠频倪吘壒?jié)點(diǎn)和路由節(jié)點(diǎn)全部由融云控制,均為受信網(wǎng)絡(luò)。但如果是必須要在公網(wǎng)完成數(shù)據(jù)傳輸,融云仍然會通過傳統(tǒng) TLS 方式來進(jìn)行數(shù)據(jù)鏈路加密。
當(dāng)然,融云對 IM 的優(yōu)化策略遠(yuǎn)不止于此,更多表現(xiàn)在客戶端及服務(wù)端日志的收集、zero copy、多路復(fù)用、IP 直連和 QoS 保證等多個(gè)方面。
比如對日志的收集,融云每發(fā)一個(gè) SDK 版本,都會增加新的日志埋點(diǎn),用于分析業(yè)務(wù)、分析網(wǎng)絡(luò)等,以此進(jìn)行一些定向或定點(diǎn)區(qū)域的優(yōu)化。
在談及未來計(jì)劃時(shí),李淼指出,融云將不計(jì)成本,不遺余力地繼續(xù)加大網(wǎng)絡(luò)建設(shè)力度,為開發(fā)者提供更加優(yōu)質(zhì)的服務(wù)。就研發(fā)而言,將持續(xù)提升軟件本身的處理能力,不斷豐富數(shù)據(jù)收集的手段,同時(shí)提升數(shù)據(jù)預(yù)估的準(zhǔn)確性。
文章內(nèi)容僅供閱讀,不構(gòu)成投資建議,請謹(jǐn)慎對待。投資者據(jù)此操作,風(fēng)險(xiǎn)自擔(dān)。
2024年的Adobe MAX 2024發(fā)布會上,Adobe推出了最新版本的Adobe Creative Cloud。
奧維云網(wǎng)(AVC)推總數(shù)據(jù)顯示,2024年1-9月明火炊具線上零售額94.2億元,同比增加3.1%,其中抖音渠道表現(xiàn)優(yōu)異,同比有14%的漲幅,傳統(tǒng)電商略有下滑,同比降低2.3%。
“以前都要去窗口辦,一套流程下來都要半個(gè)月了,現(xiàn)在方便多了!”打開“重慶公積金”微信小程序,按照提示流程提交相關(guān)材料,僅幾秒鐘,重慶市民曾某的賬戶就打進(jìn)了21600元。
華碩ProArt創(chuàng)藝27 Pro PA279CRV顯示器,憑借其優(yōu)秀的性能配置和精準(zhǔn)的色彩呈現(xiàn)能力,為您的創(chuàng)作工作帶來實(shí)質(zhì)性的幫助,雙十一期間低至2799元,性價(jià)比很高,簡直是創(chuàng)作者們的首選。
9月14日,2024全球工業(yè)互聯(lián)網(wǎng)大會——工業(yè)互聯(lián)網(wǎng)標(biāo)識解析專題論壇在沈陽成功舉辦。