在進軍物聯(lián)網(wǎng)時代的征途中,一個巨大的問題橫亙在所有解決方案面前:數(shù)據(jù)量正在井噴式的增長。萬物互聯(lián)與互聯(lián)網(wǎng)時代最直觀的區(qū)別之一,就是數(shù)據(jù)的產(chǎn)生和處理量級上有了本質(zhì)的飛躍。
如一臺智能化新能源汽車,每秒鐘產(chǎn)生的數(shù)據(jù)量可達到1GB,一臺波音787每秒鐘產(chǎn)生的數(shù)據(jù)量高達5GB;在國家“信創(chuàng)”大背景下,更多國產(chǎn)智能設(shè)備注入各個領(lǐng)域,其產(chǎn)生的數(shù)據(jù)規(guī)模相當可觀。
如若不能妥善地存儲和處理這些數(shù)據(jù),“萬物互聯(lián)”也只能是一句空談。數(shù)據(jù)庫自然是存儲海量數(shù)據(jù)進行加工使用的最終壁壘。時下,針對數(shù)據(jù)庫的革新與顛覆,對構(gòu)建真正的物聯(lián)網(wǎng)世界而言即夯實地基,這也是整個信創(chuàng)領(lǐng)域的主旋律。
“半壁江山”關(guān)系型數(shù)據(jù)庫,或已不適配當前的時代
關(guān)系型 or NoSQL?對于正在加快物聯(lián)網(wǎng)化進程的企業(yè)來說,這是一道火燒眉毛的問題。
在20世紀70年代初,為了減少數(shù)據(jù)冗余、降低存儲費用,關(guān)系型數(shù)據(jù)庫應(yīng)運而生。關(guān)系型數(shù)據(jù)庫最大的特征是遵循一定的范式,包括數(shù)據(jù)類型、數(shù)據(jù)間關(guān)系、ACID規(guī)范等。關(guān)系型數(shù)據(jù)庫的一個典型特征,不同的關(guān)系表之間進行計算后,其結(jié)果也依舊是關(guān)系型!這些特性讓關(guān)系型數(shù)據(jù)庫對數(shù)據(jù)的標準化擁有支撐。關(guān)系型數(shù)據(jù)庫從誕生之初到現(xiàn)在,走過了50年的風雨,衍生出Oracle、MySQL、Db2、SQL Server等一系列龐大的家族譜系。目前,市面上占據(jù)絕大多數(shù)份額的數(shù)據(jù)庫,都還是關(guān)系型數(shù)據(jù)庫。
關(guān)系型數(shù)據(jù)庫在數(shù)據(jù)標準化上有相當好的支持。隨著信息技術(shù)的發(fā)展,進入21世紀后,關(guān)系型數(shù)據(jù)庫顯示出那么一絲的力不從心,其不足也慢慢凸顯。關(guān)系型數(shù)據(jù)庫往往通過“強一致性”來避免數(shù)據(jù)庫應(yīng)用中出現(xiàn)的寫入沖突和讀取沖突,如限制多端讀寫。當然,這也嚴重影響了數(shù)據(jù)的讀寫和存儲效率。進入21世紀,數(shù)據(jù)量的爆發(fā)式增長,以及數(shù)據(jù)類型的多樣化,對于僅支持垂直擴展(即只在硬件方面加強)的關(guān)系型數(shù)據(jù)庫,是一份來自時代的嚴峻挑戰(zhàn)。
在布局物聯(lián)網(wǎng)的進程中,不少企業(yè)已經(jīng)開始擁抱NoSQL類型數(shù)據(jù)庫。
對數(shù)據(jù)讀寫性能的強需求,使NoSQL類型的數(shù)據(jù)庫在進入21世紀后,逐漸成為科技行業(yè)的新寵。NoSQL即Not Only SQL,泛指不使用關(guān)系模型、分布式的數(shù)據(jù)庫,由于其不要求“強一致性”,僅需保證數(shù)據(jù)的“最終一致性”,可以輕松實現(xiàn)大量數(shù)據(jù)的存儲和讀取。同時,NoSQL類型的數(shù)據(jù)庫通過分庫分表的方式,可實現(xiàn)水平擴展,而非像關(guān)系型數(shù)據(jù)庫僅支持垂直擴展,更適應(yīng)多業(yè)務(wù)應(yīng)用場景。
讀寫效率的提高,以及多場景的應(yīng)用,讓NoSQL類型的數(shù)據(jù)庫看起來更像是為物聯(lián)網(wǎng)時代量身定制的“利器”。
綜合看來,關(guān)系型數(shù)據(jù)庫和NoSQL類型數(shù)據(jù)庫,在標準化和效率+擴展性方面各擅勝場。
物聯(lián)網(wǎng)時代智能硬件的爆發(fā)式增長改變了一切,網(wǎng)絡(luò)開始呈現(xiàn)出巨量數(shù)據(jù)、多種類數(shù)據(jù)的特征,這些都對數(shù)據(jù)的存儲和讀寫能力提出遠超當下水平的需求。對數(shù)據(jù)量、效率、擴展性等的多重高要求,甚至催生了“云計算”的優(yōu)化算法“邊緣計算”,即數(shù)據(jù)不全部上云,而是分布處理、僅將結(jié)果匯總。
這也折射出一個現(xiàn)象:當下互聯(lián)網(wǎng)承載的數(shù)據(jù)量增速遠遠超出了網(wǎng)絡(luò)的升級速度,將數(shù)據(jù)進行分布式存儲與處理,減小信道擁堵和信息傳遞延時,是產(chǎn)業(yè)智能化的一種“因地制宜”。邊緣計算是應(yīng)對海量數(shù)據(jù)的一劑良藥,然而邊緣計算對數(shù)據(jù)的讀寫性有著更高的要求。
信息技術(shù)的飛速發(fā)展,讓時代的天平慢慢倒向NoSQL類型的數(shù)據(jù)庫,因為它實在太適合工業(yè)物聯(lián)網(wǎng)這種海量數(shù)據(jù)的應(yīng)用場景了。
“信創(chuàng)”大潮的掀起了硬件更新的革命;智能化設(shè)備蜂擁進入網(wǎng)絡(luò),讓工業(yè)生產(chǎn)朝著低人工成本、智能化的方向邁進了一大步;邊緣計算中數(shù)據(jù)分布式存儲、運算的剛需,也讓關(guān)系型數(shù)據(jù)庫支持乏力的通病集中暴露。
所有工業(yè)生產(chǎn)領(lǐng)域,欲求實現(xiàn)真正意義上的互聯(lián)網(wǎng),就必須對當前占據(jù)主流份額的關(guān)系型數(shù)據(jù)庫發(fā)起一場革命。
Big River超融合數(shù)據(jù)庫:為工業(yè)物聯(lián)網(wǎng)量身定制
無論在何種領(lǐng)域的工業(yè)生產(chǎn)中,設(shè)備巡檢、監(jiān)控的智能化,是自動化生產(chǎn)最迫切、最重要的一環(huán)。
生產(chǎn)過程異常不僅影響良品率,嚴重的甚至會損壞生產(chǎn)線,釀成巨大經(jīng)濟損失、重大安全事故。如何通過監(jiān)控的構(gòu)建完成一體化監(jiān)管,也是構(gòu)建工業(yè)物聯(lián)網(wǎng)的核心問題。在工業(yè)生產(chǎn)中,對數(shù)據(jù)監(jiān)控的穩(wěn)定運行要求更高、容錯率更低;不同設(shè)備產(chǎn)生的監(jiān)控數(shù)據(jù)類型往往各異,在傳統(tǒng)數(shù)據(jù)庫中造成了讀寫困難,在“信創(chuàng)”浪潮下各種國產(chǎn)設(shè)備涌入工業(yè)網(wǎng)絡(luò),更加劇了這一現(xiàn)象。
傳統(tǒng)關(guān)系型數(shù)據(jù)庫在這樣的場景下集中暴露的問題,最為凸出的有兩個:
首先是效率,“強一致性”的要求導(dǎo)致在高頻讀寫的時候性能出現(xiàn)瓶頸,造成信道堵塞;
其次是生態(tài)的橫向擴展,僅支持垂直擴展的結(jié)構(gòu)特征對不同開發(fā)語言、不同數(shù)據(jù)類型的應(yīng)用兼容不友好,嚴重限制了拓展性。
為工業(yè)生產(chǎn)賦能,美信科技打造了針對工業(yè)物聯(lián)網(wǎng)場景的殺手锏——Big River超融合數(shù)據(jù)庫。
Big River數(shù)據(jù)庫是一種基于key-value的高性能、分布式、易擴展的混合型數(shù)據(jù)庫,其根據(jù)海量數(shù)據(jù)特點彌補了關(guān)系型數(shù)據(jù)庫的不足,可較好地兼容多種數(shù)據(jù)庫類型,支持k-v數(shù)據(jù)庫,兼容關(guān)系型數(shù)據(jù)庫。其不僅具有NoSQL對海量數(shù)據(jù)的存儲管理、靈活擴展能力,還保持了傳統(tǒng)關(guān)系型數(shù)據(jù)庫支持事務(wù)等特性。
相較于市面上應(yīng)用于工業(yè)場景的數(shù)據(jù)庫,Big river數(shù)據(jù)庫既擁有時序數(shù)據(jù)庫的快速讀寫、存儲優(yōu)勢,又具備相較于關(guān)系型數(shù)據(jù)庫更為直觀、簡潔的特性。針對工業(yè)物聯(lián)網(wǎng)應(yīng)用場景的特性,Big River數(shù)據(jù)庫在設(shè)計上,通過以下幾個技術(shù)特點來對目前工業(yè)物聯(lián)網(wǎng)的監(jiān)控進行升級突破:
性能優(yōu)化:
基于C語言優(yōu)勢,將輪詢效率提到毫秒級:Big River數(shù)據(jù)庫采用C語言自主設(shè)計研發(fā),針對實時數(shù)據(jù)特點,被檢測設(shè)備直接將數(shù)據(jù)發(fā)送到監(jiān)控主機,并存儲在緩存中。業(yè)界普遍的監(jiān)測頻率僅能達到分鐘級,Big River數(shù)據(jù)庫可以實現(xiàn)毫秒級快速輪詢。工業(yè)物聯(lián)網(wǎng)相較于IT領(lǐng)域,往往對輪詢頻率有更高的要求,這樣的高靈敏度有助于設(shè)備異常的排查。工業(yè)領(lǐng)域能在單位時間產(chǎn)生海量數(shù)據(jù),數(shù)據(jù)庫的效率是第一要務(wù)。
可分布式集群部署,實現(xiàn)海量數(shù)據(jù)存儲:Big River數(shù)據(jù)庫支持分布式集群部署,其中每個節(jié)點擁有一個數(shù)據(jù)子集。數(shù)據(jù)查詢被分成查詢片段發(fā)送給自己所在的數(shù)據(jù)的節(jié)點上執(zhí)行。這些數(shù)據(jù)庫可以通過添加額外的節(jié)點來線性擴展。分布式架構(gòu)+非結(jié)構(gòu)化存儲=水平擴張,分布式存儲與高并發(fā)訪問帶來性能的飛躍。另外,Big River數(shù)據(jù)庫基于閉樹算法也可根據(jù)數(shù)據(jù)的實際長度自動調(diào)節(jié)數(shù)據(jù)存儲占用的存儲空間,減少不必要的存儲空間的占用,達到優(yōu)化數(shù)據(jù)存儲空間的目的。
高頻寫入操作優(yōu)化:BigRiver數(shù)據(jù)庫相較于傳統(tǒng)關(guān)系型數(shù)據(jù)庫,基于其K-V特性可以更好地展現(xiàn)樹形結(jié)構(gòu)數(shù)據(jù)間的邏輯關(guān)系;應(yīng)用雙緩沖機制,實現(xiàn)高頻寫入優(yōu)化,使其擁有了時序數(shù)據(jù)庫一樣的高頻讀寫、大容量存儲的特性。以監(jiān)控應(yīng)用為例,監(jiān)控數(shù)據(jù)先寫入緩存,再定時寫入數(shù)據(jù)庫磁盤,大幅減少寫入壓力。基于64位緩存尋址,足以支撐單臺服務(wù)器監(jiān)測上萬監(jiān)測指標,記錄行數(shù)可達到百億級以上,訪問時間秒級以內(nèi)。
應(yīng)用場景應(yīng)用優(yōu)化:
支持事務(wù)功能:Big River數(shù)據(jù)庫保留了關(guān)系型數(shù)據(jù)庫支持事務(wù)功能的優(yōu)勢,這是市場上同類型數(shù)據(jù)庫所不具備的。事務(wù)功能的核心要求是數(shù)據(jù)一致性,Big River數(shù)據(jù)庫在數(shù)據(jù)庫操作失敗或者系統(tǒng)出現(xiàn)崩潰時,系統(tǒng)能夠以事務(wù)為邊界進行恢復(fù)。當有多個用戶同時操作數(shù)據(jù)庫時,數(shù)據(jù)庫能夠以事務(wù)為單位進行并發(fā)控制,使多個用戶對數(shù)據(jù)庫的操作相互隔離。事務(wù)功能使系統(tǒng)能夠更方便的進行故障恢復(fù)以及并發(fā)控制,從而保證數(shù)據(jù)庫狀態(tài)的一致性。Big River數(shù)據(jù)庫支持事務(wù)的特性,保證了其應(yīng)用于企事業(yè)單位中的可靠性。
靈活數(shù)據(jù)類型:不同于傳統(tǒng)關(guān)系型數(shù)據(jù)庫,Big River數(shù)據(jù)庫不需要了解鍵值對中值的數(shù)據(jù)是什么數(shù)據(jù)類型,可以是二進制、文本、Json、XML等。非結(jié)構(gòu)化的特性帶來了極高的靈活性,保證了在數(shù)據(jù)庫中增刪數(shù)據(jù)的易用性和易操作性。
簡化數(shù)據(jù)模型設(shè)計:傳統(tǒng)的關(guān)系型數(shù)據(jù)庫中,樹形結(jié)構(gòu)很難用表與表之間的關(guān)系來表示。而Big River數(shù)據(jù)庫的K-V特性可很好的展現(xiàn)樹形結(jié)構(gòu)的數(shù)據(jù)之間的邏輯關(guān)系,可以很好的達到所見即所得的效果。
輕量級敏捷開發(fā):Big River數(shù)據(jù)庫體量小,對環(huán)境的依賴程度小,部署靈活,易于維護,且數(shù)據(jù)易備份、易轉(zhuǎn)移。具有專用管理工具,通過所見即所得帶來開發(fā)的敏捷,開發(fā)運維成本降低。
Big River數(shù)據(jù)庫根據(jù)工業(yè)物聯(lián)網(wǎng)的特點,針對高頻讀寫和數(shù)據(jù)存儲進行優(yōu)化,更適用于大數(shù)據(jù)量、高并發(fā)的數(shù)據(jù)存儲與處理工作;分布式部署的特性更是可以完美支持企業(yè)構(gòu)建邊緣計算體系。時下,工業(yè)領(lǐng)域動輒幾千臺設(shè)備在工業(yè)生產(chǎn)中只是常態(tài)。傳統(tǒng)監(jiān)控系統(tǒng)多應(yīng)用關(guān)系型數(shù)據(jù)庫,單點在監(jiān)測幾千臺設(shè)備的情況下就會出現(xiàn)性能下降,而應(yīng)用了Big River的監(jiān)控易單臺服務(wù)器可以輕松監(jiān)控上萬個監(jiān)測點,實現(xiàn)秒級輪詢的同時長時間保持穩(wěn)定運行。
根據(jù)使用的側(cè)重點不同,Big River數(shù)據(jù)庫可為采集監(jiān)控類應(yīng)用(大數(shù)據(jù)量)、數(shù)據(jù)網(wǎng)關(guān)(高并發(fā)數(shù)據(jù)讀寫)、分布式檢測(分布式部署)等應(yīng)用場景賦能。
Big River數(shù)據(jù)庫如何匯入信創(chuàng)時代大川
物聯(lián)網(wǎng)時代的到來,對大數(shù)據(jù)的存儲性和讀寫性要求達到了空前的高度;“信創(chuàng)”帶來的國產(chǎn)替代熱潮,也同時擴大了智能硬件進入的窗口。
這一切,都在倒逼數(shù)據(jù)庫市場成長。根據(jù)艾瑞咨詢發(fā)布的《中國數(shù)據(jù)庫行業(yè)研究報告(2021)》,2020年中國數(shù)據(jù)庫市場總規(guī)模達247.1億元,同比增長16.2%;政策對國產(chǎn)數(shù)據(jù)庫的扶植也達到空前規(guī)模,這使得國外數(shù)據(jù)庫廠商的份額下降至52.4%。
由于數(shù)據(jù)庫建設(shè)和企業(yè)基礎(chǔ)設(shè)施的滯后性,目前關(guān)系型數(shù)據(jù)庫占到市場份額的90%以上,尋求高性能的NoSQL類型的國產(chǎn)數(shù)據(jù)庫替代仍然有很大空間,類似于Big River這樣同時具備高頻讀寫、海量存儲、分布式部署等NoSQL特征和關(guān)系型數(shù)據(jù)庫的事務(wù)管理特性的混合型NewSQL類型數(shù)據(jù)庫,毫無意外地將會是新基建以及信創(chuàng)環(huán)境下國產(chǎn)替代的重要抓手。
目前,Big River數(shù)據(jù)庫已經(jīng)廣泛應(yīng)用于政府 、軍工 、醫(yī)療 、能源 、金融 、園區(qū) 、交通 等領(lǐng)域。相關(guān)領(lǐng)域共同面臨以下矛盾:
智能設(shè)備的大量接入、數(shù)字化運維的高要求,和數(shù)據(jù)庫日益跟不上性能要求的矛盾;
基礎(chǔ)設(shè)施的飛速擴張,和用地限制導(dǎo)致必須分布式部署的矛盾;
國產(chǎn)替代種類繁雜,和大規(guī)模運維生態(tài)難以兼容的矛盾。
Big River數(shù)據(jù)庫在設(shè)計之初就致力于消除上述宏觀矛盾。在長期的客戶服務(wù)中,逐步驗證了設(shè)計思路的成功。
如在某互聯(lián)網(wǎng)集團智慧園區(qū)的建設(shè)過程中,園區(qū)分布于全國,規(guī)模已經(jīng)達到62萬平房千米并且每年以30萬千米體量快速增長;設(shè)備豐富,運維人員少。美信科技通過在園區(qū)內(nèi)部署B(yǎng)ig River數(shù)據(jù)庫,對園區(qū)內(nèi)的網(wǎng)絡(luò)設(shè)備、服務(wù)器、閘機、儲物柜PAD、攝像頭、車位檢測器等終端設(shè)備采集數(shù)據(jù),結(jié)合智能運維系統(tǒng)實現(xiàn)了五個園區(qū)的全部設(shè)備管理界面、視圖、報表統(tǒng)一管理,并實現(xiàn)了良好的水平擴展和垂直擴展。
某中央辦事機構(gòu)管理設(shè)備規(guī)模數(shù)千臺,按照2分鐘輪詢頻率計算,一天需寫入5千萬條數(shù)據(jù),應(yīng)用的傳統(tǒng)關(guān)系型數(shù)據(jù)庫無法支持監(jiān)控數(shù)據(jù)持續(xù)寫入,出現(xiàn)了頁面、報表打開緩慢、告警不及時等問題。美信科技通過為其部署B(yǎng)ig River數(shù)據(jù)庫,成功承載包括服務(wù)器、操作系統(tǒng)、網(wǎng)絡(luò)設(shè)備、存儲、虛擬化設(shè)備等10000+設(shè)備的數(shù)據(jù)存儲,實現(xiàn)秒級監(jiān)控預(yù)警,并保證了其數(shù)據(jù)和設(shè)備的擴展性。
某國有電力企業(yè)進行一體化運維指揮中心建設(shè)的時候,美信科技應(yīng)用一體化運維解決方案協(xié)助其完善了調(diào)度云建設(shè),將分屬市內(nèi)三區(qū)的電力設(shè)施納入一體化監(jiān)管平臺,協(xié)助其建立了視圖化的網(wǎng)絡(luò)和資產(chǎn)管理系統(tǒng)。該企業(yè)積極響應(yīng)信創(chuàng)號召,引入大量國產(chǎn)替代設(shè)備,這些設(shè)備也在基于Big River數(shù)據(jù)庫的一體化監(jiān)控運維平臺“監(jiān)控易”中實現(xiàn)了整合。
縱觀Big River的應(yīng)用案例,高性能、分布式、擴展性是始終繞不開的3個關(guān)鍵字。新基建和信創(chuàng)路線的提出,以及邊緣計算已然成為物聯(lián)網(wǎng)建設(shè)的必要解決方案,具備3個重要特性的Big River數(shù)據(jù)庫無疑將成為下一個時代重要基礎(chǔ)設(shè)施,執(zhí)數(shù)據(jù)庫行業(yè)發(fā)展之牛耳。
信創(chuàng)藍海的百舸爭流,目前還處在各自為戰(zhàn)的狀態(tài),各種技術(shù)標準和行業(yè)標準層出不窮,這是行業(yè)的生機蓬勃之相,卻也為處在基礎(chǔ)設(shè)施產(chǎn)業(yè)下游的生產(chǎn)企業(yè)建立工業(yè)物聯(lián)網(wǎng)體系制造了門檻。美信科技反其道而行,如Big River數(shù)據(jù)庫一般,產(chǎn)品打造遵循“被集成”思路,在做到比同類產(chǎn)品性能優(yōu)越的基礎(chǔ)上,大幅降低了客戶企業(yè)進行基礎(chǔ)設(shè)施升級的邊際成本。這也是信創(chuàng)產(chǎn)業(yè)從最初的高速成長,逐漸步入標準化所催生的必然行業(yè)趨勢。
文章內(nèi)容僅供閱讀,不構(gòu)成投資建議,請謹慎對待。投資者據(jù)此操作,風險自擔。
2024年的Adobe MAX 2024發(fā)布會上,Adobe推出了最新版本的Adobe Creative Cloud。
奧維云網(wǎng)(AVC)推總數(shù)據(jù)顯示,2024年1-9月明火炊具線上零售額94.2億元,同比增加3.1%,其中抖音渠道表現(xiàn)優(yōu)異,同比有14%的漲幅,傳統(tǒng)電商略有下滑,同比降低2.3%。
“以前都要去窗口辦,一套流程下來都要半個月了,現(xiàn)在方便多了!”打開“重慶公積金”微信小程序,按照提示流程提交相關(guān)材料,僅幾秒鐘,重慶市民曾某的賬戶就打進了21600元。
華碩ProArt創(chuàng)藝27 Pro PA279CRV顯示器,憑借其優(yōu)秀的性能配置和精準的色彩呈現(xiàn)能力,為您的創(chuàng)作工作帶來實質(zhì)性的幫助,雙十一期間低至2799元,性價比很高,簡直是創(chuàng)作者們的首選。
9月14日,2024全球工業(yè)互聯(lián)網(wǎng)大會——工業(yè)互聯(lián)網(wǎng)標識解析專題論壇在沈陽成功舉辦。