青島企業(yè)物聯(lián)網(wǎng)大數(shù)據(jù)平臺解決方案

來源: 發(fā)布時間:2022-05-25

物聯(lián)網(wǎng)可以通過互聯(lián)網(wǎng)連接傳感器連接到各種各樣的“東西”,并得到了快速增長。簡單地說,它是一個連接任何設(shè)備的具有“開/關(guān)”功能的開關(guān),通過互聯(lián)網(wǎng)連接到彼此,可以方便地連接“事物”大規(guī)模網(wǎng)絡(luò)的概念。根據(jù)分析公司Gartner稱,到2020年,全球?qū)⒂谐^260億個連接設(shè)備,盡管這種預(yù)測根據(jù)來源不同而不同。物聯(lián)網(wǎng)和大數(shù)據(jù)具有改變許多領(lǐng)域活動的潛力,不僅是商業(yè)活動,還關(guān)系到我們的日常生活。調(diào)查機構(gòu)IDC2015年對物聯(lián)網(wǎng)發(fā)展的預(yù)測指出,“如今,物聯(lián)網(wǎng)的活動超過50%集中在制造業(yè),交通,智能城市和消費類應(yīng)用,但在五年內(nèi),所有的行業(yè)都將會推出采用物聯(lián)網(wǎng)的舉措?!毕到y(tǒng)需要提供一高效機制,讓用戶可以獲取全部、或符合過濾條件的部分設(shè)備的新狀態(tài)。青島企業(yè)物聯(lián)網(wǎng)大數(shù)據(jù)平臺解決方案

5.實時流式計算需要實時流式計算。各種實時預(yù)警或預(yù)測已經(jīng)不是簡單的基于某一個閾值進行,而是需要通過將一個或多個設(shè)備產(chǎn)生的數(shù)據(jù)流進行實時聚合計算,不只是基于一個時間點、而是基于一個時間窗口進行計算。不僅如此,計算的需求也相當(dāng)復(fù)雜,因場景而異,應(yīng)容許用戶自定義函數(shù)進行計算。6.數(shù)據(jù)訂閱需要支持數(shù)據(jù)訂閱。與通用大數(shù)據(jù)平臺比較一致,同一組數(shù)據(jù)往往有很多應(yīng)用都需要,因此系統(tǒng)應(yīng)該提供訂閱功能,只要有新的數(shù)據(jù)更新,就應(yīng)該實時提醒應(yīng)用。而且這個訂閱也應(yīng)該是個性化的,容許應(yīng)用設(shè)置過濾條件,比如只訂閱某個物理量五分鐘的平均值。濟南智能化物聯(lián)網(wǎng)大數(shù)據(jù)平臺軟件開發(fā)系統(tǒng)需要提供高效的數(shù)據(jù)降頻操作。

   數(shù)據(jù)處理:數(shù)據(jù)處理包括實時計算和離線計算兩種。TIZASTAR采用Storm作為實時處理引擎,并在它的基礎(chǔ)上包裝了自己的實時計算服務(wù),可以支持應(yīng)用層的調(diào)度和管理。基于實時計算服務(wù)可以很容易實現(xiàn)對物聯(lián)網(wǎng)數(shù)據(jù)的清洗、解析、報警等實時的處理。離線計算支持MapReduce和Hive等,主要用于對物聯(lián)網(wǎng)數(shù)據(jù)做日/周/月/年等多個時間維度做報表分析和數(shù)據(jù)挖掘,并將結(jié)果輸出到關(guān)系數(shù)據(jù)庫中?!駭?shù)據(jù)交換接口:數(shù)據(jù)交換接口支持SQL、Restful、Thrift和JavaAPI等,用戶可以根據(jù)實際情況靈活選擇數(shù)據(jù)交換的方式。數(shù)據(jù)交換的內(nèi)容包括物聯(lián)網(wǎng)終端的當(dāng)前狀態(tài)、物聯(lián)網(wǎng)終端的歷史狀態(tài)/軌跡、指令下發(fā)、數(shù)據(jù)訂閱與發(fā)布等等。●平臺管理:平臺管理包括監(jiān)控報警和管理UI。監(jiān)控報警采用Ganglia和Nagios結(jié)合的形式,包括硬件級別(服務(wù)器、cpu、內(nèi)存、磁盤等)、進程級別(進程不存在、端口***異常等)、關(guān)鍵業(yè)務(wù)指標(中間隊列的元素數(shù)、網(wǎng)關(guān)建立的tcp連接數(shù)等)等三個級別。管理UI包括界面化安裝部署、用戶管理、終端管理、集群管理、數(shù)據(jù)接入管理、實時和離線計算任務(wù)界面化管理。

   物聯(lián)網(wǎng)中的數(shù)據(jù)量更大:物聯(lián)網(wǎng)的主要特征之一是節(jié)點的海量性,bai除了人和服務(wù)器之外,物品、設(shè)備、傳感網(wǎng)等都是物聯(lián)網(wǎng)的組成節(jié)點,其數(shù)量規(guī)模遠大于互聯(lián)網(wǎng);同時,物聯(lián)網(wǎng)節(jié)點的數(shù)據(jù)生成頻率遠高于互聯(lián)網(wǎng),如傳感節(jié)點多數(shù)處于全時工作狀態(tài),數(shù)據(jù)流源源不斷。物聯(lián)網(wǎng)中的數(shù)據(jù)速率更高:一方面,物聯(lián)網(wǎng)中數(shù)據(jù)海量性必然要求骨干網(wǎng)匯聚更多的數(shù)據(jù),數(shù)據(jù)的傳輸速率要求更高;另一方面,由于物聯(lián)網(wǎng)與真實物理世界直接關(guān)聯(lián),很多情況下需要實時訪問、控制相應(yīng)的節(jié)點和設(shè)備,因此需要高數(shù)據(jù)傳輸速率來支持相應(yīng)的實時性。 物聯(lián)網(wǎng)中的數(shù)據(jù)更加多樣化:物聯(lián)網(wǎng)涉及的應(yīng)用范圍更廣,從智慧城市、智慧交通、智慧物流、商品溯源,到智能家居、智慧醫(yī)療、安防監(jiān)控等,無一不是物聯(lián)網(wǎng)應(yīng)用范疇;在不同領(lǐng)域、不同行業(yè),需要面對不同類型、不同格式的應(yīng)用數(shù)據(jù),因此物聯(lián)網(wǎng)中數(shù)據(jù)多樣性更為突出。設(shè)備是很難同步的,不同設(shè)備采集數(shù)據(jù)的時間點是很難對齊的。

對象存儲服務(wù):對象存儲服務(wù)(Object Storage Service,OBS)是一個基于對象的海量存儲服務(wù),為客戶提供海量、安全、高可靠、低成本的數(shù)據(jù)存儲能力,包括:創(chuàng)建、修改、刪除桶,上傳、下載、刪除對象等。其中對象是OBS中數(shù)據(jù)存儲的基本單位,用戶上傳至OBS的數(shù)據(jù)都以對象的形式保存在桶中,而桶是是OBS中存儲對象的容器。數(shù)據(jù)倉庫服務(wù)(DWS):數(shù)據(jù)倉庫服務(wù)(Data Warehouse Service)是一種基于公有云基礎(chǔ)架構(gòu)和平臺的在線數(shù)據(jù)處理數(shù)據(jù)庫,提供即開即用、可擴展且完全托管的分析型數(shù)據(jù)庫服務(wù)。DWS是基于華為融合數(shù)據(jù)倉庫GaussDB產(chǎn)品的云原生服務(wù),兼容標準ANSI SQL 99和SQL 2003,同時兼容PostgreSQL/Oracle數(shù)據(jù)庫生態(tài),為各行業(yè)PB級海量大數(shù)據(jù)分析提供有競爭力的解決方案。數(shù)據(jù)可視化服務(wù)(DLV):數(shù)據(jù)可視化服務(wù)(Data Lake Visualization)是一站式數(shù)據(jù)可視化平臺,適配云上云下多種數(shù)據(jù)源,提供豐富多樣的2D、3D可視化組件,采用拖拽式自由布局,旨在幫助您快速定制和應(yīng)用屬于您自己的數(shù)據(jù)大屏。需要支持邊云協(xié)同。要有一套靈活的機制將邊緣計算節(jié)點的數(shù)據(jù)上傳到云端。徐州智慧科技館物聯(lián)網(wǎng)大數(shù)據(jù)平臺費用

如果數(shù)據(jù)處理系統(tǒng)宕機,直接導(dǎo)致停產(chǎn),產(chǎn)生經(jīng)濟有損失、導(dǎo)致對終端消費者的服務(wù)無法正常提供。青島企業(yè)物聯(lián)網(wǎng)大數(shù)據(jù)平臺解決方案

數(shù)據(jù)自帶時間戳具有時間有效性,這意味著數(shù)據(jù)處理的實時性;都是小數(shù)據(jù),這意味著數(shù)據(jù)存儲系統(tǒng)需要對此進行專門的設(shè)計;數(shù)據(jù)隨時間延續(xù)而無限增長,這意味著數(shù)據(jù)的無限性;數(shù)據(jù)到達的速度有快有慢、負載有高有低,這意味著靈活又細粒度的資源彈性需求;數(shù)據(jù)可能是有序或無序的,會有持久化需求,以及數(shù)據(jù)本身傳輸?shù)沫h(huán)境可能是復(fù)雜的,在這些約束條件下要保證數(shù)據(jù)處理結(jié)果的***正確性。這幾個特性轉(zhuǎn)換成存儲技術(shù)的語義對應(yīng)著:實時性、高性能、無限性、可伸縮性以及恰好一次性,其中恰好一次性包括持久化、有序、一致性以及事務(wù)。從存儲的視角來說,每種類型的數(shù)據(jù)都有其原生的屬性和需求,對應(yīng)有比較好的適用場景以及**合適的存儲系統(tǒng)。那么目前又有哪種存儲系統(tǒng)**適合用于“流數(shù)據(jù)”呢?正如當(dāng)前技術(shù)條件下**適合“流數(shù)據(jù)”計算的是類似Flink這樣的分布式流計算應(yīng)用,**適合“流數(shù)據(jù)”存儲的系統(tǒng)我們認為應(yīng)當(dāng)是專門針對流數(shù)據(jù)而設(shè)計的分布式流存儲系統(tǒng)。青島企業(yè)物聯(lián)網(wǎng)大數(shù)據(jù)平臺解決方案