浙江大規(guī)模分布式存儲(chǔ)

來源: 發(fā)布時(shí)間:2022-01-11

分布式存儲(chǔ)系統(tǒng)中的多臺(tái)服務(wù)器通過網(wǎng)絡(luò)進(jìn)行連接。但是我們無法保證網(wǎng)絡(luò)是一直通暢的,分布式系統(tǒng)需要具有一定的容錯(cuò)性來處理網(wǎng)絡(luò)故障帶來的問題。一個(gè)令人滿意的情況是,當(dāng)一個(gè)網(wǎng)絡(luò)因?yàn)楣收隙纸鉃槎鄠€(gè)部分的時(shí)候,分布式存儲(chǔ)系統(tǒng)仍然能夠工作。分布式存儲(chǔ)系統(tǒng)需要使用多臺(tái)服務(wù)器共同存儲(chǔ)數(shù)據(jù),而隨著服務(wù)器數(shù)量的增加,服務(wù)器出現(xiàn)故障的概率也在不斷增加。為了保證在有服務(wù)器出現(xiàn)故障的情況下系統(tǒng)仍然可用。一般做法是把一個(gè)數(shù)據(jù)分成多份存儲(chǔ)在不同的服務(wù)器中。但是由于故障和并行存儲(chǔ)等情況的存在,同一個(gè)數(shù)據(jù)的多個(gè)副本之間可能存在不一致的情況。這里稱保證多個(gè)副本的數(shù)據(jù)完全一致的性質(zhì)為一致性。 分布式存儲(chǔ)系統(tǒng)通過統(tǒng)一硬件資源池,同時(shí)提供塊、文件、對(duì)象三種存儲(chǔ)服務(wù)。浙江大規(guī)模分布式存儲(chǔ)

正所謂長江后浪推前浪,分布式存儲(chǔ)快速增長是不可否認(rèn)的,這從各大廠商的業(yè)績報(bào)告和分析師報(bào)告就能看出來,但想要把企業(yè)外置存儲(chǔ)這個(gè)前浪拍死在沙灘上還是步子邁太大,不現(xiàn)實(shí)。企業(yè)外置存儲(chǔ)在相當(dāng)長的一段時(shí)間內(nèi),仍然是主流。它主要面向企業(yè)傳統(tǒng)應(yīng)用如ERP/CRM/HIS等,數(shù)據(jù)量不大但對(duì)可靠性、性能有極zhi要求,如銀行Core-Banking,從可靠性、生態(tài)層面,分布式存儲(chǔ)都不是比較好選擇。分布式存儲(chǔ)主要面向海量數(shù)據(jù)、新興業(yè)務(wù)場景,如HPC/EDA、大數(shù)據(jù),這類場景以二進(jìn)制文件、視頻、圖片等非結(jié)構(gòu)化數(shù)據(jù)為主,數(shù)據(jù)量極大。所以從場景來看,二者場景是有明確區(qū)隔的,按場景并存是比較好的選擇。 南京聯(lián)想分布式存儲(chǔ)系統(tǒng)原理解析干貨:一文看懂分布式存儲(chǔ)架構(gòu)。

無論如何波折,分布式存儲(chǔ)未來可期:正所謂不管白貓、黑貓,抓到老鼠的就是好貓。我們相信在較長一段時(shí)間內(nèi),分布式存儲(chǔ)軟硬件一體和軟硬件解耦會(huì)長期共存??傮w而言,筆者認(rèn)為隨著數(shù)據(jù)價(jià)值的增高,場景對(duì)數(shù)據(jù)可靠性的要求隨之會(huì)越來越嚴(yán)苛,市場的天平就會(huì)更多偏向軟硬件一體;與此相反,場景對(duì)數(shù)據(jù)可靠性的敏感度越低、短期成本敏感度越高,市場的天平就會(huì)更多的偏向軟硬件解耦。分布式存儲(chǔ)的發(fā)展歷程無論如何波折,我們更愿意相信它終會(huì)是部正劇,在整個(gè)存儲(chǔ)市場中占據(jù)海量數(shù)據(jù)承載的主力軍位置,鏗鏘而立,并給人以無窮回味!

    從技術(shù)的角度,分布式存儲(chǔ)的發(fā)力點(diǎn)在大規(guī)模的擴(kuò)展性,基于此逐步優(yōu)化性能、可靠性,讓海量數(shù)據(jù)存得下、用得起;集中式存儲(chǔ)的技術(shù)方向在于保持穩(wěn)定性的基礎(chǔ)上,利用更快的介質(zhì)、更低時(shí)延的網(wǎng)絡(luò)為核xin業(yè)務(wù)提供加速,讓業(yè)務(wù)更穩(wěn)、效率更高。因此,從技術(shù)方向上來看,二者也是各有側(cè)重的。云和分布式存儲(chǔ)一樣,這些年正在大行其道、炙手可熱。CloudFirst、AllinCloud、CloudNative等概念風(fēng)靡業(yè)界,CIO見面不提云貌似都不好意思打招呼。早期人們也習(xí)慣把分布式存儲(chǔ)叫做“云存儲(chǔ)”,那么分布式存儲(chǔ)和云是什么關(guān)系?筆者認(rèn)為,分布式存儲(chǔ)是一種技術(shù)架構(gòu),而云是一種商業(yè)模式。分布式存儲(chǔ)可以被用作各種云的數(shù)據(jù)底座,也可以單獨(dú)成為數(shù)據(jù)底座,是配合的關(guān)系,而非替換和包含關(guān)系。 布式存儲(chǔ)系統(tǒng),采用Scale-out擴(kuò)展架構(gòu),可實(shí)現(xiàn)超大集群規(guī)模的部署。

說到分布式存儲(chǔ),我們先來看一下傳統(tǒng)的存儲(chǔ)是怎么個(gè)樣子。傳統(tǒng)的存儲(chǔ)也稱為集中式存儲(chǔ),從概念上可以看出來是具有集中性的,也就是整個(gè)存儲(chǔ)是集中在一個(gè)系統(tǒng)中的,但集中式存儲(chǔ)并不是一個(gè)單獨(dú)的設(shè)備,是集中在一套系統(tǒng)當(dāng)中的多個(gè)設(shè)備,比如下圖中的EMC存儲(chǔ)就需要幾個(gè)機(jī)柜來存放。在這個(gè)存儲(chǔ)系統(tǒng)中包含很多組件,除了核xin的機(jī)頭(控制器)、磁盤陣列和交換機(jī)等設(shè)備外,還有管理設(shè)備等輔助設(shè)備。結(jié)構(gòu)中包含一個(gè)機(jī)頭,這個(gè)是存儲(chǔ)系統(tǒng)中為核xin的部件。通常在機(jī)頭中有包含兩個(gè)控制器,互為備用,避免硬件故障導(dǎo)致整個(gè)存儲(chǔ)系統(tǒng)的不可用。 分布式存儲(chǔ)在數(shù)據(jù)治理過程中的定位。南京聯(lián)想分布式存儲(chǔ)系統(tǒng)原理解析

分布式存儲(chǔ)的基本理論。浙江大規(guī)模分布式存儲(chǔ)

    分布式存儲(chǔ)的興起與互聯(lián)網(wǎng)的發(fā)展密不可分,互聯(lián)網(wǎng)公司由于其數(shù)據(jù)量大而資本積累少,而通常都使用大規(guī)模分布式存儲(chǔ)系統(tǒng)。與傳統(tǒng)的高duan服務(wù)器、高duan存儲(chǔ)器和高duan處理器不同的是,互聯(lián)網(wǎng)公司的分布式存儲(chǔ)系統(tǒng)由數(shù)量眾多的、低成本和高性價(jià)比的普通PC服務(wù)器通過網(wǎng)絡(luò)連接而成。其主要原因有以下三點(diǎn)(1)互聯(lián)網(wǎng)的業(yè)務(wù)發(fā)展很快,而且注意成本消耗,這就使得存儲(chǔ)系統(tǒng)不能依靠傳統(tǒng)的縱向擴(kuò)展的方式,即先買小型機(jī),不夠時(shí)再買中型機(jī),甚至大型機(jī)?;ヂ?lián)網(wǎng)后端的分布式系統(tǒng)要求支持橫向擴(kuò)展,即通過增加普通PC服務(wù)器來提高系統(tǒng)的整體處理能力。(2)普通PC服務(wù)器性價(jià)比高,故障率也高,需要在軟件層面實(shí)現(xiàn)自動(dòng)容錯(cuò),保證數(shù)據(jù)的一致性。(3)另外,隨著服務(wù)器的不斷加入,需要能夠在軟件層面實(shí)現(xiàn)自動(dòng)負(fù)載均衡,使得系統(tǒng)的處理能力得到線性擴(kuò)展。 浙江大規(guī)模分布式存儲(chǔ)

江蘇魏晉元興智能科技有限公司是一家智能技術(shù)、計(jì)算機(jī)技術(shù)研發(fā)、技術(shù)咨詢,技術(shù)轉(zhuǎn)讓:軟件開 發(fā)、銷售;信息系統(tǒng)集成服務(wù):機(jī)電產(chǎn)品、計(jì)算機(jī)及配件、 電線電纜、儀器儀表、電子元器件、機(jī)械設(shè)備、機(jī)電設(shè)備 節(jié)能設(shè)備、辦公用品、攝影器材、文化用品、通訊設(shè)備、體 育器材、消防器材銷售;綜合布線工程、水電工程、園林綠 化工程、室內(nèi)裝飾工程、土石方工程設(shè)計(jì)、施工,提供勞務(wù) 服務(wù);企業(yè)形象策劃:企業(yè)管理咨詢:家用電器銷售、維 修;文化藝術(shù)交流活動(dòng)組織、 策劃。( 依法須經(jīng)批準(zhǔn)的項(xiàng) 目,經(jīng)相關(guān)部門批準(zhǔn)后方可開展經(jīng)營活動(dòng))的公司,是一家集研發(fā)、設(shè)計(jì)、生產(chǎn)和銷售為一體的專業(yè)化公司。魏晉元興智能作為智能技術(shù)、計(jì)算機(jī)技術(shù)研發(fā)、技術(shù)咨詢,技術(shù)轉(zhuǎn)讓:軟件開 發(fā)、銷售;信息系統(tǒng)集成服務(wù):機(jī)電產(chǎn)品、計(jì)算機(jī)及配件、 電線電纜、儀器儀表、電子元器件、機(jī)械設(shè)備、機(jī)電設(shè)備 節(jié)能設(shè)備、辦公用品、攝影器材、文化用品、通訊設(shè)備、體 育器材、消防器材銷售;綜合布線工程、水電工程、園林綠 化工程、室內(nèi)裝飾工程、土石方工程設(shè)計(jì)、施工,提供勞務(wù) 服務(wù);企業(yè)形象策劃:企業(yè)管理咨詢:家用電器銷售、維 修;文化藝術(shù)交流活動(dòng)組織、 策劃。( 依法須經(jīng)批準(zhǔn)的項(xiàng) 目,經(jīng)相關(guān)部門批準(zhǔn)后方可開展經(jīng)營活動(dòng))的企業(yè)之一,為客戶提供良好的網(wǎng)絡(luò)安全,VR,MR,VR,AI,視頻監(jiān)控安防,出入口門禁失控制。魏晉元興智能不斷開拓創(chuàng)新,追求出色,以技術(shù)為先導(dǎo),以產(chǎn)品為平臺(tái),以應(yīng)用為重點(diǎn),以服務(wù)為保證,不斷為客戶創(chuàng)造更高價(jià)值,提供更優(yōu)服務(wù)。魏晉元興智能始終關(guān)注數(shù)碼、電腦市場,以敏銳的市場洞察力,實(shí)現(xiàn)與客戶的成長共贏。