合肥大道云行分布式存儲(chǔ)系統(tǒng)架構(gòu)

什么是分布式存儲(chǔ)呢？如果一個(gè)存儲(chǔ)系統(tǒng)，不管是對(duì)象、塊、文件、kv、log、olap、oltp，只要對(duì)所管理的數(shù)據(jù)做了Partitioning&Replication，不管姿勢(shì)對(duì)不對(duì)，其實(shí)都可以歸納于分布式存儲(chǔ)。分布式存儲(chǔ)就是：Partitioning以多機(jī)scale，Replication以災(zāi)備容錯(cuò)。復(fù)制是解決可用性，可擴(kuò)展性和高性能的關(guān)鍵。為了災(zāi)備，數(shù)據(jù)需要冗余存儲(chǔ)；為了高可用，服務(wù)需要hotstandby。缺乏災(zāi)備的系統(tǒng)難以在生產(chǎn)環(huán)境使用。元數(shù)據(jù)和數(shù)據(jù)的維護(hù)均離不開(kāi)復(fù)制，復(fù)制可轉(zhuǎn)移而不可消除。復(fù)制引出了多副本一致性問(wèn)題，而一致性保證需要考慮各種軟件和硬件故障，以及誤操作。 萬(wàn)萬(wàn)沒(méi)想到,分布式存儲(chǔ)系統(tǒng)的一致性是......！合肥大道云行分布式存儲(chǔ)系統(tǒng)架構(gòu)

    分布式存儲(chǔ)的興起與互聯(lián)網(wǎng)的發(fā)展密不可分，互聯(lián)網(wǎng)公司由于其數(shù)據(jù)量大而資本積累少，而通常都使用大規(guī)模分布式存儲(chǔ)系統(tǒng)。與傳統(tǒng)的高duan服務(wù)器、高duan存儲(chǔ)器和高duan處理器不同的是，互聯(lián)網(wǎng)公司的分布式存儲(chǔ)系統(tǒng)由數(shù)量眾多的、低成本和高性?xún)r(jià)比的普通PC服務(wù)器通過(guò)網(wǎng)絡(luò)連接而成。其主要原因有以下三點(diǎn)（1）互聯(lián)網(wǎng)的業(yè)務(wù)發(fā)展很快，而且注意成本消耗，這就使得存儲(chǔ)系統(tǒng)不能依靠傳統(tǒng)的縱向擴(kuò)展的方式，即先買(mǎi)小型機(jī)，不夠時(shí)再買(mǎi)中型機(jī)，甚至大型機(jī)。互聯(lián)網(wǎng)后端的分布式系統(tǒng)要求支持橫向擴(kuò)展，即通過(guò)增加普通PC服務(wù)器來(lái)提高系統(tǒng)的整體處理能力。（2）普通PC服務(wù)器性?xún)r(jià)比高，故障率也高，需要在軟件層面實(shí)現(xiàn)自動(dòng)容錯(cuò)，保證數(shù)據(jù)的一致性。（3）另外，隨著服務(wù)器的不斷加入，需要能夠在軟件層面實(shí)現(xiàn)自動(dòng)負(fù)載均衡，使得系統(tǒng)的處理能力得到線性擴(kuò)展。 徐州魏晉元興分布式存儲(chǔ)系統(tǒng)架構(gòu)分布式存儲(chǔ)不僅是存儲(chǔ),而是下一代互聯(lián)網(wǎng)。

    軟硬件解耦的分布式存儲(chǔ)在性能設(shè)計(jì)上存在兩大天然缺陷：標(biāo)準(zhǔn)服務(wù)器不具備機(jī)房突然斷電時(shí)保護(hù)內(nèi)存數(shù)據(jù)的電池（BBU），所以只能用SSD卡/盤(pán)來(lái)做數(shù)據(jù)緩存。SSD的時(shí)延遠(yuǎn)高于內(nèi)存，導(dǎo)致業(yè)界絕大多數(shù)的軟硬解耦的分布式存儲(chǔ)時(shí)延無(wú)法和生產(chǎn)存儲(chǔ)媲美。單獨(dú)采購(gòu)的分布式存儲(chǔ)軟件無(wú)法和第三方服務(wù)器的SSD盤(pán)緊密配合，從而無(wú)法像業(yè)界先進(jìn)的全閃存存儲(chǔ)一樣實(shí)現(xiàn)全局垃圾回收，控制數(shù)量眾多的SSD盤(pán)各自的垃圾回收導(dǎo)致的生產(chǎn)應(yīng)用時(shí)延波動(dòng)。軟硬件一體的分布式存儲(chǔ)有機(jī)會(huì)克服如上兩大缺陷。我們看到業(yè)界先進(jìn)的分布式存儲(chǔ)產(chǎn)品，采用了類(lèi)似于全閃存存儲(chǔ)的電池保護(hù)（BBU）、系統(tǒng)級(jí)全局垃圾回收，達(dá)到了媲美傳統(tǒng)生產(chǎn)存儲(chǔ)的高并發(fā)壓力下的1ms穩(wěn)定時(shí)延，從而為分布式存儲(chǔ)進(jìn)入企業(yè)生產(chǎn)應(yīng)用提供了性能的SLA保障。

    得益于合理的分布式架構(gòu)，分布式存儲(chǔ)可預(yù)估并且彈性擴(kuò)展計(jì)算、存儲(chǔ)容量和性能。分布式存儲(chǔ)的水平擴(kuò)展有以下幾個(gè)特性：1)節(jié)點(diǎn)擴(kuò)展后，舊數(shù)據(jù)會(huì)自動(dòng)遷移到新節(jié)點(diǎn)，實(shí)現(xiàn)負(fù)載均衡，避點(diǎn)過(guò)熱的情況出現(xiàn);2)水平擴(kuò)展只需要將新節(jié)點(diǎn)和原有集群連接到同一網(wǎng)絡(luò)，整個(gè)過(guò)程不會(huì)對(duì)業(yè)務(wù)造成影響;3)當(dāng)節(jié)點(diǎn)被添加到集群，集群系統(tǒng)的整體容量和性能也隨之線性擴(kuò)展，此后新節(jié)點(diǎn)的資源就會(huì)被管理平臺(tái)接管，被用于分配或者回收。隨著分布式存儲(chǔ)的發(fā)展，存儲(chǔ)行業(yè)的標(biāo)準(zhǔn)化進(jìn)程也不斷推進(jìn)，分布式存儲(chǔ)優(yōu)先采用行業(yè)標(biāo)準(zhǔn)接口進(jìn)行存儲(chǔ)接入。在平臺(tái)層面，通過(guò)將異構(gòu)存儲(chǔ)資源進(jìn)行抽象化，將傳統(tǒng)的存儲(chǔ)設(shè)備級(jí)的操作封裝成面向存儲(chǔ)資源的操作，從而簡(jiǎn)化異構(gòu)存儲(chǔ)基礎(chǔ)架構(gòu)的操作，以實(shí)現(xiàn)存儲(chǔ)資源的集中管理，并能夠自動(dòng)執(zhí)行創(chuàng)建、變更、回收等整個(gè)存儲(chǔ)生命周期流程，從而降低了存儲(chǔ)采購(gòu)和管理成本。 超大規(guī)模時(shí)空數(shù)據(jù)的分布式存儲(chǔ)與應(yīng)用。

為了保證分布式存儲(chǔ)系統(tǒng)的高可靠和高可用，數(shù)據(jù)在系統(tǒng)中一般存儲(chǔ)多個(gè)副本。當(dāng)某個(gè)副本所在的存儲(chǔ)節(jié)點(diǎn)出現(xiàn)故障時(shí)，分布式存儲(chǔ)系統(tǒng)能夠自動(dòng)將服務(wù)切換到其他的副本，從而實(shí)現(xiàn)自動(dòng)容錯(cuò)。分布式存儲(chǔ)系統(tǒng)通過(guò)復(fù)制協(xié)議將數(shù)據(jù)同步到多個(gè)存儲(chǔ)節(jié)點(diǎn)，并確保多個(gè)副本之間的數(shù)據(jù)一致性。客戶(hù)端將寫(xiě)請(qǐng)求發(fā)送給主副本，主副本將寫(xiě)請(qǐng)求復(fù)制到其他備副本，常見(jiàn)的做法是同步操作日志（CommitLog）。主副本首先將操作日志同步到備副本，備副本回放操作日志，完成后通知主副本。接著，主副本修改本機(jī)，等到所有的操作都完成后再通知客戶(hù)端寫(xiě)成功。下圖中的復(fù)制協(xié)議要求主備同步成功才可以返回客戶(hù)端寫(xiě)成功，這種協(xié)議稱(chēng)為強(qiáng)同步協(xié)議。 布式存儲(chǔ)幫助企業(yè)打造智能化的數(shù)據(jù)治理平臺(tái)。鎮(zhèn)江大道云行分布式存儲(chǔ)系統(tǒng)架構(gòu)

分布式存儲(chǔ)系統(tǒng)通過(guò)復(fù)制協(xié)議將數(shù)據(jù)同步到多個(gè)存儲(chǔ)節(jié)點(diǎn)，并確保多個(gè)副本之間的數(shù)據(jù)一致性。合肥大道云行分布式存儲(chǔ)系統(tǒng)架構(gòu)

分布式存儲(chǔ)包含的種類(lèi)繁多，除了傳統(tǒng)意義上的分布式文件系統(tǒng)、分布式塊存儲(chǔ)和分布式對(duì)象存儲(chǔ)外，還包括分布式數(shù)據(jù)庫(kù)和分布式緩存等，但其中架構(gòu)無(wú)外乎于三種；以Ceph為代biao的架構(gòu)是其典型的代biao。在該架構(gòu)中與HDFS不同的地方在于該架構(gòu)中沒(méi)有中心節(jié)點(diǎn)?？蛻?hù)端是通過(guò)一個(gè)設(shè)備映射關(guān)系計(jì)算出來(lái)其寫(xiě)入數(shù)據(jù)的位置，這樣客戶(hù)端可以直接與存儲(chǔ)節(jié)點(diǎn)通信，從而避免中心節(jié)點(diǎn)的性能瓶頸。以Ceph為代biao的架構(gòu)是其典型的代biao。在該架構(gòu)中與HDFS不同的地方在于該架構(gòu)中沒(méi)有中心節(jié)點(diǎn)?？蛻?hù)端是通過(guò)一個(gè)設(shè)備映射關(guān)系計(jì)算出來(lái)其寫(xiě)入數(shù)據(jù)的位置，這樣客戶(hù)端可以直接與存儲(chǔ)節(jié)點(diǎn)通信，從而避免中心節(jié)點(diǎn)的性能瓶頸。 合肥大道云行分布式存儲(chǔ)系統(tǒng)架構(gòu)

江蘇魏晉元興智能科技有限公司致力于數(shù)碼、電腦，是一家貿(mào)易型公司。公司業(yè)務(wù)分為網(wǎng)絡(luò)安全，VR,MR，VR，AI，視頻監(jiān)控安防，出入口門(mén)禁失控制等，目前不斷進(jìn)行創(chuàng)新和服務(wù)改進(jìn)，為客戶(hù)提供良好的產(chǎn)品和服務(wù)。公司從事數(shù)碼、電腦多年，有著創(chuàng)新的設(shè)計(jì)、強(qiáng)大的技術(shù)，還有一批獨(dú)立的專(zhuān)業(yè)化的隊(duì)伍，確保為客戶(hù)提供良好的產(chǎn)品及服務(wù)。在社會(huì)各界的鼎力支持下，持續(xù)創(chuàng)新，不斷鑄造高品質(zhì)服務(wù)體驗(yàn)，為客戶(hù)成功提供堅(jiān)實(shí)有力的支持。