上海聯(lián)想分布式存儲原理

來源: 發(fā)布時間:2021-12-06

分布式存儲架構(gòu)由三個部分組成:客戶端、元數(shù)據(jù)服務(wù)器和數(shù)據(jù)服務(wù)器??蛻舳素?fù)責(zé)發(fā)送讀寫請求,緩存文件元數(shù)據(jù)和文件數(shù)據(jù)。元數(shù)據(jù)服務(wù)器負(fù)責(zé)管理元數(shù)據(jù)和處理客戶端的請求,是整個系統(tǒng)的核xin組件。數(shù)據(jù)服務(wù)器負(fù)責(zé)存放文件數(shù)據(jù),保證數(shù)據(jù)的可用性和完整性。該架構(gòu)的好處是性能和容量能夠同時拓展,系統(tǒng)規(guī)模具有很強(qiáng)的伸縮性。分布式存儲分為文件存儲、對象存儲和塊存儲,但它們?nèi)N存儲方式的基本架構(gòu)都是大同小異的。即客戶端或應(yīng)用端、元數(shù)據(jù)(MDS)服務(wù)器和數(shù)據(jù)節(jié)點服務(wù)器。客戶端和元數(shù)據(jù)服務(wù)器之間交互是“信令交互”,而客戶端到數(shù)據(jù)節(jié)點是“媒體交互”。元數(shù)據(jù)服務(wù)器或通過數(shù)據(jù)節(jié)點服務(wù)器獲取各節(jié)點服務(wù)器的基本配置情況和狀態(tài)信息。 淺談分布式存儲中的網(wǎng)絡(luò)通信。上海聯(lián)想分布式存儲原理

自誕生以來,分布式存儲就被視為存儲的未來,被萬眾期待。然而分布式存儲起步于寒門,早應(yīng)用于互聯(lián)網(wǎng)日志、企業(yè)備份歸檔、開發(fā)測試等場景,追求極zhi成本,性能和可靠性卻不敢恭維。但它還算爭氣,憑借多年的打怪練級,越來越多地開始承載自動駕駛研發(fā)、超高清編輯、運營商5G網(wǎng)絡(luò)云等企業(yè)的關(guān)鍵業(yè)務(wù),走上變成高富帥、贏取白富美的道路。正所謂人紅是非多,存儲領(lǐng)域也是一樣,坊間一直流傳著關(guān)于分布式存儲的各種流言蜚語。好事的筆者現(xiàn)今就來探尋一番,揭開謊言背后的真相。 無錫魏晉元興分布式存儲原理分布式存儲將如何挑戰(zhàn)互聯(lián)網(wǎng)巨頭?

    分布式存儲早期主要用于互聯(lián)網(wǎng)日志、企業(yè)備份歸檔、開發(fā)測試等場景,這些場景無疑是低價值場景,成本是第yi訴求甚至訴求。然此一時彼一時,士別三日也當(dāng)刮目相看。首先是分布式存儲產(chǎn)品能力已今非昔比,逐漸具備了承載企業(yè)高價值業(yè)務(wù)的關(guān)鍵能力,例如毫秒級時延、TB/s級帶寬、雙活/3DC業(yè)務(wù)級容災(zāi)、端到端DIF等,無論是結(jié)構(gòu)化數(shù)據(jù)還是非結(jié)構(gòu)化數(shù)據(jù)的承載,功能完備性的比較大短板早已補(bǔ)齊。其次,分布式存儲已走入眾多高價值關(guān)鍵業(yè)務(wù),如運營商BOM業(yè)務(wù)、金融渠道類業(yè)務(wù)以及超算、油藏探測HPC等高價值業(yè)務(wù),通過大規(guī)模應(yīng)用實踐來檢驗成色。(小道消息,某些高價值場景全閃出貨價達(dá)到1000美金/TB以上啦)看完當(dāng)下還要看看未來,筆者認(rèn)為未來高價值的非結(jié)構(gòu)化數(shù)據(jù)場景,分布式存儲的版圖還會持續(xù)擴(kuò)展。如自動駕駛訓(xùn)練、4K/8K超高清、5G日志留存等場景,對多協(xié)議訪問、極zhi帶寬、擴(kuò)展性訴求強(qiáng)烈,分布式存儲已然成為這些未來業(yè)務(wù)的優(yōu)先架構(gòu)。

    由于異常的存在,分布式存儲系統(tǒng)設(shè)計時往往會將數(shù)據(jù)冗余存儲多份,每一份稱為一個副本)。這樣,當(dāng)某一個節(jié)點出現(xiàn)故障時,可以從其他副本上讀到數(shù)據(jù)??梢赃@么認(rèn)為,副本是分布式存儲系統(tǒng)容錯技術(shù)的手段。由于多個副本的存在,如何保證副本之間的一致性是整個分布式系統(tǒng)的理論核xin。數(shù)據(jù)一致性這個單詞在平常開發(fā)中,或者各種文章中都能經(jīng)??匆?,我們常常聽見什么東西數(shù)據(jù)不一致了,造成了一定的損失,趕快修復(fù)一下。那有幾種一致性呢?a、時間一致性:要求所有數(shù)據(jù)組件的數(shù)據(jù)在任意時刻都是完全一致的;b、事物一致性:事務(wù)一致性只能存在在事務(wù)開始前的和事務(wù)完成之后,在事務(wù)過程中數(shù)據(jù)有可能不一致,比如A轉(zhuǎn)100元給B,A扣減100,B加上100,在事務(wù)開始前和事務(wù)完成之后都能保證他們的帳是對上的,那么這就是事務(wù)一致性。但是在事務(wù)過程中有可能會出現(xiàn)A扣減了100元,B沒有加上100元的情況,這就是不一致c、在應(yīng)用程序中涉及多個不同的單機(jī)事務(wù),只有在所有的單機(jī)事務(wù)完成之前和完成之后,數(shù)據(jù)是完全一致的。 分布式存儲是未來數(shù)字產(chǎn)業(yè)生態(tài)系統(tǒng)構(gòu)建與新基建的重要引擎。

無論如何波折,分布式存儲未來可期:正所謂不管白貓、黑貓,抓到老鼠的就是好貓。我們相信在較長一段時間內(nèi),分布式存儲軟硬件一體和軟硬件解耦會長期共存。總體而言,筆者認(rèn)為隨著數(shù)據(jù)價值的增高,場景對數(shù)據(jù)可靠性的要求隨之會越來越嚴(yán)苛,市場的天平就會更多偏向軟硬件一體;與此相反,場景對數(shù)據(jù)可靠性的敏感度越低、短期成本敏感度越高,市場的天平就會更多的偏向軟硬件解耦。分布式存儲的發(fā)展歷程無論如何波折,我們更愿意相信它終會是部正劇,在整個存儲市場中占據(jù)海量數(shù)據(jù)承載的主力軍位置,鏗鏘而立,并給人以無窮回味!分布式存儲是未來趨勢。南京大規(guī)模分布式存儲系統(tǒng)原理

常見的幾種分布式存儲以及應(yīng)用場景。上海聯(lián)想分布式存儲原理

    那么現(xiàn)在問題來了,如果我們要選擇分布式存儲,選擇哪種好呢?其實它們各有各的優(yōu)勢和使用場景,具體要看需求。(1)HDFS:主要用于大數(shù)據(jù)的存儲場景,是Hadoop大數(shù)據(jù)架構(gòu)中的存儲組件。HDFS在開始設(shè)計的時候,就已經(jīng)明確的它的應(yīng)用場景,就是大數(shù)據(jù)服務(wù)。(2)Ceph:目前應(yīng)用廣的開源分布式存儲系統(tǒng),已得到眾多廠商的支持,許多超融合系統(tǒng)的分布式存儲都是基于Ceph深度定制。而且Ceph已經(jīng)成為LINUX系統(tǒng)和OpenStack的“標(biāo)配”,用于支持各自的存儲系統(tǒng)。Ceph可以提供對象存儲、塊設(shè)備存儲和文件系統(tǒng)存儲服務(wù)。同時支持三種不同類型的存儲服務(wù)的特性,在分布式存儲系統(tǒng)中,是很少見的。(3)Swift:主要面向的是對象存儲。和Ceph提供的對象存儲服務(wù)類似。主要用于解決非結(jié)構(gòu)化數(shù)據(jù)存儲問題。它和Ceph的對象存儲服務(wù)的主要區(qū)別是。 上海聯(lián)想分布式存儲原理

江蘇魏晉元興智能科技有限公司致力于數(shù)碼、電腦,是一家貿(mào)易型公司。魏晉元興智能致力于為客戶提供良好的網(wǎng)絡(luò)安全,VR,MR,VR,AI,視頻監(jiān)控安防,出入口門禁失控制,一切以用戶需求為中心,深受廣大客戶的歡迎。公司從事數(shù)碼、電腦多年,有著創(chuàng)新的設(shè)計、強(qiáng)大的技術(shù),還有一批獨立的專業(yè)化的隊伍,確保為客戶提供良好的產(chǎn)品及服務(wù)。魏晉元興智能秉承“客戶為尊、服務(wù)為榮、創(chuàng)意為先、技術(shù)為實”的經(jīng)營理念,全力打造公司的重點競爭力。