紹興大規(guī)模分布式存儲的一般架構(gòu)

來源: 發(fā)布時間:2021-10-31

分布式存儲分為文件存儲、對象存儲和塊存儲,但它們?nèi)N存儲方式的基本架構(gòu)都是大同小異的。即客戶端或應(yīng)用端、元數(shù)據(jù)(MDS)服務(wù)器和數(shù)據(jù)節(jié)點服務(wù)器。客戶端和元數(shù)據(jù)服務(wù)器之間交互是“信令交互”,而客戶端到數(shù)據(jù)節(jié)點是“媒體交互”。元數(shù)據(jù)服務(wù)器或通過數(shù)據(jù)節(jié)點服務(wù)器獲取各節(jié)點服務(wù)器的基本配置情況和狀態(tài)信息。比如,客戶端需要讀取某一個文件的信息,客戶端會將相應(yīng)的要求發(fā)給元數(shù)據(jù)服務(wù)器:“喂!我需要XXX,存在哪里了”,元數(shù)據(jù)服務(wù)器查詢后回答“你到xxx服務(wù)器的xxx地址+xxx服務(wù)器的xxx地址取”。客戶端拿到這個指示后,向這2臺服務(wù)器發(fā)出指令,數(shù)據(jù)節(jié)點獲得指令后,將相應(yīng)的數(shù)據(jù)返回給客戶端。 分布式存儲是未來趨勢。紹興大規(guī)模分布式存儲的一般架構(gòu)

什么是分布式存儲呢?如果一個存儲系統(tǒng),不管是對象、塊、文件、kv、log、olap、oltp,只要對所管理的數(shù)據(jù)做了Partitioning&Replication,不管姿勢對不對,其實都可以歸納于分布式存儲。分布式存儲就是:Partitioning以多機(jī)scale,Replication以災(zāi)備容錯。復(fù)制是解決可用性,可擴(kuò)展性和高性能的關(guān)鍵。為了災(zāi)備,數(shù)據(jù)需要冗余存儲;為了高可用,服務(wù)需要hotstandby。缺乏災(zāi)備的系統(tǒng)難以在生產(chǎn)環(huán)境使用。元數(shù)據(jù)和數(shù)據(jù)的維護(hù)均離不開復(fù)制,復(fù)制可轉(zhuǎn)移而不可消除。復(fù)制引出了多副本一致性問題,而一致性保證需要考慮各種軟件和硬件故障,以及誤操作。 紹興大規(guī)模分布式存儲的一般架構(gòu)分布式存儲能夠?qū)崿F(xiàn)內(nèi)容感知,配合前端應(yīng)用對海量數(shù)據(jù)進(jìn)行大數(shù)據(jù)分析和價值挖掘。

很多人可能從來沒有考慮過這個問題,為什么需要分布式存儲?實際上,使用分布式存儲是“被迫”的,因為隨著互聯(lián)網(wǎng)的飛速發(fā)展、應(yīng)用越來越豐富、用戶數(shù)量越來越多、數(shù)據(jù)也成幾何級增長,海量數(shù)據(jù)的存儲給本地存儲帶了巨大壓力,存儲系統(tǒng)已經(jīng)不堪重負(fù),處于崩潰的邊緣,因此,必須通過其他手段分散存儲系統(tǒng)壓力,分布式存儲和分布式文件系統(tǒng)應(yīng)運而生。實際上,如果可能,應(yīng)該是盡量不使用分布式的,因為這會增加系統(tǒng)的復(fù)雜度和管理難度,然而,雖然是這樣,但這些終歸是可以通過其他技術(shù)來解決,而如果不使用分布式,系統(tǒng)的可用性、穩(wěn)定性都無法保證,更談不上系統(tǒng)的高性能了。因此,說分布式是被迫使用的,一點也不夸張。

目測分布式存儲領(lǐng)域有兩個派系,一派是SDS(軟件定義存儲),一派是軟硬一體。前者以vSAN、Ceph為代biao,以軟件廠商為主在推廣。分布式存儲軟件+通用服務(wù)器組合,打著重定義存儲市場的旗幟,頗有“有王侯將相寧有種乎”的氣勢;另一派是存儲老牌存儲玩家的產(chǎn)品,他們以軟硬一體為主,如Isilon、HCP等。誰主沉浮很難判斷,不過我們不妨從產(chǎn)業(yè)動態(tài)窺見一斑。雖然用過的客戶都詬病分布式存儲軟件+服務(wù)器的方式存在各種兼容性、可靠性、可維護(hù)性的問題,但筆者認(rèn)為SDS這種模式會長期存在,尤其是在傳統(tǒng)的低端領(lǐng)域,如備份歸檔、開發(fā)測試環(huán)境。而越往高duan走,軟硬一體越是占據(jù)主流。業(yè)界主流廠商也在持續(xù)推出軟硬一體的產(chǎn)品: 分布式存儲在數(shù)據(jù)治理過程中的優(yōu)勢。

    一般分布式存儲的MDC采用的是數(shù)據(jù)庫或內(nèi)存儲數(shù)據(jù)庫來記錄數(shù)據(jù)塊和物理位置關(guān)系??蛻舳讼騇DC發(fā)出詢問位置的請求,MDC查詢數(shù)據(jù)庫后返回請求數(shù)據(jù)的存儲位置。這種方法存儲訪問的速度較慢,而且MDC作為交通的“樞紐”,是整個存儲的核xin,當(dāng)MDC發(fā)生故障,會導(dǎo)致整個存儲都不能使用。但是采取這個方式,也有好處,比如可以根據(jù)不同需求設(shè)置不同的副本策略等。對象存儲對象存儲是在同樣容量下提供的存儲性能比文件存儲更好,又能像文件存儲一樣有很好的共享性。實際使用中,性能不是對象存儲關(guān)注的問題,需要高性能可以用塊存儲,容量才是對象存儲關(guān)注的問題。所以對象存儲的持久化層的硬盤數(shù)量更多,單盤的容量也更大。對象存儲的數(shù)據(jù)的安全性保障也各式各樣,可以是單機(jī)raid或網(wǎng)絡(luò)raid,也可以副本。Ceph和google基于GFS的存儲就是典型的對象存儲。 可以從兩方面來理解分布式存儲:用戶側(cè)和實現(xiàn)側(cè)。臺州什么是分布式存儲設(shè)備

分布式存儲在企業(yè)數(shù)據(jù)治理體系中,無疑扮演著重要角色。紹興大規(guī)模分布式存儲的一般架構(gòu)

目前中國是全球極大的銷售產(chǎn)品生產(chǎn)區(qū),憑借國內(nèi)區(qū)位及勞動力優(yōu)勢,我國銷售產(chǎn)量處于全球優(yōu)先地位,據(jù)不完全統(tǒng)計,我國行業(yè)產(chǎn)能規(guī)模維持在4000萬臺左右。2017年我國產(chǎn)量3124.12萬臺,2018年我國臺式電腦產(chǎn)量為3197.95萬臺,產(chǎn)量較上年同期增長2.36%。價格逐步下滑是數(shù)碼、電腦市場發(fā)展的必然走勢,要獲得更多的贏利和發(fā)展空間,就必須擴(kuò)大規(guī)模和銷量。為獲得更大的銷量,必然**產(chǎn)品的收入空間,未來數(shù)碼、電腦 市場的收入空間將會日漸縮小,廠商需在其他方面,如產(chǎn)品個性化設(shè)計、附加功能或減少銷售環(huán)節(jié)的收入損耗等方面來拓展收入空間。中國智能技術(shù)、計算機(jī)技術(shù)研發(fā)、技術(shù)咨詢,技術(shù)轉(zhuǎn)讓:軟件開 發(fā)、銷售;信息系統(tǒng)集成服務(wù):機(jī)電產(chǎn)品、計算機(jī)及配件、 電線電纜、儀器儀表、電子元器件、機(jī)械設(shè)備、機(jī)電設(shè)備 節(jié)能設(shè)備、辦公用品、攝影器材、文化用品、通訊設(shè)備、體 育器材、消防器材銷售;綜合布線工程、水電工程、園林綠 化工程、室內(nèi)裝飾工程、土石方工程設(shè)計、施工,提供勞務(wù) 服務(wù);企業(yè)形象策劃:企業(yè)管理咨詢:家用電器銷售、維 修;文化藝術(shù)交流活動組織、 策劃。( 依法須經(jīng)批準(zhǔn)的項 目,經(jīng)相關(guān)部門批準(zhǔn)后方可開展經(jīng)營活動)消費市場個性化和普及化需求,以及產(chǎn)業(yè)鏈技術(shù)的跨越性發(fā)展,將推進(jìn)渠道新一輪整合。在一二級城市,消費者和企業(yè)用戶個性化、碎片化的需求,需要能夠提供多種選擇、整體解決方案和綜合服務(wù)能力的渠道商。隨著智能化不斷的發(fā)展,與思維也越來越接近,能極大可能的滿足人們的需求,網(wǎng)絡(luò)安全,VR,MR,VR,AI,視頻監(jiān)控安防,出入口門禁失控制的發(fā)展己經(jīng)徹底的打破了時間和空間的界限。當(dāng)前網(wǎng)絡(luò)安全,VR,MR,VR,AI,視頻監(jiān)控安防,出入口門禁失控制發(fā)展極高的就是可以模仿思維,但目前還是不可復(fù)制的。紹興大規(guī)模分布式存儲的一般架構(gòu)

江蘇魏晉元興智能科技有限公司位于南京市雨花臺區(qū)大周路32號D2幢北樓3樓-024,交通便利,環(huán)境優(yōu)美,是一家貿(mào)易型企業(yè)。公司致力于為客戶提供安全、質(zhì)量有保證的良好產(chǎn)品及服務(wù),是一家私營有限責(zé)任公司企業(yè)。以滿足顧客要求為己任;以顧客永遠(yuǎn)滿意為標(biāo)準(zhǔn);以保持行業(yè)優(yōu)先為目標(biāo),提供***的網(wǎng)絡(luò)安全,VR,MR,VR,AI,視頻監(jiān)控安防,出入口門禁失控制。魏晉元興智能將以真誠的服務(wù)、創(chuàng)新的理念、***的產(chǎn)品,為彼此贏得全新的未來!