分布式存儲系統(tǒng)一般是由多個(gè)服務(wù)器、網(wǎng)絡(luò)設(shè)備和很多存儲介質(zhì)組成。即使在手動部署測試環(huán)境的時(shí)候,所涉及的系統(tǒng)架構(gòu)也會是比較復(fù)雜的,包括:硬件多樣性。在測試前,需要根據(jù)不同的測試類型采用不同的硬件設(shè)備。譬如硬盤的規(guī)格(SATA盤還是SSD盤),內(nèi)存規(guī)格,以及不同的網(wǎng)絡(luò)類型(TCP/IP,F(xiàn)C,RDMA)等;網(wǎng)絡(luò)要求。分布式系統(tǒng)的特點(diǎn)決定了測試環(huán)境可能運(yùn)行在多個(gè)服務(wù)器、多個(gè)機(jī)架,甚至是多個(gè)數(shù)據(jù)中心上。在測試前,需要模擬構(gòu)建出所需要的網(wǎng)絡(luò)帶寬和時(shí)延要求;配置復(fù)雜性。由于設(shè)計(jì)的軟硬件平臺非常多,整個(gè)系統(tǒng)的可配置參數(shù)就非常多,整個(gè)配置過程耗時(shí)長且容易出錯(cuò)。存儲系統(tǒng)通常采用多層不同性價(jià)比的存儲器件組成存儲層次結(jié)構(gòu)。虹口區(qū)存儲服務(wù)項(xiàng)目信息
分布式存儲又稱去中心化存儲,要理解它,首先我們需要了解中心化存儲。中心化存儲,從概念上可以看出來是具有集中性的,也就是整個(gè)存儲是集中在一個(gè)系統(tǒng)中的,但集中式存儲并不是一個(gè)單獨(dú)的設(shè)備,是集中在一套系統(tǒng)當(dāng)中的多個(gè)設(shè)備。這個(gè)存儲設(shè)備雖然可以縱向擴(kuò)展,但還是共享同一個(gè)機(jī)頭,設(shè)備本身會成為系統(tǒng)性能的瓶頸,同時(shí)也是系統(tǒng)可靠性和安全性的焦點(diǎn),無法滿足大規(guī)模存儲應(yīng)用的需要。在這個(gè)存儲系統(tǒng)中包含很多組件,除了關(guān)鍵的機(jī)頭(控制器)、磁盤陣列(JBOD)和交換機(jī)等設(shè)備外,還有管理設(shè)備等輔助設(shè)備。虹口區(qū)存儲服務(wù)項(xiàng)目信息一個(gè)令人滿意的情況是,當(dāng)一個(gè)網(wǎng)絡(luò)因?yàn)楣收隙纸鉃槎鄠€(gè)部分的時(shí)候,分布式存儲系統(tǒng)仍然能夠工作。
分布式存儲概念:與目前常見的集中式存儲技術(shù)不同,分布式存儲技術(shù)并不是將數(shù)據(jù)存儲在某個(gè)或多個(gè)特定的節(jié)點(diǎn)上,而是通過網(wǎng)絡(luò)使用企業(yè)中的每臺機(jī)器上的磁盤空間,并將這些分散的存儲資源構(gòu)成一個(gè)虛擬的存儲設(shè)備,數(shù)據(jù)分散的存儲在企業(yè)的各個(gè)角落。分布式存儲通過網(wǎng)絡(luò)連接的大量的普通服務(wù)器,將數(shù)據(jù)分片分散在集群中的不同節(jié)點(diǎn)(服務(wù)器或進(jìn)程)中,對外提供統(tǒng)一的服務(wù)。存儲系統(tǒng)是指計(jì)算機(jī)中由存放程序和數(shù)據(jù)的各種存儲設(shè)備、控制部件及管理信息調(diào)度的設(shè)備(硬件)和算法(軟件)所組成的系統(tǒng)。
存儲系統(tǒng)主要由元數(shù)據(jù)節(jié)點(diǎn)集群、智能存儲節(jié)點(diǎn)集群兩大部分組成,存儲節(jié)點(diǎn)和元數(shù)據(jù)節(jié)點(diǎn)也可以二合一,使用同一臺設(shè)備。元數(shù)據(jù)節(jié)點(diǎn)集群:管理文件系統(tǒng)的元數(shù)據(jù)(包括文件目錄樹組織、屬性維護(hù)、文件操作日志記錄、授權(quán)訪問等),管理整個(gè)存儲系統(tǒng)的命名空間,對外提供單一的系統(tǒng)映像;智能存儲節(jié)點(diǎn)集群:存儲用戶的實(shí)際數(shù)據(jù),是整個(gè)存儲系統(tǒng)的存儲資源提供者。分布式存儲往往采用分布式的系統(tǒng)結(jié)構(gòu),利用多臺存儲服務(wù)器分擔(dān)存儲負(fù)荷,利用位置服務(wù)器定位存儲信息。它不但提高了系統(tǒng)的可靠性、可用性和存取效率,還易于擴(kuò)展,將通用硬件引入的不穩(wěn)定因素降到低。傳統(tǒng)數(shù)據(jù)存儲模型需要支持盡可能多的應(yīng)用,因此需要具備較好的通用性。
分布式存儲系統(tǒng)彈性擴(kuò)展技術(shù):在大數(shù)據(jù)環(huán)境下,數(shù)據(jù)規(guī)模和復(fù)雜度的增加往往非常迅速,對系統(tǒng)的擴(kuò)展性能要求較高。實(shí)現(xiàn)存儲系統(tǒng)的高可擴(kuò)展性首先要解決兩個(gè)方面的重要問題,包含元數(shù)據(jù)的分配和數(shù)據(jù)的透明遷移。元數(shù)據(jù)的分配主要通過靜態(tài)子樹劃分技術(shù)實(shí)現(xiàn),后者則側(cè)重?cái)?shù)據(jù)遷移算法的優(yōu)化。此外,大數(shù)據(jù)存儲體系規(guī)模龐大.結(jié)點(diǎn)失效率高,因此還需要完成一定的自適應(yīng)管理功能。系統(tǒng)必須能夠根據(jù)數(shù)據(jù)量和計(jì)算的工作量估算所需要的結(jié)點(diǎn)個(gè)數(shù),并動態(tài)地將數(shù)據(jù)在結(jié)點(diǎn)間遷移。以實(shí)現(xiàn)負(fù)載均衡;同時(shí).結(jié)點(diǎn)失效時(shí),數(shù)據(jù)必須可以通過副本等機(jī)制進(jìn)行恢復(fù),不能對上層應(yīng)用產(chǎn)生影響。大部分系統(tǒng)為單層結(jié)構(gòu),在系統(tǒng)中對每個(gè)數(shù)據(jù)分票維護(hù)多個(gè)副本。紹興數(shù)據(jù)存儲服務(wù)
分布式存儲將成為互聯(lián)網(wǎng)的基礎(chǔ)設(shè)施:在傳統(tǒng)互聯(lián)網(wǎng)的數(shù)據(jù)訪問模式上,是依賴于http協(xié)議進(jìn)行數(shù)據(jù)交互的。虹口區(qū)存儲服務(wù)項(xiàng)目信息
分布式塊存儲:塊存儲在SAN和分布式存儲中是邏輯概念,一個(gè)共享的硬件基礎(chǔ)設(shè)施上的抽象邏輯設(shè)備,其創(chuàng)建和存在于服務(wù)器、虛擬服務(wù)器、或運(yùn)行在基于像SCSI、SATA、SAS、FCP、FCoE、或iSCSI這樣的協(xié)議的系統(tǒng)管理程序上。硬盤在進(jìn)行RAID劃分后,組成邏輯卷或卷組就可以分配給上層使用了。優(yōu)點(diǎn):1)有相關(guān)數(shù)據(jù)保護(hù)手段;2)性能較高,有多個(gè)物理盤組成一個(gè)邏輯卷,可以并行讀寫。分布式對象存儲:對象存儲作為讀寫快、便于共享的特點(diǎn),其盡量避免塊存儲讀寫快但不利于共享的問題以及文件存儲利于共享但讀寫性能不足的問題。通過集中或分散的元數(shù)據(jù),可以實(shí)現(xiàn)對數(shù)據(jù)的并發(fā)訪問;此外,由于對外提供統(tǒng)一的訪問API,也便于對象進(jìn)行數(shù)據(jù)共享。對象存儲的優(yōu)勢場景卻是互聯(lián)網(wǎng)或者公網(wǎng),主要解決海量數(shù)據(jù),海量并發(fā)訪問的需求,此外,移動互聯(lián)網(wǎng)下跨平臺隨時(shí)存取的需求,使用對象存儲十分方便的API就可以隨時(shí)存取。虹口區(qū)存儲服務(wù)項(xiàng)目信息
上海環(huán)秀技術(shù)服務(wù)中心致力于數(shù)碼、電腦,是一家貿(mào)易型的公司。環(huán)秀致力于為客戶提供良好的網(wǎng)絡(luò)科技,電子科技,信息科技領(lǐng)域內(nèi)的技術(shù)開發(fā),計(jì)算機(jī)軟件開發(fā),一切以用戶需求為中心,深受廣大客戶的歡迎。公司注重以質(zhì)量為中心,以服務(wù)為理念,秉持誠信為本的理念,打造數(shù)碼、電腦良好品牌。環(huán)秀立足于全國市場,依托強(qiáng)大的研發(fā)實(shí)力,融合前沿的技術(shù)理念,飛快響應(yīng)客戶的變化需求。