欧美性猛交xxxx免费看_牛牛在线视频国产免费_天堂草原电视剧在线观看免费_国产粉嫩高清在线观看_国产欧美日本亚洲精品一5区

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

采用HDFS技術的云存儲的應用解決方案

電子設計 ? 作者:電子設計 ? 2018-11-15 08:53 ? 次閱讀

海量的高校信息資源需要整合,這是當前不爭的事實,因為高校信息資源存在著資源分布不均衡、更新維護成本高、共享程度低和安全性差等一系列問題。整合需要解決的首要問題就是信息的合理存儲,以便實現對其高效、安全的訪問。與傳統(tǒng)的存儲方式相比,云存儲很好地解決了這個問題。

云存儲(Cloud Storage)是在云計算(Cloud Computing)概念上延伸和發(fā)展出來的一個新的概念,它是指通過集群應用、網格技術或分布式文件系統(tǒng)等功能,將網絡中大量各種不同類型的存儲設備通過應用軟件集合起來協同工作,共同對外提供數據存儲和業(yè)務訪問功能的一個系統(tǒng)。

1 存儲方式的比較

高可靠性:云存儲實現對信息的分布式存儲,信息被切分為多個數據塊分散存儲在云中的節(jié)點中,實現了多副本備份機制,因此安全性要遠高于傳統(tǒng)的單一甚至帶有鏡像服務器的信息存儲方式。

訪問的高效性:云中的控制節(jié)點通過"心跳檢測"不斷地監(jiān)視存儲節(jié)點的狀態(tài),當發(fā)現存儲節(jié)點已經失效時,控制節(jié)點能夠將工作負載交給那些運行正常的存儲節(jié)點來完成。同時,由于云中的數據是分布式的存儲,能夠很好地分擔存儲和訪問的壓力,這些都使得云存儲具有很高訪問的效率。

存儲成本低:原先的信息資源的存儲一般使用專業(yè)的存儲設備,價格不菲,使得資源存儲的成本也隨之提高。而云中的存儲設備都是廉價的商業(yè)機,跟單一的大容量專業(yè)存儲設備相比較,存儲容量更大,存儲成本更低。

管理便捷:云存儲能夠在軟件層做到自動容錯而不依賴硬件本身的容錯,而且將信息資源存儲在云中,有利于對資源進行統(tǒng)一的管理,提高資源的使用率。

另外,云存儲還具有超強的可擴展性、不受具體地理位置所限、基于商業(yè)組件、按照使用收費(如每G收15美分)、可跨不同應用等。所有這些充分體現了云存儲這種方式的優(yōu)越性。

2 基于HDFS的云存儲

2.1 HDFS的引入

目前各大公司都有自己的云存儲產品,如微軟公司的"Windows Live Sky Drive"網絡移動硬盤服務、Google公司的"Google Stora ge"的云計算存儲服務、亞馬遜的Amazon webservices等。

在眾多的云存儲產品技術中,HDFS技術可以實施運行在普通的PC集群上,有效降低存儲成本,該技術是Google文件系統(tǒng)(GFS)的開源實現,是分布式計算開源框架Hadoop的底層實現,Hadoop是Google集群系統(tǒng)的一個開源項目總稱,Google集群系統(tǒng)是使用低成本的成熟技術構建的一個穩(wěn)定、高性能、高可用性、可擴展的系統(tǒng)。Hadoop平臺雖然是一項新興的技術,但它的發(fā)展非常迅速,已開始被應用在企業(yè)、高校、科研機構等各個行業(yè)。文中重點研究HDFS云存儲在高校信息整合中是如何應用的。

2.2 HDFS的理論剖析

Hadoop文件系統(tǒng)(Hadoop Distributed File System,HDFS)雖然和現有的文件系統(tǒng)有相似之處,也是可以運行在普通的硬件之上的分布式文件系統(tǒng),但是HDFS具有高容錯性,可以部署在低成本的硬件之上,可以以流的方式訪問文件數據,從而高吞吐量地對應用程序進行訪問,這些還是和一般的文件系統(tǒng)有區(qū)別的。圖1是HDFS體系結構圖。

采用HDFS技術的云存儲的應用解決方案

圖1 HDFS體系結構圖

研究HDFS的體系結構圖可以得知,名稱節(jié)點上保存這控制數據節(jié)點信息的元數據??蛻舳丝梢酝ㄟ^名稱節(jié)點對元數據進行操作,也可以直接對數據節(jié)點進行讀寫。HDFS體系結構是個主從結構,這個主從結構常由單個的名稱節(jié)點和多個數據節(jié)點組成,名稱節(jié)點負責管理文件命名空間和客戶端訪問的主服務器,而數據節(jié)點則負責對存儲進行管理,下面來剖析一下體系結構各部分的功能。

2.2.1 名稱節(jié)點和數據節(jié)點的功能

名稱節(jié)點的功能包括4個方面:一是管理元數據和文件塊:二是管理文件系統(tǒng)的命名空間,包括記錄文件系統(tǒng)元數據被修改的情況:三是監(jiān)聽客戶端和數據節(jié)點請求和處理這些請求??蛻舳耸录容^復雜,比如名字空間的創(chuàng)建與刪除,文件的創(chuàng)建、刪除和修改等,數據節(jié)點的事件包括文件塊信息變化、心跳響應等:四是心跳檢測。所謂心跳檢測,就是數據節(jié)點會定期將自己的負載情況通過心跳信息向名稱節(jié)點匯報。

數據節(jié)點的功能包括3個方面:一是通過自身服務進程與文件系統(tǒng)客戶端打交道,完成數據塊的讀寫;二是周期性的向名稱節(jié)點發(fā)送信號,報告本節(jié)點的狀態(tài);三是執(zhí)行數據的流水線復制。

2.2.2 元數據和數據交互

HDFS體系結構中有三種類型的元數據保存在名稱節(jié)點的內存中,分別是:文件(包含目錄)的名字空間、文件到文件塊的映射、文件塊的位置信息。這種數據結構對于數據訪問的效率和安全性都有很大的幫助。

HDFS中數據的交互無外乎數據的讀和寫,重點設計的對象就是客戶端、名稱節(jié)點和數據節(jié)點??蛻舳耸紫葟拿Q節(jié)點中讀取對應的文件塊信息,再和數據節(jié)點建立連接并獲取數據,圖2具體描述了數據讀取過程。

采用HDFS技術的云存儲的應用解決方案

圖2HDFS 數據讀取過程

HDFS的數據寫入過程比讀取過程細節(jié)上更為復雜一些,但是模型圖非常類似。除了數據的讀寫,維護數據的可用性和一致性也是系統(tǒng)最基本的要求和重要的功能。一般來說,系統(tǒng)通過數據復制、節(jié)點故障、數據校驗、垃圾回收機制來維護數據的可用性和一致性。

3 HDFS的云存儲應用于整合高校信息資源

3.1 系統(tǒng)分析與設計

目前高校信息資源面臨著空前的海量數據管理難題,存儲數據的成本在不斷增加,而且信息的安全性也亟待提高。因此要借用云存儲這種新的工作模式來解決這個問題。根據高校的特殊情況,結合云存儲的優(yōu)點,要設計一個成功的云存儲案例,需要考慮這么幾個方面:

1)低成本海量存儲 將數據存儲在一般的個人電腦構成的網絡中,并進行合理調配,構成一個有機海量存儲設備。

2)高效率的訪問 數據盡可能的存儲在不同的數據節(jié)點中,當客戶端對信息進行請求時,能高效的回復,并做到并發(fā)。

3)安全性高 每個文件都會有多個副本分別存儲在多個數據節(jié)點上。如果某個數據節(jié)點出現問題,不會發(fā)生文件丟失的現象。

3.2 系統(tǒng)功能設計

高校相對于云存儲系統(tǒng)是一個用戶,而高校內部有多個部門,相對于云存儲系統(tǒng)的用戶高校來說是一個子用戶。云存儲系統(tǒng)能夠創(chuàng)建、管理、維護高校云存儲用戶;高校云用戶能夠創(chuàng)建、管理、維護各部門子用戶。而子用戶才是真正的終端信息存儲用戶,他們上傳、下載、刪除數據信息。由于我們的這個系統(tǒng)是基于HDFS的,而一個基本的HDFS由一個NameNode和n個DataNode組成,云存儲系統(tǒng)是由多個地方的HDFS存儲設備通過應用軟件集合起來協同工作,完成外部訪問請求??梢詫⒈疚拿枋龅姆植际轿募到y(tǒng)(DFS)抽象成一個三級模型,如圖3所示。

采用HDFS技術的云存儲的應用解決方案

圖3 系統(tǒng)結構圖

根據系統(tǒng)結構圖可以清楚看到本文描述的分布式文件系統(tǒng)(DFS)的業(yè)務邏輯模型:終端網絡發(fā)出信息存取訪問請求,DFS通過封裝與HDFS通信協議的Client客戶端與基于HDFS的云存儲系統(tǒng)進行通信,完成對信息的訪問。HDFS存儲業(yè)務以云狀分布在網絡的各個部分,它具有容量大、性能高、可靠性好、協同優(yōu)良的特點,正是這些特點,完成了高校信息資源高效訪問與存儲。

4 結論

基于HDFS的云存儲是一種動態(tài)可調整、基于互聯網的存儲解決方案,用戶可以通過通用和易用協議和應用程序接口通過網絡訪問存儲目標,這種新技術對最終用戶來說很有好處。云存儲可以讓用戶很容易增加存儲容量,而且不需要購買、安裝和管理任何存儲基礎設施,卻提供了一個完善的備份、容災數據中心。云存儲的成本和易用性優(yōu)勢對高校具有很強的吸引力,發(fā)展和應用前景廣闊。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯系本站處理。 舉報投訴
  • Google
    +關注

    關注

    5

    文章

    1772

    瀏覽量

    57843
  • 云計算
    +關注

    關注

    39

    文章

    7856

    瀏覽量

    137964
  • 云存儲
    +關注

    關注

    7

    文章

    774

    瀏覽量

    46192
收藏 人收藏

    評論

    相關推薦

    立體智慧倉儲解決方案.#計算

    解決方案智能設備
    學習電子知識
    發(fā)布于 :2022年10月06日 19:45:47

    采用Sun StorEdge技術創(chuàng)建存儲解決方案

    采用Sun StorEdge技術創(chuàng)建存儲解決方案用戶評價:Etagon公司開發(fā)經理Ely Pinto說,“Sun StorEdge產品的高性能和低成本特性,使之成為我們幫助客戶實現快速
    發(fā)表于 11-13 21:21

    269私有服務器的完全解決方案

    越來越強烈,但出于成本、專業(yè)人員等方面的限制,他們做不到像大型企業(yè)那樣揮灑自如地投巨資建設。對于上述需求,目前已有相關的解決方案推出,上海源郵科技推出的269私有服務器(微信號:269微管家),采用
    發(fā)表于 04-13 18:11

    視頻監(jiān)控業(yè)務上方案解析

    摘要: 阿里針對安防監(jiān)控服務在傳統(tǒng)IT架構下面臨的上述問題,基于阿里存儲服務,提供視頻監(jiān)控解決方案。從2015年推出視頻監(jiān)控存儲與播放
    發(fā)表于 01-03 11:24

    hadoop hdfs 文件優(yōu)點

    應用一般都是批量處理,而不是用戶交互式處理,應用程序能以流的形式訪問數據集。Hadoop已經迅速成長為首選的、適用于非結構化數據的大數據分析解決方案,HDFS分布式文件系統(tǒng)是Hadoop的核心組件之一
    發(fā)表于 03-23 14:22

    阿里應用上邊緣解決方案助力互聯網All in Cloud

    解決方案。其中,阿里應用上邊緣解決方案作為互聯網企業(yè)上的助推器,在現場展示。應用上邊緣
    發(fā)表于 10-11 09:58

    如何用MRAM和NVMe SSD構建未來的存儲解決方案

    在2019全球閃存峰會上,Everspin作為全球MRAM存儲芯片龍頭分享如何用MRAM這類非易失性存儲和NVMe SSD構建未來的存儲解決方案
    發(fā)表于 01-11 06:44

    計算是什么?存儲技術與應用解決方案

    本專題為你講解計算與存儲技術資訊與應用解決方案。具體包括解釋計算、
    發(fā)表于 03-29 18:23
    <b class='flag-5'>云</b>計算是什么?<b class='flag-5'>云</b><b class='flag-5'>存儲</b><b class='flag-5'>技術</b>與應用<b class='flag-5'>解決方案</b>

    基于_NetApp_存儲的_Microsoft_私有解決方案

    基于_NetApp_存儲的_Microsoft_私有解決方案
    發(fā)表于 12-28 11:17 ?0次下載

    HDFS優(yōu)化面臨新挑戰(zhàn),如何按照數據冷熱程度進行分層存儲

    人們常常使用HDFS作為存儲服務的核心,大數據的實用性和發(fā)展對于企業(yè)來講都是很重要的。而在大數據發(fā)展之初,最主要的應用場景仍然是離線批處理場景,對存儲的需求追求的是吞吐量,HDFS正是
    發(fā)表于 11-02 11:05 ?3086次閱讀
    <b class='flag-5'>HDFS</b>優(yōu)化面臨新挑戰(zhàn),如何按照數據冷熱程度進行分層<b class='flag-5'>存儲</b>

    基于HDFS校園存儲平臺

    改進,并且DAO層實現校園云端網絡的可變動態(tài)操作。實踐應用結果表明:優(yōu)化后的HDFS方案能夠有效地減少名稱節(jié)點內存的損耗,擴展了HDFS集群的命名空間,并且能夠有效地提升讀取文件元數據信息的速度。有效地提升了校園
    發(fā)表于 11-06 17:52 ?7次下載
    基于<b class='flag-5'>HDFS</b>校園<b class='flag-5'>云</b><b class='flag-5'>存儲</b>平臺

    應對海量圖片存儲的分布式存儲解決方案

    隨著互聯網、計算及大數據等信息技術的發(fā)展,越來越多的應用依賴于對海量數據的存儲和處理,如智能監(jiān)控、電子商務、地理信息等,這些應用都需要對海量圖片的存儲和檢索。由于圖片大多是小文件(8
    發(fā)表于 01-09 15:41 ?3856次閱讀
    應對海量圖片<b class='flag-5'>存儲</b>的分布式<b class='flag-5'>存儲</b><b class='flag-5'>解決方案</b>

    華為OBS對象存儲服務完成開源社區(qū)同行評審 正式合入Apache Hadoop社區(qū)

    近日,華為OBS對象存儲服務OBSA-HDFS組件代碼完成了開源社區(qū)同行評審,已經正式合入Apache Hadoop社區(qū),標志華為存算分離大數據
    的頭像 發(fā)表于 01-22 16:52 ?2410次閱讀

    企業(yè)級存儲解決方案的原理和分類

    許多企業(yè)已經遷移到平臺中并發(fā)現了它的好處,為此也需要了解一些頂級存儲解決方案。
    發(fā)表于 04-05 14:07 ?1166次閱讀

    存儲監(jiān)控解決方案的8大優(yōu)勢

    存儲監(jiān)控工具正在成為電子監(jiān)控生態(tài)系統(tǒng)的支柱。存儲監(jiān)控解決方案提供完全私有的數據
    的頭像 發(fā)表于 03-29 16:37 ?2498次閱讀