資料介紹
近年來(lái),隨著網(wǎng)絡(luò)和云計(jì)算技術(shù)的飛速發(fā)展,網(wǎng)絡(luò)數(shù)據(jù)以幾何級(jí)數(shù)的方式迅速增長(zhǎng)。數(shù)據(jù)的爆炸性增長(zhǎng)對(duì)存儲(chǔ)系統(tǒng)的容量、可擴(kuò)展性以及I/O性能等方面提出了越來(lái)越高的要求。如今雖然計(jì)算、傳輸和存儲(chǔ)三大IT基礎(chǔ)設(shè)施都得到了飛速的發(fā)展,但是相對(duì)于計(jì)算和傳輸而言,存儲(chǔ)技術(shù)相對(duì)發(fā)展緩慢。分布式文件系統(tǒng)是指網(wǎng)絡(luò)中的多個(gè)存儲(chǔ)節(jié)點(diǎn)通過(guò)網(wǎng)絡(luò)組織起來(lái),并通過(guò)網(wǎng)絡(luò)來(lái)完成各存儲(chǔ)節(jié)點(diǎn)的通信和控制的文件系統(tǒng)。由于其能有效解決分布式存儲(chǔ)系統(tǒng)的海量數(shù)據(jù)存儲(chǔ)和I/O瓶頸問(wèn)題,在容量和可擴(kuò)展性等方面有很大優(yōu)勢(shì),越來(lái)越受到企業(yè)界、學(xué)術(shù)界的青睞。
針對(duì)Hadoop分布式文件系統(tǒng)(HDFS)的寫性能在執(zhí)行效率上的不足,提出一種在節(jié)點(diǎn)性能異構(gòu)環(huán)境中對(duì)HDFS數(shù)據(jù)塊進(jìn)行并發(fā)傳輸?shù)恼{(diào)度算法。該算法實(shí)時(shí)監(jiān)控HDFS集群中每個(gè)節(jié)點(diǎn)的資源狀態(tài)和內(nèi)存緩存隊(duì)列,動(dòng)態(tài)地將接收節(jié)點(diǎn)與轉(zhuǎn)發(fā)節(jié)點(diǎn)進(jìn)行配對(duì)傳輸,使全系統(tǒng)節(jié)點(diǎn)的網(wǎng)卡和磁盤并發(fā)工作,縮短了所有副本寫入分布式文件系統(tǒng)的時(shí)間。將數(shù)據(jù)寫入磁盤后請(qǐng)求下一個(gè)數(shù)據(jù)塊,保證數(shù)據(jù)安全性,同時(shí)也使得各個(gè)節(jié)點(diǎn)獲得與自身性能相匹配的副本數(shù),使性能異構(gòu)的系統(tǒng)能達(dá)到較高的寫入速度。性能測(cè)試結(jié)果表明,使用該算法的分布式文件系統(tǒng)的寫入性能較原始的HDFS提高了l倍。
?
- 異構(gòu)環(huán)境下的多DAG任務(wù)調(diào)度算法綜述 13次下載
- 基于SVC與多網(wǎng)絡(luò)接口的視頻塊聯(lián)合調(diào)度算法 4次下載
- 異構(gòu)云環(huán)境中二級(jí)實(shí)時(shí)密碼服務(wù)調(diào)度策略 9次下載
- 申威.太湖之光深度學(xué)習(xí)庫(kù)中的并行卷積算法 1次下載
- 帶傳輸時(shí)限的跨數(shù)據(jù)中心數(shù)據(jù)傳輸調(diào)度算法 11次下載
- 基于異構(gòu)云計(jì)算的工作預(yù)算等級(jí)調(diào)度算法 15次下載
- 擬態(tài)通用運(yùn)行環(huán)境的資源管理調(diào)度及框架 6次下載
- 一種自適應(yīng)多路傳輸數(shù)據(jù)調(diào)度算法GMM-S 5次下載
- 如何在實(shí)現(xiàn)工業(yè)物聯(lián)網(wǎng)應(yīng)用中實(shí)現(xiàn)多時(shí)隙幀調(diào)度算法 4次下載
- DS1302的時(shí)鐘電路并行傳輸顯示方式程序和工程文件免費(fèi)下載 12次下載
- 異構(gòu)系統(tǒng)多副本容錯(cuò)調(diào)度算法 0次下載
- 基于MIMO異構(gòu)Ad Hoc網(wǎng)絡(luò)節(jié)點(diǎn)調(diào)度優(yōu)化算法 0次下載
- 云計(jì)算環(huán)境中任務(wù)調(diào)度應(yīng)用 3次下載
- 數(shù)據(jù)網(wǎng)格環(huán)境中傳輸性能的改進(jìn) 17次下載
- 網(wǎng)格環(huán)境中多連接傳輸機(jī)制研究
- 企業(yè)級(jí)HDFS高可用與YARN資源調(diào)度方案 626次閱讀
- wdm主要應(yīng)用在傳輸網(wǎng)絡(luò)的什么層 1.9k次閱讀
- FreeRTOS任務(wù)調(diào)度器的三種調(diào)度算法講解(下) 5.1k次閱讀
- 塊調(diào)用環(huán)境對(duì)話框操作 1.4k次閱讀
- 多種處理器調(diào)度過(guò)程及調(diào)度算法 1.7k次閱讀
- SD卡的三種傳輸模式及功能解析 2.3w次閱讀
- 如何使用CRC算法檢查數(shù)據(jù)傳輸的正確性 1w次閱讀
- 什么是串行總線和并行總線區(qū)別是什么 3.2w次閱讀
- DMA數(shù)據(jù)傳輸(源代碼分享) 1w次閱讀
- 基于異構(gòu)并行計(jì)算的兩個(gè)子概念異構(gòu)和并行的簡(jiǎn)單分析 7.1k次閱讀
- Mapreduce和Hive中map reduce個(gè)數(shù)設(shè)定 6.5k次閱讀
- 成為一名并行異構(gòu)并行計(jì)算工程師需要掌握的技能詳解 7.3k次閱讀
- 串行傳輸方式都比并行傳輸方式更勝一籌 7.8k次閱讀
- HDFS優(yōu)化面臨新挑戰(zhàn),如何按照數(shù)據(jù)冷熱程度進(jìn)行分層存儲(chǔ) 3.4k次閱讀
- CPU+FPGA的圖片壓縮異構(gòu)加速方案效率提升14倍 2.5k次閱讀
下載排行
本周
- 1MDD品牌三極管MMBT3906數(shù)據(jù)手冊(cè)
- 2.33 MB | 次下載 | 免費(fèi)
- 2MDD品牌三極管S9012數(shù)據(jù)手冊(cè)
- 2.62 MB | 次下載 | 免費(fèi)
- 3聯(lián)想flex2-14D/15D說(shuō)明書
- 4.92 MB | 次下載 | 免費(fèi)
- 4收音環(huán)繞擴(kuò)音機(jī) AVR-1507手冊(cè)
- 2.50 MB | 次下載 | 免費(fèi)
- 524Pin Type-C連接器設(shè)計(jì)報(bào)告
- 1.06 MB | 次下載 | 免費(fèi)
- 6新一代網(wǎng)絡(luò)可視化(NPB 2.0)
- 3.40 MB | 次下載 | 免費(fèi)
- 7MS1000TA 超聲波測(cè)量模擬前端芯片技術(shù)手冊(cè)
- 0.60 MB | 次下載 | 免費(fèi)
- 8MS1022高精度時(shí)間測(cè)量(TDC)電路數(shù)據(jù)手冊(cè)
- 1.81 MB | 次下載 | 免費(fèi)
本月
- 1愛(ài)華AIWA HS-J202維修手冊(cè)
- 3.34 MB | 37次下載 | 免費(fèi)
- 2PC5502負(fù)載均流控制電路數(shù)據(jù)手冊(cè)
- 1.63 MB | 23次下載 | 免費(fèi)
- 3NB-IoT芯片廠商的資料說(shuō)明
- 0.31 MB | 22次下載 | 1 積分
- 4H110主板CPU PWM芯片ISL95858HRZ-T核心供電電路圖資料
- 0.63 MB | 6次下載 | 1 積分
- 5UWB653Pro USB口測(cè)距通信定位模塊規(guī)格書
- 838.47 KB | 5次下載 | 免費(fèi)
- 6技嘉H110主板IT8628E_BX IO電路圖資料
- 2.61 MB | 4次下載 | 1 積分
- 7蘇泊爾DCL6907(即CHK-S007)單芯片電磁爐原理圖資料
- 0.04 MB | 4次下載 | 1 積分
- 8100W準(zhǔn)諧振反激式恒流電源電路圖資料
- 0.09 MB | 2次下載 | 1 積分
總榜
- 1matlab軟件下載入口
- 未知 | 935137次下載 | 10 積分
- 2開(kāi)源硬件-PMP21529.1-4 開(kāi)關(guān)降壓/升壓雙向直流/直流轉(zhuǎn)換器 PCB layout 設(shè)計(jì)
- 1.48MB | 420064次下載 | 10 積分
- 3Altium DXP2002下載入口
- 未知 | 233089次下載 | 10 積分
- 4電路仿真軟件multisim 10.0免費(fèi)下載
- 340992 | 191439次下載 | 10 積分
- 5十天學(xué)會(huì)AVR單片機(jī)與C語(yǔ)言視頻教程 下載
- 158M | 183353次下載 | 10 積分
- 6labview8.5下載
- 未知 | 81602次下載 | 10 積分
- 7Keil工具M(jìn)DK-Arm免費(fèi)下載
- 0.02 MB | 73822次下載 | 10 積分
- 8LabVIEW 8.6下載
- 未知 | 65991次下載 | 10 積分
電子發(fā)燒友App





創(chuàng)作
發(fā)文章
發(fā)帖
提問(wèn)
發(fā)資料
發(fā)視頻
上傳資料賺積分
評(píng)論