123,123

內(nèi)容簡(jiǎn)介

　　本書(shū)基于Hadoop 2.7.1版本進(jìn)行分析，全面描述了HDFS 2.X的核心技術(shù)與解決方案，書(shū)中描述了HDFS內(nèi)存存儲(chǔ)、異構(gòu)存儲(chǔ)等幾大核心設(shè)計(jì)，包括源碼細(xì)節(jié)層面的分析，對(duì)于HDFS中比較特殊的幾個(gè)場(chǎng)景過(guò)程也做了細(xì)粒度的分析。還分享了作者在實(shí)際應(yīng)用中的解決方案及擴(kuò)展思路。閱讀本書(shū)可以幫助讀者從架構(gòu)設(shè)計(jì)與功能實(shí)現(xiàn)角度了解HDFS 2.X，同時(shí)還能學(xué)習(xí)HDFS 2.X框架中優(yōu)秀的設(shè)計(jì)思想、設(shè)計(jì)模式、Java語(yǔ)言技巧等。這些對(duì)于讀者全面提高自己分布式技術(shù)水平有很大的幫助。本書(shū)分為三大部分：核心設(shè)計(jì)篇、細(xì)節(jié)實(shí)現(xiàn)篇、解決方案篇，“核心設(shè)計(jì)篇”包括HDFS的數(shù)據(jù)存儲(chǔ)原理、HDFS的數(shù)據(jù)管理與策略選擇機(jī)制、HDFS的新穎功能特性；“細(xì)節(jié)實(shí)現(xiàn)篇”包括HDFS的塊處理、流量處理等細(xì)節(jié)，以及部分結(jié)構(gòu)分析；“解決方案篇”包括HDFS的數(shù)據(jù)管理、HDFS的數(shù)據(jù)讀寫、HDFS的異常場(chǎng)景等。本書(shū)適合于云計(jì)算相關(guān)領(lǐng)域研發(fā)人員、云計(jì)算相關(guān)運(yùn)維工程師、高年級(jí)研究生或本科、熱衷于分布式計(jì)算研究的人。

作者簡(jiǎn)介

　　林意群，唯品會(huì)上海研發(fā)中心數(shù)據(jù)應(yīng)用部研發(fā)工程師，Apache Hadoop Committer，主要專注于HDFS模塊的研究。對(duì)大數(shù)據(jù)處理、分布式計(jì)算興趣濃厚，在實(shí)際工作中努力鉆研，分享了大量技術(shù)文章，貢獻(xiàn)了很多實(shí)踐經(jīng)驗(yàn)。

圖書(shū)目錄

前言
第一部分　核心設(shè)計(jì)篇
第1章　HDFS的數(shù)據(jù)存儲(chǔ) 2
1.1　HDFS內(nèi)存存儲(chǔ) 2
1.1.1　HDFS內(nèi)存存儲(chǔ)原理 2
1.1.2　Linux 虛擬內(nèi)存盤 4
1.1.3　HDFS的內(nèi)存存儲(chǔ)流程分析 4
1.1.4　LAZY_PERSIST內(nèi)存存儲(chǔ)的使用 14
1.2　HDFS異構(gòu)存儲(chǔ) 15
1.2.1　異構(gòu)存儲(chǔ)類型 16
1.2.2　異構(gòu)存儲(chǔ)原理 17
1.2.3　塊存儲(chǔ)類型選擇策略 22
1.2.4　塊存儲(chǔ)策略集合 24
1.2.5　塊存儲(chǔ)策略的調(diào)用 27
1.2.6　HDFS異構(gòu)存儲(chǔ)策略的不足之處 28
1.2.7　HDFS存儲(chǔ)策略的使用 30
1.3　小結(jié) 31
第2章　HDFS的數(shù)據(jù)管理與策略選擇 32
2.1　HDFS緩存與緩存塊 32
2.1.1　HDFS物理層面緩存塊 33
2.1.2　緩存塊的生命周期狀態(tài) 34
2.1.3　CacheBlock、UnCacheBlock場(chǎng)景觸發(fā) 36
2.1.4　CacheBlock、UnCacheBlock緩存塊的確定 38
2.1.5　系統(tǒng)持有的緩存塊列表如何更新 39
2.1.6　緩存塊的使用 40
2.1.7　HDFS緩存相關(guān)配置 40
2.2　HDFS中心緩存管理 42
2.2.1　HDFS緩存適用場(chǎng)景 43
2.2.2　HDFS緩存的結(jié)構(gòu)設(shè)計(jì) 43
2.2.3　HDFS緩存管理機(jī)制分析 45
2.2.4　HDFS中心緩存疑問(wèn)點(diǎn) 55
2.2.5　HDFS CacheAdmin命令使用 56
2.3　HDFS快照管理 58
2.3.1　快照概念 59
2.3.2　HDFS中的快照相關(guān)命令 59
2.3.3　HDFS內(nèi)部的快照管理機(jī)制 60
2.3.4　HDFS的快照使用 71
2.4　HDFS副本放置策略 72
2.4.1　副本放置策略概念與方法 72
2.4.2　副本放置策略的有效前提 73
2.4.3　默認(rèn)副本放置策略的分析 73
2.4.4　目標(biāo)存儲(chǔ)好壞的判斷 82
2.4.5　chooseTargets的調(diào)用 83
2.4.6　BlockPlacementPolicyWithNodeGroup繼承類 84
2.4.7　副本放置策略的結(jié)果驗(yàn)證 85
2.5　HDFS內(nèi)部的認(rèn)證機(jī)制 85
2.5.1　BlockToken認(rèn)證 85
2.5.2　HDFS的Sasl認(rèn)證 91
2.5.3　BlockToken認(rèn)證與HDFS的Sasl認(rèn)證對(duì)比 97
2.6　HDFS內(nèi)部的磁盤目錄服務(wù) 98
2.6.1　HDFS的三大磁盤目錄檢測(cè)掃描服務(wù) 98
2.6.2　DiskChecker：壞盤檢測(cè)服務(wù) 99
2.6.3　DirectoryScanner：目錄掃描服務(wù) 104
2.6.4　VolumeScanner：磁盤目錄掃描服務(wù) 110
2.7　小結(jié) 116
第3章　HDFS的新穎功能特性 117
3.1　HDFS視圖文件系統(tǒng)：ViewFileSystem 117
3.2　HDFS的Web文件系統(tǒng)：WebHdfsFileSystem 126
3.3　HDFS數(shù)據(jù)加密空間：Encryption zone 136
3.4　HDFS糾刪碼技術(shù) 145
3.5　HDFS對(duì)象存儲(chǔ)：Ozone 152
3.6　小結(jié) 158
第二部分　細(xì)節(jié)實(shí)現(xiàn)篇
第4章　HDFS的塊處理 160
4.1　HDFS塊檢查命令fsck 160
4.2　HDFS如何檢測(cè)并刪除多余副本塊 171
4.3　HDFS數(shù)據(jù)塊的匯報(bào)與處理 179
4.4　小結(jié) 193
第5章　HDFS的流量處理 194
5.1　HDFS的內(nèi)部限流 194
5.2　數(shù)據(jù)平衡 204
5.3　HDFS節(jié)點(diǎn)內(nèi)數(shù)據(jù)平衡 210
5.4　小結(jié) 216
第6章　HDFS的部分結(jié)構(gòu)分析 217
6.1　HDFS鏡像文件的解析與反解析 217
6.2　DataNode數(shù)據(jù)處理中心DataXceiver 227
6.3　HDFS鄰近信息塊：BlockInfoContiguous 235
6.4　小結(jié) 246
第三部分　解決方案篇
第7章　HDFS的數(shù)據(jù)管理 248
7.1　HDFS的讀寫限流方案 248
7.2　HDFS數(shù)據(jù)資源使用量分析以及趨勢(shì)預(yù)測(cè) 250
7.3　HDFS數(shù)據(jù)遷移解決方案 257
7.4　DataNode遷移方案 265
7.5　HDFS集群重命名方案 268
7.6　HDFS的配置管理方案 271
7.7　小結(jié) 273
第8章　HDFS的數(shù)據(jù)讀寫 274
8.1　DataNode引用計(jì)數(shù)磁盤選擇策略 274
8.2　Hadoop節(jié)點(diǎn)“慢磁盤”監(jiān)控 282
8.3　小結(jié) 287
第9章　HDFS的異常場(chǎng)景 288
9.1　DataNode慢啟動(dòng)問(wèn)題 288
9.2　Hadoop中止下線操作后大量剩余復(fù)制塊問(wèn)題 295
9.3　DFSOutputStream的DataStreamer線程泄漏問(wèn)題 306
9.4　小結(jié) 319
附錄　如何向開(kāi)源社區(qū)提交自己的代碼 320