劍指大數(shù)據(jù)――Hadoop學習精要

第1章 大數(shù)據(jù)概論 1
1．1 大數(shù)據(jù)的特征 1
1．2 大數(shù)據(jù)的發(fā)展前景 2
1．2．1 大數(shù)據(jù)的應用場景 2
1．2．2 大數(shù)據(jù)的未來發(fā)展 3
1．3 大數(shù)據(jù)生態(tài)體系與Hadoop 4
1．3．1 Hadoop的發(fā)展史 4
1．3．2 大數(shù)據(jù)生態(tài)體系 5
1．3．3 Hadoop架構(gòu) 7
1．4 本章總結(jié) 10
第2章 環(huán)境準備 11
2．1 安裝VMware 11
2．2 安裝CentOS 11
2．3 安裝遠程終端 19
2．3．1 安裝Xshell 19
2．3．2 安裝SecureCRT 21
2．4 虛擬機配置 23
2．4．1 網(wǎng)絡配置 23
2．4．2 網(wǎng)絡IP地址配置 24
2．4．3 主機名配置 25
2．4．4 防火墻配置 25
2．4．5 一般用戶配置 26
2．4．6 克隆虛擬機 26
2．5 本章總結(jié) 27
第3章 Hadoop快速上手 28
3．1 集群角色 28
3．1．1 Hadoop集群的主要角色 28
3．1．2 YARN的主要組成部分 28
3．2 本地模式 30
3．2．1 安裝 30
3．2．2 運行官方示例程序 32
3．3 完全分布式模式 33
3．3．1 SSH免密登錄 33
3．3．2 shell腳本準備 34
3．3．3 集群配置 36
3．3．4 NameNode格式化問題 42
3．3．5 配置歷史服務器與日志聚集功能 44
3．3．6 Hadoop集群啟停腳本 47
3．3．7 集群時間同步 48
3．4 本章總結(jié) 50
第4章 分布式文件系統(tǒng)HDFS 51
4．1 HDFS概述 51
4．1．1 HDFS背景及定義 51
4．1．2 HDFS的基本架構(gòu) 52
4．2 HDFS的shell操作 53
4．2．1 命令大全 53
4．2．2 命令行命令實操 54
4．3 HDFS的API操作 58
4．3．1 客戶端環(huán)境準備 58
4．3．2 HDFS文件上傳案例 61
4．3．3 HDFS文件下載案例 62
4．3．4 HDFS文件重命名案例 63
4．3．5 HDFS文件刪除案例 63
4．3．6 HDFS文件詳情查看案例 63
4．3．7 HDFS文件和文件夾判斷案例 64
4．4 HDFS的讀/寫流程 65
4．4．1 HDFS中的數(shù)據(jù)塊大小 65
4．4．2 寫數(shù)據(jù)流程 65
4．4．3 讀數(shù)據(jù)流程 68
4．5 HDFS的工作機制 69
4．5．1 NameNode和SecondaryNameNode的工作機制 69
4．5．2 EditLog和FsImage文件解析 70
4．5．3 檢查點時間設置 76
4．5．4 DataNode的工作機制 76
4．5．5 數(shù)據(jù)完整性 77
4．6 本章總結(jié) 78
第5章 分布式計算MapReduce 79
5．1 MapReduce概述 79
5．1．1 MapReduce定義 79
5．1．2 MapReduce核心思想 80
5．2 MapReduce編程入門 81
5．2．1 官方示例程序WordCount源碼 81
5．2．2 編程規(guī)范 82
5．2．3 WordCount案例實操 82
5．3 Hadoop的序列化 89
5．3．1 序列化概述 89
5．3．2 Writable接口 89
5．3．3 序列化案例實操 90
5．4 MapReduce框架原理之InputFormat數(shù)據(jù)輸入 96
5．4．1 切片與MapTask并行度決定機制 96
5．4．2 Job提交流程源碼和FileInputFormat切片源碼詳解 98
5．4．3 FileInputFormat切片機制總結(jié) 101
5．4．4 TextInputFormat 101
5．4．5 CombineTextInputFormat切片機制 102
5．4．6 CombineTextInputFormat案例實操 103
5．5 MapReduce框架原理之shuffle機制 104
5．5．1 shuffle機制 104
5．5．2 分區(qū) 105
5．5．3 分區(qū)案例實操 106
5．5．4 WritableComparable排序 110
5．5．5 WritableComparable排序案例實操（全排序） 111
5．5．6 WritableComparable排序案例實操（區(qū)內(nèi)排序） 116
5．5．7 Combiner合并 119
5．5．8 Combiner合并案例實操 120
5．6 MapReduce框架原理之OutputFormat數(shù)據(jù)輸出 121
5．6．1 OutputFormat接口的實現(xiàn)類 121
5．6．2 自定義OutputFormat類的案例實操 122
5．7 MapReduce工作流程 126
5．8 Join 127
5．8．1 Reduce Join 127
5．8．2 Reduce Join案例實操 127
5．8．3 Map Join 133
5．8．4 Map Join案例實操 134
5．9 數(shù)據(jù)清洗 137
5．10 Hadoop中的數(shù)據(jù)壓縮 139
5．10．1 數(shù)據(jù)壓縮概述 139
5．10．2 壓縮參數(shù)配置 140
5．10．3 壓縮案例實操 141
5．11 本章總結(jié) 145
第6章 資源調(diào)度器YARN 146
6．1 YARN概述 146
6．1．1 基本架構(gòu) 147
6．1．2 工作機制 148
6．2 YARN的資源調(diào)度器和調(diào)度算法 150
6．2．1 FIFO調(diào)度器 150
6．2．2 容量調(diào)度器 150
6．2．3 公平調(diào)度器 152
6．3 YARN實操 156
6．3．1 常用的命令行命令 156
6．3．2 核心參數(shù) 158
6．3．3 核心參數(shù)配置案例 159
6．3．4 容量調(diào)度器配置案例 163
6．3．5 公平調(diào)度器配置案例 168
6．3．6 Tool接口案例 171
6．4 本章總結(jié) 174
第7章 高可用HA 175
7．1 ZooKeeper詳解 175
7．1．1 ZooKeeper入門 175
7．1．2 ZooKeeper安裝 178
7．1．3 ZooKeeper的內(nèi)部原理 180
7．1．4 ZooKeeper的命令操作 181
7．2 HA概述 188
7．2．1 什么是HA 188
7．2．2 HDFS HA的工作機制 188
7．3 Hadoop HA集群的搭建 189
7．3．1 HDFS HA手動故障轉(zhuǎn)移 189
7．3．2 HDFS HA自動故障轉(zhuǎn)移 192
7．3．3 YARN HA 195
7．3．4 Hadoop HA集群規(guī)劃 199
7．4 本章總結(jié) 199
第8章 生產(chǎn)調(diào)優(yōu)手冊 200
8．1 HDFS的核心參數(shù) 200
8．1．1 NameNode的內(nèi)存生產(chǎn)配置 200
8．1．2 NameNode心跳并發(fā)配置 202
8．1．3 啟用回收站功能 203
8．2 HDFS集群壓測 204
8．2．1 測試HDFS的寫性能 205
8．2．2 測試HDFS的讀性能 207
8．3 HDFS的多目錄配置 208
8．3．1 NameNode的多目錄配置 208
8．3．2 DataNode的多目錄配置 208
8．3．3 集群數(shù)據(jù)均衡之磁盤之間的數(shù)據(jù)均衡 209
8．4 HDFS集群的擴容及縮容 209
8．4．1 添加白名單 209
8．4．2 服役新服務器 212
8．4．3 服務器之間的數(shù)據(jù)均衡 214
8．4．4 黑名單退役服務器 214
8．5 HDFS的存儲優(yōu)化策略 216
8．5．1 糾刪碼 216
8．5．2 異構(gòu)存儲 218
8．6 HDFS的故障排除 223
8．6．1 NameNode故障處理 223
8．6．2 集群安全模式＆磁盤數(shù)據(jù)損壞 224
8．6．3 慢磁盤監(jiān)控 226
8．6．4 小文件存檔 227
8．7 MapReduce的生產(chǎn)經(jīng)驗 228
8．7．1 MapReduce程序運行較慢的原因 228
8．7．2 MapReduce的常用調(diào)優(yōu)參數(shù) 229
8．7．3 MapReduce的數(shù)據(jù)傾斜 231
8．8 Hadoop的綜合調(diào)優(yōu) 232
8．8．1 Hadoop的小文件優(yōu)化方法 232
8．8．2 測試MapReduce的計算性能 233
8．8．3 企業(yè)開發(fā)場景案例 234
8．9 本章總結(jié) 239
第9章 源碼解析 240
9．1 RPC通信原理 240
9．2 NameNode啟動源碼解析 243
9．2．1 查看源碼的準備工作 243
9．2．2 啟動9870端口服務 246
9．2．3 加載鏡像文件和編輯日志文件 247
9．2．4 初始化RPC服務器端 248
9．2．5 檢查資源 249
9．2．6 檢測心跳信息并進行超時判斷 252
9．2．7 退出安全模式 255
9．3 DataNode啟動源碼解析 257
9．3．1 查看源碼的準備工作 257
9．3．2 初始化DataXceiverServer 259
9．3．3 初始化HTTP服務 260
9．3．4 初始化RPC服務器端 261
9．3．5 DataNode向NameNode注冊 262
9．3．6 DataNode向NameNode發(fā)送心跳信息 266
9．4 HDFS寫數(shù)據(jù)流程的源碼解析 268
9．4．1 查看源碼的準備工作 269
9．4．2 Client向NameNode發(fā)起寫請求 269
9．4．3 NameNode處理Client的寫請求 270
9．4．4 DataStreamer啟動流程 271
9．4．5 向DataStreamer的隊列中寫數(shù)據(jù) 274
9．4．6 建立管道之機架感知 276
9．4．7 建立管道之socket發(fā)送 278
9．4．8 建立管道之socket接收 280
9．4．9 客戶端接收DataNode的寫數(shù)據(jù)響應 283
9．5 YARN源碼解析 284
9．5．1 查看源碼的準備工作 284
9．5．2 創(chuàng)建YARN客戶端并提交任務 286
9．5．3 啟動MRAppMaster 288
9．5．4 調(diào)度器任務執(zhí)行 291
9．6 Hadoop的源碼編譯 294
9．6．1 前期準備工作 295
9．6．2 安裝工具包 295
9．6．3 編譯源碼 297
9．7 本章總結(jié) 298