企業(yè)大數(shù)據(jù)處理實(shí)戰(zhàn)派：基于阿里云大數(shù)據(jù)平臺(tái)

★★第1 篇 大數(shù)據(jù)技術(shù)基礎(chǔ)

★第1 章 大數(shù)據(jù)核心理論基礎(chǔ)與架構(gòu) 2
1.1 什么是大數(shù)據(jù) 2
1.1.1 大數(shù)據(jù)的基本概念和特性 2
1.1.2 大數(shù)據(jù)平臺(tái)的核心問(wèn)題——存儲(chǔ)與計(jì)算 4
1.2 大數(shù)據(jù)的理論基礎(chǔ) 6
1.2.1 大數(shù)據(jù)的分布式存儲(chǔ) 6
1.2.2 大數(shù)據(jù)的分布式計(jì)算 9
1.3 大數(shù)據(jù)技術(shù)與數(shù)據(jù)倉(cāng)庫(kù) . 12
1.3.1 什么是數(shù)據(jù)倉(cāng)庫(kù)/12
1.3.2 基于大數(shù)據(jù)技術(shù)實(shí)現(xiàn)的數(shù)據(jù)倉(cāng)庫(kù) 13
1.4 基于開(kāi)源大數(shù)據(jù)組件的大數(shù)據(jù)平臺(tái)架構(gòu) 15
1.4.1 數(shù)據(jù)源層 16
1.4.2 數(shù)據(jù)采集層 16
1.4.3 大數(shù)據(jù)平臺(tái)層 16
1.4.4 數(shù)據(jù)倉(cāng)庫(kù)層 17
1.4.5 應(yīng)用層 17
1.5 自建大數(shù)據(jù)平臺(tái)與租賃大數(shù)據(jù)平臺(tái) 17
1.5.1 為什么推薦使用租賃的大數(shù)據(jù)平臺(tái) 17
1.5.2 為什么選擇阿里云大數(shù)據(jù)平臺(tái) 18
1.6 阿里云大數(shù)據(jù)生態(tài)圈體系/18
1.6.1 阿里云大數(shù)據(jù)基礎(chǔ)組件 . 19
1.6.2 基于阿里云大數(shù)據(jù)基礎(chǔ)組件的數(shù)加平臺(tái) 24

★★第2 章 阿里云大數(shù)據(jù)技術(shù)基礎(chǔ)——開(kāi)源大數(shù)據(jù)技術(shù)生態(tài)圈 27
2.1 開(kāi)源大數(shù)據(jù)技術(shù)生態(tài)圈簡(jiǎn)介 27
2.1.1 面向離線數(shù)據(jù)的存儲(chǔ)計(jì)算引擎Hadoop 生態(tài)圈體系及其組件 27
2.1.2 面向批處理的大數(shù)據(jù)計(jì)算引擎Spark 生態(tài)圈體系及其組件 29
2.1.3 面向流處理的大數(shù)據(jù)計(jì)算引擎Flink 生態(tài)圈體系及其組件 . 30
2.2 面向離線數(shù)據(jù)的存儲(chǔ)計(jì)算引擎Hadoop 快速上手 32
2.2.1 【實(shí)戰(zhàn)】部署Hadoop 集群 33
2.2.2 【實(shí)戰(zhàn)】使用Hadoop 文件系統(tǒng)HDFS 存儲(chǔ)數(shù)據(jù) 38
2.2.3 【實(shí)戰(zhàn)】使用Hadoop 離線計(jì)算引擎MapReduce 處理數(shù)據(jù) 46
2.3 面向批處理的大數(shù)據(jù)計(jì)算引擎Spark 快速上手 49
2.3.1 【實(shí)戰(zhàn)】部署Spark 集群 49
2.3.2 【實(shí)戰(zhàn)】執(zhí)行Spark 離線計(jì)算任務(wù) 51
2.3.3 【實(shí)戰(zhàn)】執(zhí)行Spark 實(shí)時(shí)計(jì)算任務(wù) 57
2.3.4 【實(shí)戰(zhàn)】使用Spark SQL 處理結(jié)構(gòu)化數(shù)據(jù) . 60
2.4 面向流處理的大數(shù)據(jù)計(jì)算引擎Flink 快速上手 . 61
2.4.1 【實(shí)戰(zhàn)】部署Flink 集群/62
2.4.2 【實(shí)戰(zhàn)】執(zhí)行Flink 離線計(jì)算任務(wù) 63
2.4.3 【實(shí)戰(zhàn)】執(zhí)行Flink 實(shí)時(shí)計(jì)算任務(wù) 64
2.4.4 【實(shí)戰(zhàn)】使用Flink SQL 處理結(jié)構(gòu)化數(shù)據(jù) 66
2.5 大數(shù)據(jù)體系的單點(diǎn)故障問(wèn)題 66
★★第2 篇 阿里云大數(shù)據(jù)的離線計(jì)算服務(wù)

★第3 章 面向離線數(shù)據(jù)存儲(chǔ)與計(jì)算的MaxCompute 基礎(chǔ) . 70
3.1 MaxCompute 簡(jiǎn)介 70
3.1.1 什么是MaxCompute 70
3.1.2 MaxCompute 的特點(diǎn) 71
3.2 初識(shí)MaxCompute 71
3.2.1 MaxCompute 的架構(gòu) 71
3.2.2 MaxCompute 的核心概念 74
3.2.3 MaxCompute 的數(shù)據(jù)類(lèi)型 76
3.3 使用MaxCompute 的準(zhǔn)備工作 78
3.3.1 【實(shí)戰(zhàn)】創(chuàng)建阿里云賬號(hào) 79
3.3.2 【實(shí)戰(zhàn)】開(kāi)通MaxCompute 服務(wù) . 82
3.3.3 【實(shí)戰(zhàn)】創(chuàng)建項(xiàng)目 83
3.3.4 配置MaxCompute 客戶端/85
3.4 MaxCompute 快速上手 93
3.4.1 【實(shí)戰(zhàn)】使用命令行客戶端 93
3.4.2 【實(shí)戰(zhàn)】執(zhí)行MapReduce 任務(wù) 99
3.4.3 【實(shí)戰(zhàn)】執(zhí)行Spark 任務(wù) 101
3.5 基于Tunnel 的數(shù)據(jù)上傳與下載/102
3.5.1 Tunnel 簡(jiǎn)介 102
3.5.2 【實(shí)戰(zhàn)】使用Tunnel 的命令行工具 103
3.5.3 【實(shí)戰(zhàn)】使用Tunnel 的SDK/107

★第4 章 處理結(jié)構(gòu)化數(shù)據(jù)——基于MaxCompute SQL 112
4.1 MaxCompute SQL 簡(jiǎn)介 112
4.1.1 MaxCompute SQL 與其他SQL 的差異/112
4.1.2 MaxCompute SQL 的數(shù)據(jù)類(lèi)型 114
4.1.3 MaxCompute SQL 的數(shù)據(jù)類(lèi)型轉(zhuǎn)換 115
4.2 使用MaxCompute SQL 119
4.2.1 【實(shí)戰(zhàn)】使用DDL 語(yǔ)句 119
4.2.2 【實(shí)戰(zhàn)】使用DML 語(yǔ)句 135
4.2.3 【實(shí)戰(zhàn)】使用DQL 語(yǔ)句 140
4.2.4 【實(shí)戰(zhàn)】使用MaxCompute SQL 的增強(qiáng)語(yǔ)法CTE 143
4.3 使用MaxCompute SQL 的內(nèi)建函數(shù) 145
4.3.1 【實(shí)戰(zhàn)】日期函數(shù) . 145
4.3.2 【實(shí)戰(zhàn)】窗口函數(shù) . 148
4.3.3 【實(shí)戰(zhàn)】聚合函數(shù) . 152
4.3.4 【實(shí)戰(zhàn)】條件判斷函數(shù)/152
4.3.5 數(shù)學(xué)函數(shù)和字符串函數(shù) 154
4.4 在MaxCompute 中自定義SQL 155
4.4.1 【實(shí)戰(zhàn)】UDF . 155
4.4.2 【實(shí)戰(zhàn)】UDT . 157
4.4.3 UDJ . 158

★第5 章 處理離線數(shù)據(jù)——基于MaxCompute MapReduce/159
5.1 MaxCompute MapReduce 簡(jiǎn)介 159
5.1.1 MaxCompute MapReduce 的處理流程/159
5.1.2 MaxCompute MapReduce 的使用限制/160
5.2 開(kāi)發(fā)WordCount 單詞計(jì)數(shù)程序/161
5.2.1 WordCount 數(shù)據(jù)處理的流程/162
5.2.2 MaxCompute MapReduce 的編程接口/163
5.2.3 【實(shí)戰(zhàn)】開(kāi)發(fā)WordCount 程序 166
5.3 MaxCompute MapReduce 的高級(jí)特性 169
5.3.1 【實(shí)戰(zhàn)】實(shí)現(xiàn)數(shù)據(jù)排序/170
5.3.2 【實(shí)戰(zhàn)】實(shí)現(xiàn)數(shù)據(jù)二次排序/173
5.3.3 【實(shí)戰(zhàn)】使用過(guò)濾模式MapOnly . 177
5.3.4 【實(shí)戰(zhàn)】使用Join 實(shí)現(xiàn)多表連接 . 179
5.3.5 【實(shí)戰(zhàn)】使用計(jì)數(shù)器Counter/183
5.3.6 【實(shí)戰(zhàn)】使用Unique 實(shí)現(xiàn)數(shù)據(jù)去重 187
5.3.7 【實(shí)戰(zhàn)】使用項(xiàng)目空間資源/193

★第6 章 處理離線數(shù)據(jù)——基于MaxCompute Spark/196
6.1 MaxCompute Spark 基礎(chǔ) . 196
6.1.1 MaxCompute Spark 的系統(tǒng)結(jié)構(gòu) . 196
6.1.2 MaxCompute Spark 的使用限制 . 197
6.1.3 使用spark-shell 198
6.2 MaxCompute Spark 的核心數(shù)據(jù)模型RDD 199
6.2.1 什么是RDD 200
6.2.2 熟悉RDD 的算子 202
6.2.3 【實(shí)戰(zhàn)】RDD 的緩存機(jī)制 209
6.2.4 【實(shí)戰(zhàn)】RDD 的檢查點(diǎn)機(jī)制 211
6.2.5 RDD 的依賴(lài)關(guān)系和任務(wù)執(zhí)行的階段 212
6.3 在MaxCompute Spark 中使用SQL 處理數(shù)據(jù) 214
6.3.1 Spark SQL 的特點(diǎn)/214
6.3.2 Spark SQL 的數(shù)據(jù)模型/215
6.3.3 【實(shí)戰(zhàn)】創(chuàng)建DataFrame 215
6.3.4 【實(shí)戰(zhàn)】使用DataFrame 處理數(shù)據(jù) 218
6.3.5 【實(shí)戰(zhàn)】創(chuàng)建視圖 . 220
6.4 【實(shí)戰(zhàn)】MaxCompute Spark 開(kāi)發(fā)案例 . 222
6.4.1 開(kāi)發(fā)Java 版本的單詞計(jì)數(shù)程序WordCount 222
6.4.2 開(kāi)發(fā)Scala 版本的單詞計(jì)數(shù)程序WordCount/224
6.5 診斷MaxCompute Spark 作業(yè) 225
6.5.1 使用Logview 工具診斷作業(yè) 226
6.5.2 使用Spark Web UI 診斷作業(yè) 227

★第7 章 處理圖數(shù)據(jù)——基于MaxCompute Graph 229
7.1 MaxCompute Graph 基礎(chǔ)/229
7.1.1 MaxCompute Graph 的基本概念 230
7.1.2 MaxCompute Graph 的數(shù)據(jù)結(jié)構(gòu) . 230
7.1.3 MaxCompute Graph 的程序邏輯 . 231
7.1.4 MaxCompute Graph 的Aggregator 機(jī)制/233
7.1.5 MaxCompute Graph 的使用限制 . 236
7.2 使用MaxCompute Graph 計(jì)算單源最短距離 . 236
7.2.1 單源最短距離算法簡(jiǎn)介 236
7.2.2 【實(shí)戰(zhàn)】開(kāi)發(fā)并運(yùn)行單源最短距離算法程序 239

★第8 章 MaxCompute 的權(quán)限與安全 245
8.1 MaxCompute 的權(quán)限與安全簡(jiǎn)介 245
8.2 管理MaxCompute 的用戶 246
8.3 管理MaxCompute 的權(quán)限 247
8.3.1 授權(quán)的三要素 248
8.3.2 項(xiàng)目空間內(nèi)的權(quán)限 249
8.3.3 【實(shí)戰(zhàn)】使用ACL 授權(quán) 250
8.3.4 【實(shí)戰(zhàn)】使用Policy 授權(quán) 252
8.3.5 ACL 授權(quán)與Policy 授權(quán)的區(qū)別 256
8.4 管理MaxCompute 的角色/257
8.4.1 角色的作用 . 257
8.4.2 內(nèi)置角色和自定義角色 258
8.4.3 【實(shí)戰(zhàn)】使用MaxCompute 的角色 259
8.5 LabelSecurity . 260
8.5.1 LabelSecurity 簡(jiǎn)介 260
8.5.2 【實(shí)戰(zhàn)】使用LabelSecurity 260
8.5.3 【實(shí)戰(zhàn)】LabelSecurity 的應(yīng)用場(chǎng)景示例 264
8.6 使用Package 實(shí)現(xiàn)跨項(xiàng)目空間的資源分享 265
8.6.1 什么是跨項(xiàng)目空間的資源分享 265
8.6.2 Package 的創(chuàng)建與使用/266
8.6.3 【實(shí)戰(zhàn)】Package 的應(yīng)用場(chǎng)景示例 . 268
8.7 項(xiàng)目空間的數(shù)據(jù)保護(hù) 270
8.7.1 MaxCompute 的數(shù)據(jù)保護(hù)機(jī)制 271
8.7.2 數(shù)據(jù)保護(hù)機(jī)制下數(shù)據(jù)的流動(dòng) 271

★★第3 篇 阿里云大數(shù)據(jù)的實(shí)時(shí)計(jì)算服務(wù)
★第9 章 消息隊(duì)列Kafka 版 274
9.1 消息隊(duì)列基礎(chǔ) 274
9.1.1 消息隊(duì)列概述/274
9.1.2 消息隊(duì)列的分類(lèi)/275
9.2 消息隊(duì)列Kafka 版的體系架構(gòu) 278
9.2.1 消息服務(wù)器Broker . 279
9.2.2 主題、分區(qū)與副本 279
9.2.3 消息的生產(chǎn)者 . 281
9.2.4 消息的消費(fèi)者 . 283
9.3 快速上手消息隊(duì)列Kafka 版 285
9.3.1 快速入門(mén)操作流程 285
9.3.2 【實(shí)戰(zhàn)】獲取訪問(wèn)授權(quán) 286
9.3.3 【實(shí)戰(zhàn)】購(gòu)買(mǎi)和部署 287
9.3.4 【實(shí)戰(zhàn)】創(chuàng)建資源 . 292
9.3.5 【實(shí)戰(zhàn)】使用管理控制臺(tái)收發(fā)消息 294
9.3.6 【實(shí)戰(zhàn)】實(shí)例運(yùn)行健康自檢指南 296
9.4 消息隊(duì)列Kafka 版應(yīng)用開(kāi)發(fā) 298
9.4.1 【實(shí)戰(zhàn)】開(kāi)發(fā)基本的消息生產(chǎn)者與消費(fèi)者 298
9.4.2 【實(shí)戰(zhàn)】發(fā)送與接收自定義消息 304

★第10 章 實(shí)時(shí)計(jì)算Flink版 313
10.1 實(shí)時(shí)計(jì)算Flink 版基礎(chǔ) 313
10.1.1 什么是實(shí)時(shí)計(jì)算Flink 版 313
10.1.2 實(shí)時(shí)計(jì)算Flink 版的應(yīng)用場(chǎng)景 . 314
10.1.3 【實(shí)戰(zhàn)】快速上手實(shí)時(shí)計(jì)算Flink 版 317
10.2 批處理開(kāi)發(fā)——基于實(shí)時(shí)計(jì)算引擎Flink Dataset . 325
10.2.1 【實(shí)戰(zhàn)】使用map、flatMap 與mapPartition 算子 326
10.2.2 【實(shí)戰(zhàn)】使用filter 與distinct 算子 330