Spark大數(shù)據(jù)分析實(shí)戰(zhàn)

定　價(jià)：￥79.00

作　者：	張偉洋著
出版社：	清華大學(xué)出版社
叢編項(xiàng)：
標(biāo)　簽：	暫缺

購(gòu)買這本書可以去

ISBN：	9787302556954	出版時(shí)間：	2020-07-01	包裝：	平裝
開本：	16開	頁(yè)數(shù)：	365	字?jǐn)?shù)：

內(nèi)容簡(jiǎn)介

　　本書基于Spark 2.4.x新版本編寫，從Spark核心編程語(yǔ)言Scala講起，涵蓋當(dāng)前整個(gè)Spark生態(tài)系統(tǒng)主流的大數(shù)據(jù)開發(fā)技術(shù)。全書共9章，第1章講解Scala語(yǔ)言的基礎(chǔ)知識(shí)，包括IDEA工具的使用等；第2章講解Spark的主要組件、集群架構(gòu)原理、集群環(huán)境搭建以及Spark應(yīng)用程序的提交和運(yùn)行；第3~9章講解離線計(jì)算框架Spark RDD、Spark SQL和實(shí)時(shí)計(jì)算框架Kafka、Spark Streaming、Structured Streaming以及圖計(jì)算框架GraphX等的基礎(chǔ)知識(shí)、架構(gòu)原理，同時(shí)包括常用Shell命令、API操作、內(nèi)核源碼剖析，并通過(guò)多個(gè)實(shí)際案例講解各個(gè)框架的具體應(yīng)用以及與Hadoop生態(tài)系統(tǒng)框架Hive、HBase、Kafka的整合操作。本書內(nèi)容豐富，以實(shí)操案例為主，理論為輔，可作為Spark新手的入門書，也可作為大數(shù)據(jù)開發(fā)人員和從業(yè)者的學(xué)習(xí)用書，還可以作為培訓(xùn)機(jī)構(gòu)或大中專院校的教學(xué)用書。

作者簡(jiǎn)介

　　張偉洋大數(shù)據(jù)領(lǐng)域資深專家，擁有多年頂j互聯(lián)網(wǎng)公司軟件研發(fā)經(jīng)驗(yàn)，曾在互聯(lián)網(wǎng)旅游公司任軟件研發(fā)事業(yè)部經(jīng)理。目前從事大數(shù)據(jù)項(xiàng)目講師工作，先后多次給各大高校舉行大數(shù)據(jù)專題講座，對(duì)Hadoop及周邊大數(shù)據(jù)框架ZooKeeper、Hive、HBase、Storm、Spark、Flink等有著深入的研究。高等院校云計(jì)算與大數(shù)據(jù)專業(yè)課改教材《云計(jì)算與大數(shù)據(jù)概論》《大數(shù)據(jù)開發(fā)與應(yīng)用》的主要編寫者。

圖書目錄

目錄
第1章 Spark開發(fā)準(zhǔn)備——Scala基礎(chǔ) 1
1.1 什么是SCALA 1
1.2 安裝SCALA 2
1.2.1 在Windows中安裝Scala 2
1.2.2 在CentOS 7中安裝Scala 3
1.3 SCALA基礎(chǔ) 4
1.3.1 變量聲明 4
1.3.2 數(shù)據(jù)類型 5
1.3.3 表達(dá)式 7
1.3.4 循環(huán) 8
1.3.5 方法與函數(shù) 10
1.4 集合 14
1.4.1 數(shù) 組 14
1.4.2 List 16
1.4.3 Map映射 17
1.4.4 元組 19
1.4.5 Set 20
1.5 類和對(duì)象 21
1.5.1 類的定義 21
1.5.2 單例對(duì)象 22
1.5.3 伴生對(duì)象 22
1.5.4 get和set方法 23
1.5.5 構(gòu)造器 25
1.6 抽象類和特質(zhì) 28
1.6.1 抽象類 28
1.6.2 特質(zhì) 30
1.7 使用ECLIPSE創(chuàng)建SCALA項(xiàng)目 31
1.7.1 安裝Scala for Eclipse IDE 31
1.7.2 創(chuàng)建Scala項(xiàng)目 33
1.8 使用INTELLIJ IDEA創(chuàng)建SCALA項(xiàng)目 33
1.8.1 在IDEA中安裝Scala插件 34
1.8.2 創(chuàng)建Scala項(xiàng)目 37
第2章初識(shí)Spark 40
2.1 大數(shù)據(jù)開發(fā)總體架構(gòu) 40
2.2 什么是SPARK 42
2.3 SPARK主要組件 43
2.4 SPARK運(yùn)行時(shí)架構(gòu) 45
2.4.1 YARN集群架構(gòu) 45
2.4.2 Spark Standalone架構(gòu) 49
2.4.3 Spark On YARN架構(gòu) 50
2.5 SPARK集群搭建與測(cè)試 53
2.5.1 Spark Standalone模式的集群搭建 53
2.5.2 Spark On YARN模式的集群搭建 55
2.5.3 Spark HA的搭建 56
2.6 SPARK應(yīng)用程序的提交 60
2.7 SPARK SHELL的使用 63
第3章 Spark RDD彈性分布式數(shù)據(jù)集 66
3.1 什么是RDD 66
3.2 創(chuàng)建RDD 67
3.2.1 從對(duì)象集合創(chuàng)建RDD 67
3.2.2 從外部存儲(chǔ)創(chuàng)建RDD 68
3.3 RDD的算子 69
3.3.1 轉(zhuǎn)化算子 69
3.3.2 行動(dòng)算子 77
3.4 RDD的分區(qū) 78
3.4.1 分區(qū)數(shù)量 79
3.4.2 自定義分區(qū)器 88
3.5 RDD的依賴 93
3.5.1 窄依賴 94
3.5.2 寬依賴 94
3.5.3 Stage劃分 95
3.6 RDD的持久化 97
3.6.1 存儲(chǔ)級(jí)別 98
3.6.2 查看緩存 100
3.7 RDD的檢查點(diǎn) 102
3.8 共享變量 104
3.8.1 廣播變量 104
3.8.2 累加器 106
3.9 案例分析：SPARK RDD實(shí)現(xiàn)單詞計(jì)數(shù) 107
3.10 案例分析：SPARK RDD實(shí)現(xiàn)分組求TOPN 116
3.11 案例分析：SPARK RDD實(shí)現(xiàn)二次排序 120
3.12 案例分析：SPARK RDD計(jì)算成績(jī)平均分 124
3.13 案例分析：SPARK RDD倒排索引統(tǒng)計(jì)每日新增用戶 126
3.14 案例分析：SPARK RDD讀寫HBASE 130
3.14.1 讀取HBase表數(shù)據(jù) 131
3.14.2 寫入HBase表數(shù)據(jù) 134
3.15 案例分析：SPARK RDD數(shù)據(jù)傾斜問(wèn)題解決 143
3.15.1 數(shù)據(jù)傾斜的常用解決方法 144
3.15.2 使用隨機(jī)key進(jìn)行雙重聚合 145
3.15.3 WebUI查看Spark歷史作業(yè) 149
第4章 Spark內(nèi)核源碼分析 151
4.1 SPARK集群?jiǎn)?dòng)原理分析 151
4.2 SPARK應(yīng)用程序提交原理分析 162
4.3 SPARK作業(yè)工作原理分析 175
4.3.1 MapReduce的工作原理 175
4.3.2 Spark作業(yè)工作的原理 177
4.4 SPARK檢查點(diǎn)原理分析 191
第5章 Spark SQL結(jié)構(gòu)化數(shù)據(jù)處理引擎 196
5.1 什么是SPARK SQL 196
5.2 DATAFRAME和DATASET 197
5.3 SPARK SQL的基本使用 198
5.4 SPARK SQL數(shù)據(jù)源 201
5.4.1 基本操作 201
5.4.2 Parquet文件 206
5.4.3 JSON數(shù)據(jù)集 209
5.4.4 Hive表 211
5.4.5 JDBC 213
5.5 SPARK SQL內(nèi)置函數(shù) 214
5.5.1 自定義函數(shù) 216
5.5.2 自定義聚合函數(shù) 218
5.5.3 開窗函數(shù) 220
5.6 案例分析：使用SPARK SQL實(shí)現(xiàn)單詞計(jì)數(shù) 223
5.7 案例分析：SPARK SQL與HIVE整合 228
5.7.1 整合Hive的步驟 228
5.7.2 操作Hive的幾種方式 231
5.8 案例分析：SPARK SQL讀寫MYSQL 233
5.9 案例分析：SPARK SQL每日UV統(tǒng)計(jì) 238
5.10 案例分析：SPARK SQL熱點(diǎn)搜索詞統(tǒng)計(jì) 241
5.11 綜合案例：SPARK SQL智慧交通數(shù)據(jù)分析 244
5.11.1 項(xiàng)目介紹 244
5.11.2 數(shù)據(jù)準(zhǔn)備 246
5.11.3 統(tǒng)計(jì)正?？跀?shù)量 249
5.11.4 統(tǒng)計(jì)車流量排名前3的卡口號(hào) 249
5.11.5 統(tǒng)計(jì)車輛高速通過(guò)的卡口TOP5 250
5.11.6 統(tǒng)計(jì)每個(gè)卡口通過(guò)速度最快的前3輛車 254
5.11.7 車輛軌跡分析 255
第6章 Kafka分布式消息系統(tǒng) 256
6.1 什么是KAFKA 256
6.2 KAFKA架構(gòu) 257
6.3 主題與分區(qū) 259
6.4 分區(qū)副本 260
6.5 消費(fèi)者組 262
6.6 數(shù)據(jù)存儲(chǔ)機(jī)制 264
6.7 集群環(huán)境搭建 266
6.8 命令行操作 268
6.8.1 創(chuàng)建主題 268
6.8.2 查詢主題 269
6.8.3 創(chuàng)建生產(chǎn)者 269
6.8.4 創(chuàng)建消費(fèi)者 270
6.9 JAVA API操作 271
6.9.1 創(chuàng)建Java工程 271
6.9.2 創(chuàng)建生產(chǎn)者 271
6.9.3 創(chuàng)建消費(fèi)者 273
6.9.4 運(yùn)行程序 275
6.10 案例分析：KAFKA生產(chǎn)者攔截器 277
第7章 Spark Streaming實(shí)時(shí)流處理引擎 285
7.1 什么是SPARK STREAMING 285
7.2 SPARK STREAMING工作原理 286
7.3 輸入DSTREAM和RECEIVER 287
7.4 第一個(gè)SPARK STREAMING程序 288
7.5 SPARK STREAMING數(shù)據(jù)源 290
7.5.1 基本數(shù)據(jù)源 290
7.5.2 高級(jí)數(shù)據(jù)源 292
7.5.3 自定義數(shù)據(jù)源 293