PySpark大數(shù)據(jù)分析實(shí)戰(zhàn)

前言
第1章 初識(shí)PySpark/
1.1 關(guān)于數(shù)據(jù)/
1.2 了解Hadoop/
1.2.1 分布式文件系統(tǒng)HDFS/
1.2.2 分布式計(jì)算框架MapReduce/
1.2.3 資源調(diào)度管理框架YARN/
1.3 了解Hive/
1.4 了解Spark/
1.4.1 Spark是什么/
1.4.2 Spark的發(fā)展歷程/
1.4.3 Spark的特點(diǎn)/
1.4.4 Spark的生態(tài)系統(tǒng)/
1.4.5 Spark的部署模式/
1.4.6 Spark的運(yùn)行架構(gòu)/
1.5 PySpark庫(kù)介紹/
1.6 本章小結(jié)/
第2章 Spark環(huán)境搭建/
2.1 安裝環(huán)境準(zhǔn)備/
2.1.1 操作系統(tǒng)準(zhǔn)備/
2.1.2 Java環(huán)境準(zhǔn)備/
2.1.3 Python環(huán)境準(zhǔn)備/
2.1.4 Spark安裝包下載/
2.1.5 Hadoop安裝包下載/
2.2 Spark本地模式安裝/
2.2.1 使用交互式pyspark運(yùn)行代碼/
2.2.2 寬窄依賴(lài)和階段劃分/
2.2.3 使用spark-submit提交代碼/
2.3 Spark獨(dú)立集群安裝/
2.3.1 配置并啟動(dòng)Spark集群/
2.3.2 使用spark-submit提交代碼/
2.3.3 Spark History Server歷史服務(wù)/
2.3.4 獨(dú)立集群模式的代碼運(yùn)行流程/
2.4 Spark on YARN模式安裝/
2.4.1 安裝Hadoop集群/
2.4.2 格式化NameNode/
2.4.3 啟動(dòng)Hadoop集群/
2.4.4 配置Spark運(yùn)行在YARN上/
2.4.5 使用spark-submit提交代碼/
2.4.6 Spark on YARN模式代碼運(yùn)行流程/
2.5 云服務(wù)模式Databricks介紹/
2.5.1 Databricks基本概念/
2.5.2 創(chuàng)建集群/
2.5.3 數(shù)據(jù)集成/
2.5.4 創(chuàng)建筆記本/
2.5.5 運(yùn)行案例/
2.5.6 創(chuàng)建作業(yè)/
2.5.7 運(yùn)行作業(yè)/
2.5.8 其他類(lèi)型的作業(yè)/
2.6 本章小結(jié)/
第3章 數(shù)據(jù)分析基礎(chǔ)/
3.1 什么是數(shù)據(jù)分析/
3.2 Python數(shù)據(jù)分析工具介紹/
3.2.1 數(shù)學(xué)計(jì)算庫(kù)NumPy介紹/
3.2.2 數(shù)據(jù)分析庫(kù)Pandas介紹/
3.3 數(shù)據(jù)分析圖表介紹/
3.4 Python數(shù)據(jù)可視化工具介紹/
3.4.1 Matplotlib介紹/
3.4.2 Seaborn介紹/
3.4.3 Pyecharts介紹/
3.4.4 三種可視化工具的對(duì)比/
3.5 本章小結(jié)/
第4章 選擇合適的開(kāi)發(fā)工具/
4.1 使用Databricks探索數(shù)據(jù)/
4.1.1 使用筆記本開(kāi)發(fā)代碼/
4.1.2【實(shí)戰(zhàn)案例】阿凡達(dá)電影評(píng)價(jià)分析/
4.2 使用JupyterLab探索數(shù)據(jù)/
4.2.1 創(chuàng)建虛擬環(huán)境/
4.2.2 安裝JupyterLab/
4.2.3 集成Spark引擎/
4.2.4【實(shí)戰(zhàn)案例】二手房數(shù)據(jù)分析/
4.3 使用PyCharm探索數(shù)據(jù)/
4.3.1 安裝PyCharm/
4.3.2 安裝Python/
4.3.3 創(chuàng)建PyCharm項(xiàng)目/
4.3.4 PyCharm插件介紹/
4.3.5【實(shí)戰(zhàn)案例】招聘信息數(shù)據(jù)分析/
4.4 本章小結(jié)/
第5章 核心功能Spark Core/
5.1 SparkContext介紹/
5.2 RDD介紹/
5.3 RDD的特性/
5.4 RDD的創(chuàng)建/
5.4.1 通過(guò)并行化本地集合創(chuàng)建RDD/
5.4.2 通過(guò)外部文件系統(tǒng)數(shù)據(jù)創(chuàng)建RDD/
5.4.3 通過(guò)已存在的RDD衍生新的RDD/
5.5 RDD的算子/
5.5.1 什么是算子/
5.5.2 算子的分類(lèi)/
5.6 常用的Transformation算子/
5.6.1 基本算子/
5.6.2 二元組相關(guān)的算子/
5.6.3 分區(qū)相關(guān)的算子/
5.7 常用的Action算子/
5.7.1 基本算子/
5.7.2 Executor端執(zhí)行的算子/
5.8 RDD的持久化/
5.8.1 緩存/
5.8.2 緩存的特點(diǎn)/
5.8.3 檢查點(diǎn)/
5.8.4 緩存和檢查點(diǎn)的比較/
5.9 共享變量/
5.9.1 廣播變量/
5.9.2 累加器/
5.10【實(shí)戰(zhàn)案例】共享單車(chē)租賃數(shù)據(jù)分析/
5.10.1 數(shù)據(jù)集成/
5.10.2 不同月份的租賃數(shù)據(jù)分析/
5.10.3 不同時(shí)間的租賃數(shù)據(jù)分析/
5.10.4 不同周期的租賃數(shù)據(jù)分析/
5.10.5 不同維度的租賃數(shù)據(jù)分析/
5.10.6 天氣對(duì)租賃需求的影響/
5.10.7 溫度、風(fēng)速對(duì)租賃需求的影響/
5.11 本章小結(jié)/
第6章 結(jié)構(gòu)化數(shù)據(jù)處理Spark SQL/
6.1 Spark SQL概述/
6.1.1 什么是Spark SQL/
6.1.2 Spark SQL的特點(diǎn)/
6.2 Spark SQL的發(fā)展歷程/
6.2.1 從HDFS到Hive/
6.2.2 從Hive到Shark/
6.2.3 從Shark到Spark SQL/
6.3 SparkSession介紹/
6.4 DataFrame概述/
6.4.1 什么是DataFrame/
6.4.2 DataFrame的組成/
6.5 DataFrame的創(chuàng)建/
6.5.1 通過(guò)RDD創(chuàng)建/
6.5.2 通過(guò)Pandas的DataFrame創(chuàng)建/
6.5.3 通過(guò)外部數(shù)據(jù)創(chuàng)建/
6.6 DataFrame的基本操作/
6.6.1 DSL語(yǔ)法風(fēng)格/
6.6.2 Spark Join策略介紹/
6.6.3 SQL語(yǔ)法風(fēng)格/
6.7 DataFrame的函數(shù)操作/
6.7.1 內(nèi)置函數(shù)/
6.7.2 窗口函數(shù)/
6.7.3 自定義函數(shù)/
6.8 DataFrame的數(shù)據(jù)清洗/
6.8.1 刪除重復(fù)行/
6.8.2 缺失值的處理/
6.9 DataFrame的持久化/
6.10 DataFrame的數(shù)據(jù)寫(xiě)出/
6.10.1 寫(xiě)出數(shù)據(jù)到文件/
6.10.2 寫(xiě)出數(shù)據(jù)到數(shù)據(jù)庫(kù)/
6.11【實(shí)戰(zhàn)案例】世界杯數(shù)據(jù)可視化分析/
6.11.1 世界杯成績(jī)匯總信息分析/
6.11.2 世界杯比賽信息分析/
6.12 本章小結(jié)/
第7章 集成Hive數(shù)據(jù)倉(cāng)庫(kù)/
7.1 Spark on Hive操作數(shù)據(jù)倉(cāng)庫(kù)/
7.1.1 安裝Hive/
7.1.2 啟動(dòng)元數(shù)據(jù)服務(wù)/
7.1.3 配置Spark on Hive/
7.1.4 驗(yàn)證Spark on Hive/
7.2 使用MySQL替換Hive元數(shù)據(jù)服務(wù)/
7.2.1 初始化MySQL/
7.2.2 配置Spark on MySQL/
7.2.3 驗(yàn)證Spark on MySQL/
7.3【實(shí)戰(zhàn)案例】基于Hive數(shù)據(jù)倉(cāng)庫(kù)的電商數(shù)據(jù)分析/
7.3.1 數(shù)據(jù)集成/
7.3.2 爆款產(chǎn)品分析/
7.3.3 月交易情況分析/
7.3.4 忠誠(chéng)客戶(hù)分析/
7.3.5 客戶(hù)區(qū)域分析/
7.4 本章小結(jié)/
第8章 Spark Streaming流式數(shù)據(jù)處理/
8.1 流式數(shù)據(jù)處理概述/
8.1.1 靜態(tài)數(shù)據(jù)和流式數(shù)據(jù)/
8.1.2 批量計(jì)算和實(shí)時(shí)計(jì)算/
8.1.3 流式計(jì)算/
8.2 Spark Streaming概述/
8.3 StreamingContext介紹/
8.4 DStream介紹/
8.5 DStream的創(chuàng)建/
8.5.1 通過(guò)文件創(chuàng)建/
8.5.2 通過(guò)套接字創(chuàng)建/
8.5.3 通過(guò)RDD隊(duì)列創(chuàng)建/
8.6 DStream的Transformation操作/
8.6.1 無(wú)狀態(tài)轉(zhuǎn)換/
8.6.2 有狀態(tài)轉(zhuǎn)換/
8.7 DStream的輸出操作/
8.8 DStream的SQL操作/
8.9 DStream的持久化/
8.10【實(shí)戰(zhàn)案例】地震數(shù)據(jù)處理分析/
8.10.1 數(shù)據(jù)集成/
8.10.2 震級(jí)大小分布分析/
8.10.3 震源深度分布分析/
8.10.4 震中坐標(biāo)分布分析/
8.10.5 中等地震分布分析/
8.11 本章小結(jié)/
第9章 Structured Streaming結(jié)構(gòu)化流處理/
9.1 編程模型/
9.1.1 基本概念/
9.1.2 事件時(shí)間和延遲數(shù)據(jù)/
9.1.3 容錯(cuò)語(yǔ)義/
9.2 流式DataFrame的創(chuàng)建/
9.2.1 通過(guò)文件源創(chuàng)建/
9.2.2 通過(guò)Socket源創(chuàng)建/
9.2.3 通過(guò)Rate源創(chuàng)建/
9.2.4 通過(guò)Kafka源創(chuàng)建/
9.3 流式DataFrame的操作/
9.3.1 事件時(shí)間窗口/
9.3.2 處理延遲數(shù)據(jù)和水印/
9.3.3 連接操作/
9.3.4 消除重復(fù)數(shù)據(jù)/
9.3.5 不支持的操作/
9.4 啟動(dòng)流式處理查詢(xún)/
9.4.1 輸出模式/
9.4.2 輸出接收器/
9.4.3 觸發(fā)器/
9.5 管理流式查詢(xún)/
9.6 監(jiān)控流式查詢(xún)/
9.7【實(shí)戰(zhàn)案例】氣象數(shù)據(jù)處理分析/
9.7.1 數(shù)據(jù)集成/
9.7.2 云量分布分析/
9.7.3 氣溫分布分析/
9.7.4 降水量分布分析/
9.8 本章小結(jié)/
第10章 Spark機(jī)器學(xué)習(xí)庫(kù)MLlib/
10.1 機(jī)器學(xué)習(xí)介紹/
10.1.1 基本概念/
10.1.2 評(píng)估指標(biāo)/
10.1.3 主要過(guò)程/
10.1.4 基于大數(shù)據(jù)的機(jī)器學(xué)習(xí)/
10.2 MLlib介紹/
10.3 數(shù)據(jù)預(yù)處理/
10.3.1 缺失值處理/
10.3.2 無(wú)量綱化處理/
10.3.3 特征數(shù)據(jù)處理/
10.4 特征提取和轉(zhuǎn)換/
10.5 回歸算法介紹/
10.5.1 線性回歸算法介紹/
10.5.2 回歸樹(shù)算法介紹/
10.6 分類(lèi)算法介紹/
10.6.1 邏輯回歸算法介紹/
10.6.2 支持向量機(jī)算法介紹/
10.7聚類(lèi)算法介紹/
10.7.1K-means算法介紹/
10.7.2高斯混合模型介紹/
10.8【實(shí)戰(zhàn)案例】信用卡欺詐數(shù)據(jù)分析/
10.8.1 數(shù)據(jù)預(yù)覽/
10.8.2 機(jī)器學(xué)習(xí)訓(xùn)練/
10.9 本章小結(jié)/
第11章 綜合實(shí)戰(zhàn)：基于協(xié)同過(guò)濾的圖書(shū)推薦系統(tǒng)/
11.1 項(xiàng)目介紹/
11.2 協(xié)同過(guò)濾算法/
11.2.1 協(xié)同過(guò)濾算法介紹/
11.2.2 相似度度量/
11.2.3 交替最小二乘法/
11.3 項(xiàng)目實(shí)現(xiàn)/
11.3.1 數(shù)據(jù)集成/
11.3.2 數(shù)據(jù)分析/
11.3.3 結(jié)果導(dǎo)出/
11.4 數(shù)據(jù)可視化/
11.4.1 Flask框架介紹/
11.4.2 推薦結(jié)果展示/
11.5 項(xiàng)目部署/
11.6 本章小結(jié)/
參考文獻(xiàn)/