Hive入門與大數(shù)據(jù)分析實戰(zhàn)

第1章  數(shù)據(jù)倉庫與Hive1
1.1  數(shù)據(jù)倉庫概述1
1.1.1  數(shù)據(jù)倉庫特征與重要概念1
1.1.2  數(shù)據(jù)倉庫的數(shù)據(jù)存儲方式2
1.2  Hive數(shù)據(jù)倉庫簡介5
1.3  Hive版本和MapReduce版本的WordCount比較6
1.4  Hive和Hadoop的關(guān)系7
1.5  Hive和關(guān)系數(shù)據(jù)庫的異同8
1.6  Hive數(shù)據(jù)存儲簡介9
第2章  Hive部署與基本操作11
2.1  Linux環(huán)境的搭建11
2.1.1  VirtualBox虛擬機安裝11
2.1.2  安裝Linux操作系統(tǒng)13
2.1.3  SSH工具與使用19
2.1.4  Linux統(tǒng)一設(shè)置21
2.2  Hadoop偽分布式環(huán)境的搭建23
2.2.1  安裝本地模式運行的Hadoop23
2.2.2  Hadoop偽分布式環(huán)境的準備25
2.2.3  Hadoop偽分布式的安裝29
2.3  Hadoop完全分布式環(huán)境的搭建35
2.3.1  Hadoop完全分布式集群的搭建35
2.3.2  ZooKeeper高可靠集群的搭建40
2.3.3  Hadoop高可靠集群的搭建44
2.4  Hive的安裝與配置53
2.4.1  Hive的安裝與啟動53
2.4.2  基本的SQL操作命令54
2.5  Hive的一些命令56
2.5.1  顯示Hive的幫助56
2.5.2  顯示Hive某個命令的幫助56
2.5.3  變量與屬性56
2.5.4  指定SQL語句或文件57
2.5.5  顯示表頭58
2.6  Hive元數(shù)據(jù)庫58
2.6.1  Derby58
2.6.2  MySQL60
2.7  MySQL的安裝61
2.8  配置MySQL保存Hive元數(shù)據(jù)62
2.9  HiveServer2與Beeline配置65
第3章  Hive語法基礎(chǔ)68
3.1  數(shù)據(jù)類型列表68
3.2  集合類型69
3.2.1  array測試70
3.2.2  map測試71
3.2.3  struct測試71
3.3  數(shù)據(jù)類型轉(zhuǎn)換72
3.4  運算符73
3.5  Hive表存儲格式74
3.6  Hive的其他操作命令75
3.7  Hive分析Tomcat日志案例76
第4章  Hive數(shù)據(jù)定義79
4.1  數(shù)據(jù)庫的增刪改查79
4.1.1  在默認位置創(chuàng)建數(shù)據(jù)庫79
4.1.2  指定目錄創(chuàng)建數(shù)據(jù)庫80
4.1.3  顯示當前使用的數(shù)據(jù)庫81
4.1.4  刪除數(shù)據(jù)庫81
4.2  創(chuàng)建內(nèi)部表81
4.3  使用關(guān)鍵字external創(chuàng)建外部表83
4.3.1  指定現(xiàn)有目錄84
4.3.2  先創(chuàng)建表，再指定目錄84
4.3.3  顯示某個表或某個分區(qū)的信息85
4.4  創(chuàng)建分桶表86
4.5  分區(qū)表89
4.5.1  創(chuàng)建和顯示分區(qū)表89
4.5.2  增加、刪除和修改分區(qū)90
4.6  顯示某張表的詳細信息92
4.7  指定輸入輸出都是SequenceFile類型94
4.8  關(guān)于視圖94
4.8.1  使用視圖降低查詢的復(fù)雜度94
4.8.2  查看視圖的信息95
4.8.3  刪除視圖95
第5章  Hive數(shù)據(jù)操作96
5.1  向表中裝載數(shù)據(jù)96
5.2  通過Insert向表中插入數(shù)據(jù)97
5.3  動態(tài)分區(qū)插入數(shù)據(jù)98
5.4  創(chuàng)建表并插入數(shù)據(jù)100
5.5  導(dǎo)出數(shù)據(jù)100
第6章  Hive查詢103
6.1  SelectFrom語句103
6.2  Select基本查詢104
6.3  Where語句105
6.4  Group By語句107
6.5  Join語句108
6.6  排序110
6.6.1  Order By110
6.6.2  Sort By112
6.6.3  Distribute By113
6.6.4  Cluster By114
6.7  抽樣查詢114
第7章  Hive函數(shù)117
7.1  查看系統(tǒng)內(nèi)置函數(shù)117
7.2  常用內(nèi)置函數(shù)117
7.3  Hive的其他函數(shù)121
7.3.1  準備數(shù)據(jù)121
7.3.2  其他函數(shù)的使用121
7.3.3  顯示某個函數(shù)的幫助信息131
7.4  自定義函數(shù)132
7.4.1  Hive自定義UDF的過程132
7.4.2  Hive UDTF函數(shù)135
第8章  Hive數(shù)據(jù)壓縮138
8.1  數(shù)據(jù)壓縮格式138
8.2  數(shù)據(jù)壓縮配置139
8.2.1  Snappy壓縮方式配置139
8.2.2  MapReduce支持的壓縮編碼141
8.2.3  MapReduce壓縮參數(shù)配置142
8.3  開啟Map端和Reduce端的輸出壓縮142
8.4  常用Hive表存儲格式比較144
8.5  存儲與壓縮相結(jié)合148
第9章  Hive調(diào)優(yōu)151
9.1  Hadoop計算框架特性151
9.2  Hive優(yōu)化的常用手段151
9.3  Hive優(yōu)化要點152
9.3.1  全排序152
9.3.2  怎樣做笛卡兒積156
9.3.3  怎樣寫exist/in子句156
9.3.4  怎樣決定Reducer個數(shù)156
9.3.5  合并MapReduce操作157
9.3.6  Bucket與Sampling157
9.3.7  Partition158
9.3.8  Join158
9.3.9  數(shù)據(jù)傾斜160
9.3.10  合并小文件161
9.3.11  Group By163
第10章  基于Hive的網(wǎng)站流量分析項目實戰(zhàn)164
10.1  項目需求及分析164
10.1.1  數(shù)據(jù)集及數(shù)據(jù)說明164
10.1.2  功能需求165
10.2  利用Java實現(xiàn)數(shù)據(jù)清洗165
10.2.1  數(shù)據(jù)上傳到HDFS166
10.2.2  http.log數(shù)據(jù)清洗166
10.2.3  phone.txt數(shù)據(jù)清洗170
10.3  利用MySQL實現(xiàn)數(shù)據(jù)清洗173
10.3.1  http.log數(shù)據(jù)清洗173
10.3.2  phone.txt數(shù)據(jù)清洗175
10.4  數(shù)據(jù)分析的實現(xiàn)176
10.4.1  創(chuàng)建Hive庫和表176
10.4.2  使用SQL進行數(shù)據(jù)分析176
第11章  旅游酒店評價大數(shù)據(jù)分析項目實戰(zhàn)180
11.1  項目介紹180
11.2  項目需求及分析181
11.2.1  數(shù)據(jù)集及數(shù)據(jù)說明181
11.2.2  功能需求183
11.3  利用Java實現(xiàn)數(shù)據(jù)清洗184
11.3.1  本地Hadoop運行環(huán)境搭建184
11.3.2  數(shù)據(jù)上傳到HDFS186
11.3.3  Hadoop數(shù)據(jù)清洗189
11.4  利用MySQL實現(xiàn)數(shù)據(jù)清洗192
10.4.1  hotelbasic.csv數(shù)據(jù)清洗192
10.4.2  hoteldata.csv數(shù)據(jù)清洗193
11.5  數(shù)據(jù)分析的實現(xiàn)194
11.5.1  構(gòu)建Hive數(shù)據(jù)倉庫表194
11.5.2  導(dǎo)出結(jié)果數(shù)據(jù)到MySQL197
11.6  分析結(jié)果數(shù)據(jù)可視化200
11.6.1  數(shù)據(jù)可視化開發(fā)200
11.6.2  數(shù)據(jù)可視化部署208