精通Spark數(shù)據(jù)科學(xué)

第 1章　數(shù)據(jù)科學(xué)生態(tài)系統(tǒng)\t1
1．1　大數(shù)據(jù)生態(tài)系統(tǒng)簡介　1
1．1．1　數(shù)據(jù)管理　2
1．1．2　數(shù)據(jù)管理職責(zé)　2
1．1．3　合適的工具　4
1．2　數(shù)據(jù)架構(gòu)　4
1．2．1　數(shù)據(jù)采集　5
1．2．2　數(shù)據(jù)湖　6
1．2．3　數(shù)據(jù)科學(xué)平臺　7
1．2．4　數(shù)據(jù)訪問　8
1．3　數(shù)據(jù)處理技術(shù)　8
1．4　配套工具　10
1．4．1　Apache HDFS　10
1．4．2　亞馬遜S3　12
1．4．3　Apache Kafka　13
1．4．4　Apache Parquet　14
1．4．5　Apache Avro　15
1．4．6　Apache NiFi　16
1．4．7　Apache YARN　17
1．4．8　Apache Lucene　18
1．4．9　Kibana　19
1．4．10　Elasticsearch　20
1．4．11　Accumulo　21
1．5　小結(jié)　22
第 2章　數(shù)據(jù)獲取　23
2．1　數(shù)據(jù)管道　23
2．1．1　通用采集框架　24
2．1．2　GDELT數(shù)據(jù)集簡介　25
2．2　內(nèi)容登記　32
2．2．1　選擇和更多選擇　32
2．2．2　隨流而行　32
2．2．3　元數(shù)據(jù)模型　33
2．2．4　Kibana儀表盤　35
2．3　質(zhì)量保證　36
2．3．1　案例1——基本質(zhì)量檢查，無爭用用戶　36
2．3．2　案例2——進(jìn)階質(zhì)量檢查，無爭用用戶　36
2．3．3　案例3——基本質(zhì)量檢查，50%使用率爭用用戶　37
2．4　小結(jié)　37
第3章　輸入格式與模式　39
3．1　結(jié)構(gòu)化的生活是美好的生活　40
3．2　GDELT維度建?！?0
3．3　加載數(shù)據(jù)　48
3．3．1　模式敏捷性　49
3．3．2　GKG ELT　51
3．4　Avro　54
3．4．1　Spark-Avro方法　55
3．4．2　教學(xué)方法　57
3．4．3　何時執(zhí)行Avro轉(zhuǎn)換　61
3．5　Apache Parquet　62
3．6　小結(jié)　63
第4章　探索性數(shù)據(jù)分析　64
4．1　問題、原則與規(guī)劃　65
4．1．1　理解EDA問題　65
4．1．2　設(shè)計原則　65
4．1．3　探索的總計劃　66
4．2　準(zhǔn)備工作　67
4．2．1　基于掩碼的數(shù)據(jù)剖析簡介　67
4．2．2　字符類掩碼簡介　71
4．2．3　構(gòu)建基于掩碼的剖析器　73
4．3　探索GDELT　86
4．4　小結(jié)　107
第5章　利用Spark進(jìn)行地理分析　108
5．1　GDELT和石油　108
5．1．1　GDELT事件　109
5．1．2　GDELT GKG　110
5．2　制訂行動計劃　110
5．3　GeoMesa　111
5．3．1　安裝　112
5．3．2　GDELT采集　112
5．3．3　GeoMesa采集　113
5．3．4　GeoHash　117
5．3．5　GeoServer　120
5．4　計量油價　123
5．4．1　使用GeoMesa查詢API　123
5．4．2　數(shù)據(jù)準(zhǔn)備　125
5．4．3　機器學(xué)習(xí)　130
5．4．4　樸素貝葉斯　131
5．4．5　結(jié)果　132
5．4．6　分析　133
5．5　小結(jié)　134
第6章　采集基于鏈接的外部數(shù)據(jù)　135
6．1　構(gòu)建一個大規(guī)模的新聞掃描器　135
6．1．1　訪問Web內(nèi)容　136
6．1．2　與Spark集成　138
6．1．3　創(chuàng)建可擴展的生產(chǎn)準(zhǔn)備庫　139
6．2　命名實體識別　142
6．2．1　Scala庫　143
6．2．2　NLP攻略　143
6．2．3　構(gòu)建可擴展代碼　146
6．3　GIS查詢　148
6．3．1　GeoNames數(shù)據(jù)集　148
6．3．2　構(gòu)建高效的連接　149
6．3．3　內(nèi)容除重　153
6．4　名字除重　154
6．4．1　用Scalaz進(jìn)行函數(shù)式編程　155
6．4．2　簡單清洗　158
6．4．3　DoubleMetaphone算法　158
6．5　新聞索引儀表板　160
6．6　小結(jié)　162
第7章　構(gòu)建社區(qū)　163
7．1　構(gòu)建一個人物圖譜　163
7．1．1　聯(lián)系鏈　164
7．1．2　從Elasticsearch中提取數(shù)據(jù)　166
7．2　使用Accumulo數(shù)據(jù)庫　168
7．2．1　設(shè)置Accumulo　168
7．2．2　單元級安全　169
7．2．3　迭代器　170
7．2．4　從Elasticsearch到Accumulo　170
7．2．5　從Accumulo讀取　173
7．2．6　AccumuloGraphxInputFormat和EdgeWritable　175
7．2．7　構(gòu)建圖　175
7．3　社區(qū)發(fā)現(xiàn)算法　177
7．3．1　Louvain算法　177
7．3．2　加權(quán)社區(qū)聚類　178
7．4　GDELT數(shù)據(jù)集　193
7．4．1　Bowie 效應(yīng)　194
7．4．2　較小的社區(qū)　195
7．4．3　使用Accumulo單元級的安全性　196
7．5　小結(jié)　197
第8章　構(gòu)建推薦系統(tǒng)　198
8．1　不同的方法　198
8．1．1　協(xié)同過濾　199
8．1．2　基于內(nèi)容的過濾　199
8．1．3　自定義的方法　199
8．2　信息不完整的數(shù)據(jù)　200
8．2．1　處理字節(jié)　200
8．2．2　創(chuàng)建可擴展的代碼　203
8．2．3　從時域到頻域　204
8．3　構(gòu)建歌曲分析器　209
8．4　構(gòu)建一個推薦系統(tǒng)　214
8．4．1　PageRank算法　214
8．4．2　構(gòu)建個性化的播放列表　217
8．5　擴大“蛋糕廠”規(guī)模　217
8．5．1　構(gòu)建播放列表服務(wù)　217
8．5．2　應(yīng)用Spark任務(wù)服務(wù)器　219
8．5．3　用戶界面　223
8．6　小結(jié)　224
第9章　新聞詞典和實時標(biāo)記系統(tǒng)　226
9．1　土耳其機器人　226
9．1．1　人類智能任務(wù)　227
9．1．2　引導(dǎo)分類模型　227
9．1．3　懶惰、急躁、傲慢　233
9．2　設(shè)計Spark Streaming應(yīng)用　234
9．2．1　兩個架構(gòu)的故事　234
9．2．2　Lambda架構(gòu)的價值　237
9．2．3　Kappa架構(gòu)的價值　239
9．3　消費數(shù)據(jù)流　240
9．3．1　創(chuàng)建GDELT數(shù)據(jù)流　240
9．3．2　創(chuàng)建Twitter數(shù)據(jù)流　242
9．4　處理Twitter數(shù)據(jù)　243
9．4．1　提取URL和主題標(biāo)簽　244
9．4．2　保存流行的主題標(biāo)簽　245
9．4．3　擴展縮短的URL　246
9．5　獲取HTML內(nèi)容　248
9．6　使用Elasticsearch作為緩存層　249
9．7　分類數(shù)據(jù)　252
9．7．1　訓(xùn)練樸素貝葉斯模型　253
9．7．2　確保線程安全　254
9．7．3　預(yù)測GDELT數(shù)據(jù)　255
9．8　Twitter土耳其機器人　256
9．9　小結(jié)　258
第 10章　故事除重和變遷　260
10．1　檢測近似重復(fù)　260
10．1．1　從散列開始第 一步　262
10．1．2　站在“互聯(lián)網(wǎng)巨人”的肩膀上　263
10．1．3　檢測GDELT中的近似重復(fù)　266
10．1．4　索引GDELT數(shù)據(jù)庫　271
10．2　構(gòu)建故事　275
10．2．1　構(gòu)建詞頻向量　275
10．2．2　維度災(zāi)難，數(shù)據(jù)科學(xué)之痛　277
10．2．3　優(yōu)化KMeans　278
10．3　故事變遷　281
10．3．1　平衡態(tài)　281
10．3．2　隨時間追蹤故事　283
10．3．3　構(gòu)建故事的關(guān)聯(lián)　290
10．4　小結(jié)　294
第 11章　情感分析中的異常檢測　295
11．1　在Twitter上追蹤美國大選　296
11．1．1　流式獲取數(shù)據(jù)　296
11．1．2　成批獲取數(shù)據(jù)　297
11．2　情感分析　300
11．2．1　格式化處理Twitter數(shù)據(jù)　300
11．2．2　使用斯坦福NLP　302
11．2．3　建立管道　304
11．3　使用Timely作為時間序列數(shù)據(jù)庫　306
11．3．1　存儲數(shù)據(jù)　306
11．3．2　使用Grafana可視化情感　309
11．4　Twitter與戈德溫（Godwin）點　311
11．4．1　學(xué)習(xí)環(huán)境　311
11．4．2　對模型進(jìn)行可視化　314
11．4．3　Word2Graph和戈德溫點　315
11．5　進(jìn)入檢測諷刺的一小步　320
11．5．1　構(gòu)建特征　320
11．5．2　檢測異?！?24
11．6　小結(jié)　325
第 12章　趨勢演算　326
12．1　研究趨勢　327
12．2　趨勢演算算法　328
12．2．1　趨勢窗口　328
12．2．2　簡單趨勢　331
12．2．3　用戶定義聚合函數(shù)　332
12．2．4　簡單趨勢計算　337
12．2．5　反轉(zhuǎn)規(guī)則　339
12．2．6　FHLS條狀圖介紹　341
12．2．7　可視化數(shù)據(jù)　343
12．3　實際應(yīng)用　351
12．3．1　算法特性　352
12．3．2　潛在的用例　352
12．4　小結(jié)　353
第 13章　數(shù)據(jù)保護(hù)　354
13．1　數(shù)據(jù)安全性　354
13．1．1　存在的問題　355
13．1．2　基本操作　355
13．2　認(rèn)證和授權(quán)　356
13．3　訪問　358
13．4　加密　359
13．4．1　數(shù)據(jù)處于靜態(tài)時　359
13．4．2　數(shù)據(jù)處于傳輸時　368
13．4．3　混淆/匿名　369
13．4．4　遮罩　372
13．4．5　令牌化　375
13．5　數(shù)據(jù)處置　377
13．6　Kerberos認(rèn)證　378
13．6．1　用例1：Apache Spark在受保護(hù)的HDFS中訪問數(shù)據(jù)　379
13．6．2　用例2：擴展到自動身份驗證　381
13．6．3　用例3：從Spark連接到安全數(shù)據(jù)庫　381
13．7　安全生態(tài)　383
13．7．1　Apache Sentry　383
13．7．2　RecordService　384
13．8　安全責(zé)任　385
13．9　小結(jié)　386
第 14章　可擴展算法　387
14．1　基本原則　387
14．2　Spark架構(gòu)　390
14．2．1　Spark的歷史　390
14．2．2　動態(tài)組件　391
14．3　挑戰(zhàn)　395
14．3．1　算法復(fù)雜性　395
14．3．2　數(shù)值異?！?95
14．3．3　洗牌　398
14．3．4　數(shù)據(jù)模式　398
14．4　規(guī)劃你的路線　399
14．5　設(shè)計模式和技術(shù)　409
14．5．1　Spark API　410
14．5．2　摘要模式　411
14．5．3　擴展并解決模式　411
14．5．4　輕量級洗牌　412
14．5．5　寬表模式　414
14．5．6　廣播變量模式　415
14．5．7　組合器模式　416
14．5．8　集群優(yōu)化　420
14．5．9　再分配模式　422
14．5．10　加鹽鍵模式　423
14．5．11　二次排序模式　424
14．5．12　過濾過度模式　426
14．5．13　概率算法　426
14．5．14　選擇性緩存　427
14．5．15　垃圾回收　428
14．5．16　圖遍歷　429
14．6　小結(jié)　430