大數(shù)據(jù)搜索與挖掘及可視化管理方案（第4版）

目錄

第1章概述1
1.1Elasticsearch概述3
1.1.1Elasticsearch的安裝與簡單配置4
1.1.2Elasticsearch API的使用方式7
1.2Logstash7
1.3Kibana8
1.4Beats8
1.5XPack9
1.6其他9
1.7擴展知識與閱讀9
1.8本章小結(jié)10
第2章文檔索引及管理11
2.1文檔索引概述11
2.2head： Elasticsearch用于數(shù)據(jù)管理的工具之一13
2.3建立索引15
2.4通過映像配置索引20
2.4.1在索引中使用映像20
2.4.2管理/配置映像21
2.4.3獲取映像信息22
2.4.4刪除映像23
2.5管理索引文件24
2.5.1打開、關(guān)閉、檢測、刪除索引文件24
2.5.2清空索引緩存25
2.5.3刷新索引文件25
2.5.4優(yōu)化索引文件26[1][2][1][3]2.5.5flush操作26
2.6設(shè)置中文分析器26
2.7對文檔的其他操作29
2.7.1獲取指定文檔的信息29
2.7.2刪除指定文檔的信息31
2.7.3更新指定文檔的信息31
2.7.4基于POST方式批量獲取文檔信息34
2.8實例36
2.9擴展知識與閱讀40
2.10本章小結(jié)41
第3章信息檢索與聚合42
3.1實驗數(shù)據(jù)集描述43
3.2基本檢索44
3.2.1檢索方式44
3.2.2query查詢45
3.2.3from/size查詢46
3.2.4檢索結(jié)果排序46
3.2.5高亮搜索詞49
3.2.6查詢模板50
3.3檢索進(jìn)階51
3.3.1全文檢索51
3.3.2詞項檢索55
3.3.3復(fù)合查詢58
3.3.4跨度查詢61
3.3.5特殊查詢64
3.3.6腳本65
3.4聚合68
3.4.1metric聚合69
3.4.2bucket聚合74
3.4.3pipeline聚合83
3.4.4matrix聚合87
3.5實例88
3.6擴展知識與閱讀94
3.7本章小結(jié)95
第4章Elasticsearch API及其應(yīng)用96
4.1Elasticsearch節(jié)點實例化96
4.1.1在Java中初始化Elasticsearch96
4.1.2在Python中初始化Elasticsearch100
4.2索引數(shù)據(jù)101
4.2.1準(zhǔn)備JSON數(shù)據(jù)101
4.2.2為JSON數(shù)據(jù)生成索引103
4.3對索引文件的操作106
4.3.1獲取索引中的文檔數(shù)據(jù)106
4.3.2刪除索引文件中的文檔數(shù)據(jù)108
4.3.3更新索引文件中的文檔數(shù)據(jù)109
4.3.4對索引文件中的文檔進(jìn)行批量操作110
4.4信息檢索112
4.4.1概述113
4.4.2multiSearch114
4.4.3查詢模板115
4.4.4Query DSL概述117
4.4.5matchAllQuery117
4.4.6全文檢索118
4.4.7詞項檢索121
4.4.8復(fù)合查詢125
4.4.9跨度查詢127
4.4.10特殊查詢130
4.5聚合132
4.5.1Metric聚合132
4.5.2bucket聚合136
4.6對檢索結(jié)果的進(jìn)一步處理140
4.6.1控制每頁的顯示數(shù)量及排序依據(jù)140
4.6.2基于scroll分頁顯示檢索結(jié)果140
4.7Java High Level RESTful Client和Elasticsearch DSL142
4.7.1Java High Level RESTful Client142
4.7.2Elasticsearch DSL146
4.8實例148
4.8.1在Elasticsearch中建立索引148
4.8.2連接Elasticsearch149
4.8.3信息采集與索引構(gòu)建150
4.8.4搜索模塊152
4.8.5推薦模塊153
4.8.6聚合模塊154
4.9擴展知識與閱讀155
4.10本章小結(jié)156
第5章Elasticsearch配置與集群管理157
5.1Elasticsearch的部分基本配置157
5.2索引文件和查詢優(yōu)化160
5.3監(jiān)控集群狀態(tài)161
5.4控制索引文件分片與副本分配163
5.5集群管理165
5.6擴展知識與閱讀166
5.7本章小結(jié)167
第6章基于Logstash的日志處理168
6.1概述169
6.2input： 處理輸入的日志數(shù)據(jù)171
6.2.1處理基于file方式輸入的日志信息172
6.2.2處理基于generator產(chǎn)生的日志信息173
6.2.3基于Filebeat處理log4j的日志信息174
6.2.4處理基于redis的日志信息176
6.2.5處理基于TCP傳輸?shù)娜罩緮?shù)據(jù)179
6.2.6處理基于UDP傳輸?shù)娜罩緮?shù)據(jù)183
6.3codec： 格式化日志數(shù)據(jù)185
6.3.1json格式185
6.3.2rubydebug格式187
6.3.3plain格式187
6.4基于filter的日志處理與轉(zhuǎn)換188
6.4.1json filter189
6.4.2grok filter190
6.4.3kv filter192
6.5output： 輸出日志數(shù)據(jù)195
6.5.1將處理后的日志輸出到Elasticsearch中195
6.5.2將處理后的日志輸出到文件中197
6.5.3將處理后的日志輸出到csv文件中198
6.5.4將處理后的日志輸出到redis中199
6.5.5將處理后的日志通過UDP輸出201
6.5.6將處理后的日志通過TCP輸出202
6.5.7將日志信息發(fā)送至Email206
6.6擴展知識與閱讀208
6.7本章小結(jié)209
第7章基于Kibana的數(shù)據(jù)分析及可視化210
7.1Kibana概述211
7.2安裝Kibana211
7.3使用Management組件管理配置212
7.3.1創(chuàng)建索引模式213
7.3.2高級設(shè)置214
7.3.3管理已保存的檢索、可視化和儀表板218
7.4使用Discover組件執(zhí)行查詢219
7.4.1設(shè)置時間選擇器219
7.4.2在索引模式中執(zhí)行搜索220
7.4.3字段過濾221
7.4.4查看文檔數(shù)據(jù)222
7.5使用Visualize組件創(chuàng)建統(tǒng)計圖表224
7.6使用Dashboard組件創(chuàng)建動態(tài)儀表板226
7.6.1創(chuàng)建新的動態(tài)儀表板227
7.6.2打開已保存的動態(tài)儀表板228
7.6.3分享動態(tài)儀表板228
7.7使用Timelion組件創(chuàng)建時間線229
7.8使用Dev Tools執(zhí)行命令行231
7.8.1在Console中執(zhí)行命令231
7.8.2Console快捷鍵233
7.8.3Console設(shè)置234
7.9網(wǎng)站性能監(jiān)控可視化應(yīng)用實例234
7.9.1概述234
7.9.2使用Visualize實現(xiàn)可視化234
7.9.3使用Dashboard整合可視化結(jié)果238
7.10擴展知識與閱讀239
7.11本章小結(jié)240
第8章基于XPack的系統(tǒng)運行監(jiān)控241
8.1XPack概述241
8.2安裝XPack242
8.3Security插件與安全性243
8.3.1身份驗證機制與用戶管理243
8.3.2匿名訪問246
8.3.3基于域的用戶認(rèn)證247
8.3.4基于角色的訪問權(quán)限配置248
8.3.5IP地址過濾251
8.3.6帶有身份認(rèn)證的TransportClient253
8.3.7帶有身份認(rèn)證的RESTful命令256
8.4使用Monitoring監(jiān)控系統(tǒng)運行狀態(tài)256
8.4.1系統(tǒng)運行狀態(tài)監(jiān)控256
8.4.2配置Monitoring260
8.4.3搭建獨立的Monitoring集群262
8.5Alerting插件與異常事件警報263
8.5.1通過RESTful方式設(shè)置監(jiān)視器264
8.5.2通過Java程序設(shè)置監(jiān)視器267
8.5.3使用Watcher UI管理監(jiān)視器269
8.6Reporting與報告生成270
8.6.1在程序中生成報告270
8.6.2通過監(jiān)視器自動生成報告271
8.7使用Graph探索數(shù)據(jù)關(guān)聯(lián)273
8.8使用Machine Learning發(fā)現(xiàn)數(shù)據(jù)趨勢異常275
8.9使用Search Profiler分析搜索查詢277
8.10使用Grok Debugger調(diào)試grok表達(dá)式279
8.11擴展知識與閱讀280
8.12本章小結(jié)280
第9章基于Beats的數(shù)據(jù)解析傳輸281
9.1基于packetbeat的網(wǎng)絡(luò)數(shù)據(jù)包傳輸282
9.1.1概述282
9.1.2安裝282
9.1.3配置283
9.1.4加載索引模板285
9.1.5啟動和關(guān)閉286
9.1.6使用Kibana進(jìn)行可視化展示287
9.2基于Filebeat的日志傳輸288
9.2.1概述288
9.2.2安裝和配置288
9.2.3啟動和關(guān)閉291
9.2.4使用Kibana進(jìn)行展示291
9.3基于metricbeat的系統(tǒng)指標(biāo)數(shù)據(jù)傳輸292
9.3.1概述292
9.3.2安裝和配置293
9.3.3啟動和關(guān)閉294
9.3.4使用Kibana進(jìn)行展示295
9.4基于winlogbeat的Windows事件日志數(shù)據(jù)傳輸296
9.4.1概述296
9.4.2安裝297
9.4.3配置298
9.4.4啟動和關(guān)閉301
9.4.5使用Kibana進(jìn)行展示302
9.5基于auditbeat的用戶和進(jìn)程活動審計304
9.5.1概述304
9.5.2安裝和配置304
9.5.3啟動和關(guān)閉305
9.5.4使用Kibana進(jìn)行展示306
9.6基于heartbeat的服務(wù)狀態(tài)檢測308
9.6.1概述308
9.6.2安裝和配置308
9.6.3啟動和關(guān)閉311
9.6.4使用Kibana進(jìn)行展示311
9.7擴展知識與閱讀313
9.8本章小結(jié)313
第10章信息檢索與分析實例（一）314
10.1基于Elasticsearch的行業(yè)信息存儲314
10.1.1環(huán)境準(zhǔn)備314
10.1.2數(shù)據(jù)準(zhǔn)備315
10.2基于Spring Boot的信息檢索及Web端設(shè)計317
10.2.1創(chuàng)建和配置工程317
10.2.2Web頁面設(shè)計319
10.3基于Logstash的日志處理327
10.3.1配置Spring Boot輸出日志327
10.3.2在Logstash中進(jìn)行相關(guān)配置329
10.4基于Kibana的日志分析結(jié)果可視化330
10.4.1訪問量走勢分析331
10.4.2查詢參數(shù)比率分析333
10.4.3故障案例可視化334
10.4.4將圖表集成到儀表板中335
10.5擴展知識與閱讀336
10.6本章小結(jié)337
第11章信息檢索與分析實例（二）338
11.1面向動態(tài)網(wǎng)站的信息采集339
11.1.1軟件準(zhǔn)備339
11.1.2瀏覽器驅(qū)動程序339
11.1.3創(chuàng)建索引和映像340
11.1.4導(dǎo)入依賴341
11.1.5數(shù)據(jù)采集342
11.2基于Spring MVC的信息檢索及Web程序設(shè)計348
11.2.1創(chuàng)建和配置Spring MVC項目348
11.2.2前端頁面設(shè)計351
11.2.3后端控制器類356
11.3基于Logstash的日志處理360
11.4基于Beats的數(shù)據(jù)傳輸361
11.5基于Kibana的數(shù)據(jù)可視化362
11.5.1可視化索引文件中的信息363
11.5.2對Logstash、Beats的可視化展示364
11.6基于XPack的系統(tǒng)監(jiān)控366
11.7擴展知識與閱讀369
11.8本章小結(jié)369
參考文獻(xiàn)370