大規(guī)模數(shù)據(jù)管理

目錄
序 1
前言 3
第1 章 數(shù)據(jù)管理的變革 . 11
1.1 數(shù)據(jù)管理12
1.2 分析正在分割數(shù)據(jù)景觀 .15
1.3 軟件交付的速度正在發(fā)生變化 17
1.4 網(wǎng)絡(luò)變得更加快捷 18
1.5 隱私和安全性是重中之重 19
1.6 運(yùn)營和事物系統(tǒng)需要被整合 20
1.7 數(shù)據(jù)商業(yè)化需要生態(tài)系統(tǒng)到生態(tài)系統(tǒng)的架構(gòu) 20
1.8 企業(yè)受困于過時的數(shù)據(jù)架構(gòu) 21
1.8.1 企業(yè)數(shù)據(jù)倉庫和商業(yè)智能 21
1.8.2 數(shù)據(jù)湖 24
1.8.3 中心化視角 26
1.9 小結(jié) .27
第2 章 初窺可拓展架構(gòu)：大規(guī)模數(shù)據(jù)管理 .29
2.1 普遍認(rèn)可的起點(diǎn) 30
2.1.1 每一個應(yīng)用程序都有一個應(yīng)用程序數(shù)據(jù)庫 30
2.1.2 應(yīng)用程序都是特定的而且有獨(dú)特的上下文 30
2.1.3 黃金數(shù)據(jù)源 31
2.1.4 無法擺脫的數(shù)據(jù)集成困境 31
2.1.5 應(yīng)用程序既是數(shù)據(jù)提供者也是數(shù)據(jù)消費(fèi)者 32
2.2 關(guān)鍵的理論考量 33
2.2.1 面向?qū)ο蟮木幊淘瓌t.33
2.2.2 領(lǐng)域驅(qū)動設(shè)計 35
2.2.3 業(yè)務(wù)架構(gòu) .38
2.3 通信和集成模式 45
2.3.1 點(diǎn)對點(diǎn) 46
2.3.2 孤島 46
2.3.3 輪輻模型 .47
2.4 可擴(kuò)展架構(gòu) 48
2.4.1 黃金數(shù)據(jù)源和域數(shù)據(jù)存儲 49
2.4.2 數(shù)據(jù)交付契約和數(shù)據(jù)共享協(xié)議 .51
2.4.3 擺脫孤島方案 52
2.4.4 企業(yè)規(guī)模的領(lǐng)域驅(qū)動設(shè)計 53
2.4.5 讀優(yōu)化的數(shù)據(jù) 56
2.4.6 從整體的視角看數(shù)據(jù)層 58
2.4.7 元數(shù)據(jù)和目標(biāo)運(yùn)營模式 61
2.5 小結(jié) .63
第3 章 管理海量數(shù)據(jù)：只讀數(shù)據(jù)存儲架構(gòu) .65
3.1 RDS 架構(gòu)簡介 65
3.2 命令和查詢職責(zé)分離 66
3.2.1 什么是CQRS 66
3.2.2 規(guī)?；腃QRS 68
3.3 只讀數(shù)據(jù)存儲組件和服務(wù) 73
3.3.1 元數(shù)據(jù) 74
3.3.2 數(shù)據(jù)質(zhì)量 .75
3.3.3 RDS 層級 77
3.3.4 數(shù)據(jù)攝取 .78
3.3.5 集成商業(yè)化現(xiàn)成解決方案 81
3.3.6 從外部API 和SaaS 提取數(shù)據(jù) 82
3.3.7 歷史數(shù)據(jù)服務(wù) 82
3.3.8 設(shè)計的變化 86
3.3.9 數(shù)據(jù)復(fù)制 .88
3.3.10 訪問層 .89
3.3.11 文件操作服務(wù) 90
3.3.12 交付通知服務(wù) .91
3.3.13 匿名服務(wù) 91
3.3.14 分布式編排92
3.4 智能消費(fèi)服務(wù) .93
3.5 按需填充RDS 96
3.6 直接使用RDS 的考量 97
3.7 小結(jié) .98
第4 章 API 架構(gòu)的服務(wù)和API 管理 99
4.1 API 架構(gòu)簡介 99
4.2 什么是面向服務(wù)的架構(gòu) 100
4.2.1 企業(yè)應(yīng)用集成 104
4.2.2 服務(wù)編排 106
4.2.3 服務(wù)編舞 110
4.2.4 公共服務(wù)和私有服務(wù) 111
4.2.5 服務(wù)模型和規(guī)范數(shù)據(jù)模型 111
4.2.6 SOA 與企業(yè)數(shù)據(jù)倉庫架構(gòu)的相似之處 . 112
4.3 SOA 的現(xiàn)代觀點(diǎn) 114
4.3.1 API 網(wǎng)關(guān) 114
4.3.2 責(zé)任模式 116
4.3.3 企業(yè)服務(wù)總線的新職責(zé) . 118
4.3.4 服務(wù)合約 119
4.3.5 服務(wù)發(fā)現(xiàn) 119
4.4 微服務(wù) .120
4.4.1 API 網(wǎng)關(guān)在微服務(wù)中的作用 122
4.4.2 函數(shù) .122
4.4.3 服務(wù)網(wǎng)格 124
4.4.4 微服務(wù)的邊界 .125
4.4.5 在API 參考架構(gòu)內(nèi)的微服務(wù) 126
4.5 生態(tài)系統(tǒng)通信 127
4.6 基于API 的通信渠道 129
4.6.1 GraphQL 130
4.6.2 為前端服務(wù)的后端 131
4.7 元數(shù)據(jù) .131
4.8 利用RDS 進(jìn)行實時和密集讀取 .133
4.9 小結(jié) 134
第5 章 事件和響應(yīng)管理：流式架構(gòu) . 137
5.1 流式架構(gòu)簡介 137
5.2 異步事件模型與眾不同 138
5.3 事件驅(qū)動架構(gòu)是什么樣的 .139
5.3.1 調(diào)停者拓?fù)?.140
5.3.2 代理者拓?fù)?.141
5.3.3 事件處理風(fēng)格 .142
5.4 Apache Kafka 簡易入門 143
5.4.1 分布式事件數(shù)據(jù) 145
5.4.2 Apache Kafka 的功能 .147
5.5 流式架構(gòu).148
5.5.1 事件生產(chǎn)者 .148
5.5.2 事件消費(fèi)者 .151
5.5.3 事件平臺 153
5.5.4 事件溯源和命令溯源154
5.5.5 治理模型 157
5.5.6 業(yè)務(wù)流 158
5.5.7 流式數(shù)據(jù)消費(fèi)模式 161
5.5.8 事件攜帶狀態(tài)轉(zhuǎn)移 163
5.5.9 扮演RDS 的角色 .164
5.5.10 使用流式處理來填充RDS 164
5.5.11 用來指導(dǎo)領(lǐng)域的控制措施和政策 165
5.6 作為運(yùn)營支撐的流式處理 .166
5.7 保證與一致性 167
5.7.1 一致性水平 .167
5.7.2 “至少一次、恰好一次和至多一次”的處理 167
5.7.3 消息順序 168
5.7.4 死信隊列 168
5.7.5 流式處理的互操作性169
5.8 用于治理和自助服務(wù)模型的元數(shù)據(jù)170
5.9 小結(jié) 171
第6 章 將知識串聯(lián)起來 173
6.1 架構(gòu)回顧.173
6.1.1 RDS 架構(gòu) .174
6.1.2 API 架構(gòu) 174
6.1.3 流式架構(gòu) 175
6.1.4 強(qiáng)化模式 175
6.2 企業(yè)互操作性標(biāo)準(zhǔn) .177
6.2.1 穩(wěn)定的數(shù)據(jù)端點(diǎn) .178
6.2.2 數(shù)據(jù)交付契約 .181
6.2.3 可訪問和可尋址的數(shù)據(jù) .182
6.2.4 跨網(wǎng)絡(luò)原則 .182
6.3 企業(yè)數(shù)據(jù)標(biāo)準(zhǔn) 188
6.3.1 消費(fèi)優(yōu)化原則 .189
6.3.2 元數(shù)據(jù)的可發(fā)現(xiàn)性 192
6.3.3 語義一致性 .196
6.3.4 提供相應(yīng)的元數(shù)據(jù) 200
6.3.5 數(shù)據(jù)來源與移動 200
6.4 參考架構(gòu).203
6.5 小結(jié) 204
第7 章 可持續(xù)的數(shù)據(jù)治理與數(shù)據(jù)安全 207
7.1 數(shù)據(jù)治理.207
7.1.1 組織：數(shù)據(jù)治理的角色 .209
7.1.2 流程：數(shù)據(jù)治理的活動 .212
7.1.3 人員：信任與道德、社會和經(jīng)濟(jì)的考量 214
7.1.4 技術(shù)：黃金數(shù)據(jù)源，所有權(quán)和應(yīng)用程序管理 214
7.1.5 數(shù)據(jù)：黃金數(shù)據(jù)源，黃金源數(shù)據(jù)集和分類 .216
7.2 數(shù)據(jù)安全.224
7.2.1 時下的孤島方法 225
7.2.2 架構(gòu)的統(tǒng)一數(shù)據(jù)安全225
7.2.3 身份提供者 .227
7.2.4 安全參考架構(gòu)和數(shù)據(jù)上下文方法 .228
7.2.5 安全處理流程 .230
7.3 實踐指南.234
7.3.1 RDS 架構(gòu) .234
7.3.2 API 架構(gòu) 236
7.3.3 流式架構(gòu) 240
7.3.4 智能學(xué)習(xí)引擎 .241
7.4 小結(jié) 242
第8 章 從數(shù)據(jù)獲取價值 243
8.1 消費(fèi)模式.244
8.1.1 直接使用只讀數(shù)據(jù)存儲 .244
8.1.2 領(lǐng)域數(shù)據(jù)存儲 .245
8.2 目標(biāo)運(yùn)營模式 247
8.3 作為目標(biāo)用戶群體的數(shù)據(jù)專業(yè)人員248
8.4 業(yè)務(wù)需求.250
8.5 非功能性需求 250
8.6 創(chuàng)建數(shù)據(jù)管道和數(shù)據(jù)模型 .252
8.7 分發(fā)集成數(shù)據(jù) 259
8.8 商業(yè)智能能力 260
8.9 自助服務(wù)能力 262
8.10 分析能力 265
8.10.1 自動化部署的標(biāo)準(zhǔn)基礎(chǔ)設(shè)施 266
8.10.2 無狀態(tài)模型266
8.10.3 預(yù)設(shè)和配置好的工作臺 266
8.10.4 模型集成模式的標(biāo)準(zhǔn)化 267
8.10.5 自動化 .268
8.10.6 模型元數(shù)據(jù)268
8.11 高級分析參考架構(gòu) 270
8.12 小結(jié) 273
第9 章 掌握企業(yè)數(shù)據(jù)資產(chǎn) 275
9.1 揭秘主數(shù)據(jù)管理 .276
9.2 主數(shù)據(jù)管理風(fēng)格 .276
9.3 主數(shù)據(jù)管理參考架構(gòu) 278
9.3.1 設(shè)計主數(shù)據(jù)管理解決方案 279
9.3.2 MDM 的分發(fā) 281
9.3.3 主標(biāo)識號 281
9.3.4 參考數(shù)據(jù)與主數(shù)據(jù) 282
9.4 確定企業(yè)數(shù)據(jù)的范圍 283
9.5 MDM 和數(shù)據(jù)質(zhì)量即服務(wù) 286
9.6 精選數(shù)據(jù).286
9.6.1 元數(shù)據(jù)交換 .287
9.6.2 集成視圖 288
9.6.3 可復(fù)用組件和集成邏輯 .288
9.6.4 數(shù)據(jù)重新發(fā)布 .289
9.7 與數(shù)據(jù)治理的關(guān)系 .290
9.8 小結(jié) 290
第10 章 通過元數(shù)據(jù)實現(xiàn)數(shù)據(jù)民主化 293
10.1 元數(shù)據(jù)管理 .294
10.2 企業(yè)元數(shù)據(jù)模型 295
10.3 企業(yè)知識圖譜 303
10.4 元數(shù)據(jù)管理的架構(gòu)方法 307
10.4.1 元數(shù)據(jù)互操作性 .308
10.4.2 元數(shù)據(jù)存儲庫 310
10.5 能提供快速訪問授權(quán)數(shù)據(jù)的市場 313
10.6 小結(jié) 316
第11 章 結(jié)論 317
11.1 交付模式 318
11.1.1 完全去中心化方案 319
11.1.2 部分去中心化方案 320
11.1.3 構(gòu)建團(tuán)隊 320
11.1.4 內(nèi)部開源策略 321
11.2 文化 322
11.3 技術(shù)選擇 323
11.4 傳統(tǒng)企業(yè)架構(gòu)的沒落 .324
11.4.1 藍(lán)圖和圖表 324
11.4.2 現(xiàn)代技能 325
11.4.3 控制和管理 325
11.5 最后的話 326
術(shù)語 . 327