Keras與深度學(xué)習(xí)實戰(zhàn)

第 1章　深度學(xué)習(xí)概述　1
1.1　深度學(xué)習(xí)簡介　1
1.1.1　深度學(xué)習(xí)的定義　1
1.1.2　深度學(xué)習(xí)常見應(yīng)用　2
1.2　深度學(xué)習(xí)與應(yīng)用領(lǐng)域　9
1.2.1　深度學(xué)習(xí)與計算機視覺　9
1.2.2　深度學(xué)習(xí)與自然語言處理　10
1.2.3　深度學(xué)習(xí)與語音識別　11
1.2.4　深度學(xué)習(xí)與機器學(xué)習(xí)　11
1.2.5　深度學(xué)習(xí)與人工智能　12
1.3　Keras簡介　13
1.3.1　各深度學(xué)習(xí)框架對比　13
1.3.2　Keras與TensorFlow的關(guān)系　15
1.3.3　Keras常見接口　15
1.3.4　Keras特性　17
1.3.5　Keras安裝　17
1.3.6　Keras中的預(yù)訓(xùn)練模型　20
小結(jié)　22
課后習(xí)題　23
第　2章 Keras深度學(xué)習(xí)通用流程　24
2.1　基于全連接網(wǎng)絡(luò)的手寫數(shù)字識別實例　24
2.2　數(shù)據(jù)加載與預(yù)處理　28
2.2.1　數(shù)據(jù)加載　28
2.2.2　數(shù)據(jù)預(yù)處理　31
2.3　構(gòu)建網(wǎng)絡(luò)　39
2.3.1　模型生成　39
2.3.2　核心層　40
2.3.3　自定義層　47
2.4　訓(xùn)練網(wǎng)絡(luò)　51
2.4.1　優(yōu)化器　51
2.4.2　損失函數(shù)　54
2.4.3　訓(xùn)練方法　60
2.5　性能評估　64
2.5.1　性能監(jiān)控　64
2.5.2　回調(diào)檢查　69
2.6　模型的保存與加載　77
實訓(xùn)1　利用Keras進行數(shù)據(jù)加載與增強　79
實訓(xùn)2　利用Keras構(gòu)建網(wǎng)絡(luò)并訓(xùn)練　80
小結(jié)　80
課后習(xí)題　81
第3章　Keras深度學(xué)習(xí)基礎(chǔ)　82
3.1　卷積神經(jīng)網(wǎng)絡(luò)基礎(chǔ)　82
3.1.1　卷積神經(jīng)網(wǎng)絡(luò)中的常用網(wǎng)絡(luò)層　83
3.1.2　基于卷積神經(jīng)網(wǎng)絡(luò)的手寫數(shù)字識別實例　96
3.1.3　常用卷積神經(jīng)網(wǎng)絡(luò)算法及其結(jié)構(gòu)　99
3.2　循環(huán)神經(jīng)網(wǎng)絡(luò)　106
3.2.1　循環(huán)神經(jīng)網(wǎng)絡(luò)中的常用網(wǎng)絡(luò)層　108
3.2.2　基于循環(huán)神經(jīng)網(wǎng)絡(luò)和Self Attention網(wǎng)絡(luò)的新聞?wù)诸悓嵗?23
3.3　生成對抗網(wǎng)絡(luò)　131
3.3.1　常用生成對抗網(wǎng)絡(luò)算法及其結(jié)構(gòu)　131
3.3.2　基于生成對抗網(wǎng)絡(luò)的手寫數(shù)字生成實例　135
實訓(xùn)1　卷積神經(jīng)網(wǎng)絡(luò)　150
實訓(xùn)2　循環(huán)神經(jīng)網(wǎng)絡(luò)　151
實訓(xùn)3　生成對抗網(wǎng)絡(luò)　151
小結(jié)　152
課后習(xí)題　152
第4章　基于RetinaNet的目標(biāo)檢測　154
4.1　算法簡介與目標(biāo)分析　154
4.1.1　背景介紹　154
4.1.2　目標(biāo)檢測算法概述　155
4.1.3　目標(biāo)檢測相關(guān)理論介紹　156
4.1.4　分析目標(biāo)　158
4.1.5　項目工程結(jié)構(gòu)　158
4.2　數(shù)據(jù)準(zhǔn)備　159
4.2.1　數(shù)據(jù)集下載　159
4.2.2　圖像預(yù)處理　160
4.2.3　數(shù)據(jù)集編碼　166
4.2.4　數(shù)據(jù)集管道設(shè)置　171
4.3　構(gòu)建網(wǎng)絡(luò)　171
4.3.1　RetinaNet的網(wǎng)絡(luò)結(jié)構(gòu)　172
4.3.2　構(gòu)建RetinaNet　173
4.4　訓(xùn)練網(wǎng)絡(luò)　177
4.4.1　定義損失函數(shù)　177
4.4.2　訓(xùn)練網(wǎng)絡(luò)　180
4.4.3　加載模型測試點　181
4.5　模型預(yù)測　182
4.5.1　進行解碼與非極大值抑制處理　182
4.5.2　預(yù)測結(jié)果　184
實訓(xùn)　使用VOC2007數(shù)據(jù)集訓(xùn)練和測試RetinaNet　186
小結(jié)　186
課后習(xí)題　186
第5章　基于LSTM網(wǎng)絡(luò)的詩歌生成　187
5.1　目標(biāo)分析　187
5.1.1　背景介紹　187
5.1.2　分析目標(biāo)　188
5.1.3　項目工程結(jié)構(gòu)　189
5.2　文本預(yù)處理　189
5.2.1　標(biāo)識詩句結(jié)束點　189
5.2.2　去除低頻詞　190
5.2.3　構(gòu)建映射　191
5.3　構(gòu)建網(wǎng)絡(luò)　191
5.3.1　設(shè)置配置項參數(shù)　191
5.3.2　生成訓(xùn)練數(shù)據(jù)　192
5.3.3　構(gòu)建LSTM網(wǎng)絡(luò)　194
5.4　訓(xùn)練網(wǎng)絡(luò)　194
5.4.1　查看學(xué)習(xí)情況　194
5.4.2　生成詩句　195
5.4.3　訓(xùn)練網(wǎng)絡(luò)　196
5.5　結(jié)果分析　197
實訓(xùn)　基于LSTM網(wǎng)絡(luò)的文本生成　199
小結(jié)　199
課后習(xí)題　199
第6章　基于CycleGAN的圖像風(fēng)格轉(zhuǎn)換　200
6.1　目標(biāo)分析　200
6.1.1　背景介紹　200
6.1.2　分析目標(biāo)　201
6.1.3　項目工程結(jié)構(gòu)　201
6.2　數(shù)據(jù)準(zhǔn)備　203
6.3　構(gòu)建網(wǎng)絡(luò)　205
6.3.1　定義恒等映射網(wǎng)絡(luò)函數(shù)　206
6.3.2　定義殘差網(wǎng)絡(luò)函數(shù)　207
6.3.3　定義生成器函數(shù)　208
6.3.4　定義判別器函數(shù)　211
6.4　訓(xùn)練網(wǎng)絡(luò)　212
6.4.1　定義訓(xùn)練過程函數(shù)　212
6.4.2　定義生成圖像函數(shù)　214
6.5　結(jié)果分析　215
實訓(xùn)　基于CycleGAN實現(xiàn)莫奈畫作與現(xiàn)實風(fēng)景圖像的風(fēng)格轉(zhuǎn)換　217
小結(jié)　217
課后習(xí)題　218
第7章　基于TipDM大數(shù)據(jù)挖掘建模平臺實現(xiàn)詩歌生成　219
7.1　平臺簡介　219
7.1.1　共享庫　220
7.1.2　數(shù)據(jù)連接　220
7.1.3　數(shù)據(jù)集　221
7.1.4　我的工程　222
7.1.5　個人組件　224
7.2　實現(xiàn)詩歌生成　224
7.2.1　配置數(shù)據(jù)源　225
7.2.2　文本預(yù)處理　227
7.2.3　構(gòu)建網(wǎng)絡(luò)　227
7.2.4　訓(xùn)練網(wǎng)絡(luò)　230
7.2.5　結(jié)果分析　234
實訓(xùn)　實現(xiàn)基于TipDM大數(shù)據(jù)挖掘模平臺的文本生成　235
小結(jié)　236
課后習(xí)題　236