Python深度學(xué)習(xí)：模型、方法與實現(xiàn)

譯者序
前言
作者簡介
審校者簡介
第一部分核心概念
第1章神經(jīng)網(wǎng)絡(luò)的具體細節(jié)2
1.1神經(jīng)網(wǎng)絡(luò)的數(shù)學(xué)基礎(chǔ)2
1.1.1線性代數(shù)2
1.1.2概率介紹6
1.1.3微分學(xué)16
1.2神經(jīng)網(wǎng)絡(luò)的簡單介紹18
1.2.1神經(jīng)元18
1.2.2層的運算19
1.2.3神經(jīng)網(wǎng)絡(luò)21
1.2.4激活函數(shù)22
1.2.5通用逼近定理25
1.3訓(xùn)練神經(jīng)網(wǎng)絡(luò)27
1.3.1梯度下降27
1.3.2代價函數(shù)28
1.3.3反向傳播30
1.3.4權(quán)重初始化32
1.3.5SGD改進33
1.4總結(jié)35
第二部分計算機視覺
第2章理解卷積網(wǎng)絡(luò)38
2.1理解CNN38
2.1.1卷積類型43
2.1.2提高CNN的效率46
2.1.3可視化CNN51
2.1.4CNN正則化54
2.2遷移學(xué)習(xí)介紹56
2.2.1使用PyTorch實現(xiàn)遷移學(xué)習(xí)57
2.2.2使用TensorFlow 2.0實現(xiàn)遷移學(xué)習(xí)62
2.3總結(jié)66
第3章高級卷積網(wǎng)絡(luò)67
3.1AlexNet介紹67
3.2VGG介紹68
3.3理解殘差網(wǎng)絡(luò)70
3.4理解Inception網(wǎng)絡(luò)78
3.4.1Inception v179
3.4.2Inception v2和v380
3.4.3Inception v4和InceptionResNet81
3.5Xception介紹82
3.6MobileNet介紹83
3.7DenseNet介紹85
3.8神經(jīng)架構(gòu)搜索的工作原理87
3.9膠囊網(wǎng)絡(luò)介紹91
3.9.1卷積網(wǎng)絡(luò)的局限性91
3.9.2膠囊92
3.9.3膠囊網(wǎng)絡(luò)的結(jié)構(gòu)94
3.10總結(jié)95
第4章對象檢測與圖像分割96
4.1對象檢測介紹96
4.1.1對象檢測的方法96
4.1.2使用YOLO v3進行對象檢測98
4.1.3使用Faster RCNN進行對象檢測104
4.2圖像分割介紹110
4.2.1使用UNet進行語義分割110
4.2.2使用Mask RCNN進行實例分割112
4.3總結(jié)115
第5章生成模型116
5.1生成模型的直覺和證明116
5.2VAE介紹117
5.3GAN介紹124
5.3.1訓(xùn)練GAN125
5.3.2實現(xiàn)GAN128
5.3.3訓(xùn)練GAN的缺陷129
5.4GAN的類型129
5.4.1DCGAN130
5.4.2CGAN135
5.4.3WGAN137
5.4.4使用CycleGAN實現(xiàn)圖像到圖像的轉(zhuǎn)換142
5.5藝術(shù)風(fēng)格遷移介紹150
5.6總結(jié)151
第三部分自然語言和序列處理
第6章語言建模154
6.1理解ngram154
6.2神經(jīng)語言模型介紹156
6.2.1神經(jīng)概率語言模型157
6.2.2word2vec158
6.2.3GloVe模型161
6.3實現(xiàn)語言模型164
6.3.1訓(xùn)練嵌入模型164
6.3.2可視化嵌入向量166
6.4總結(jié)169
第7章理解RNN170
7.1RNN介紹170
7.2長短期記憶介紹180
7.3門控循環(huán)單元介紹187
7.4實現(xiàn)文本分類189
7.5總結(jié)193
第8章seq2seq模型和注意力機制194
8.1seq2seq模型介紹194
8.2使用注意力的seq2seq196
8.2.1Bahdanau Attention196
8.2.2Luong Attention199
8.2.3一般注意力200
8.2.4使用注意力實現(xiàn)seq2seq201
8.3理解transformer207
8.3.1transformer注意力207
8.3.2transformer模型210
8.3.3實現(xiàn)transformer212
8.4transformer語言模型219
8.4.1基于transformer的雙向編碼器表示219
8.4.2transformerXL224
8.4.3XLNet227
8.4.4使用transformer語言模型生成文本230
8.5總結(jié)231
第四部分展望未來
第9章新興的神經(jīng)網(wǎng)絡(luò)設(shè)計234
9.1GNN介紹234
9.1.1循環(huán)GNN236
9.1.2卷積圖神經(jīng)網(wǎng)絡(luò)238
9.1.3圖自編碼器244
9.1.4神經(jīng)圖學(xué)習(xí)246
9.2記憶增強神經(jīng)網(wǎng)絡(luò)介紹251
9.2.1神經(jīng)圖靈機251
9.2.2MANN*256
9.3總結(jié)257
第10章元學(xué)習(xí)258
10.1元學(xué)習(xí)介紹258
10.1.1零樣本學(xué)習(xí)259
10.1.2單樣本學(xué)習(xí)260
10.1.3元訓(xùn)練和元測試261
10.2基于度量的元學(xué)習(xí)262
10.2.1為單樣本學(xué)習(xí)匹配網(wǎng)絡(luò)263
10.2.2孿生網(wǎng)絡(luò)264
10.2.3原型網(wǎng)絡(luò)267
10.3基于優(yōu)化的元學(xué)習(xí)269
10.4總結(jié)274
第11章自動駕駛汽車的深度學(xué)習(xí)275
11.1自動駕駛汽車介紹275
11.1.1自動駕駛汽車研究簡史275
11.1.2自動化的級別277
11.2自動駕駛汽車系統(tǒng)的組件278
11.2.1環(huán)境感知280
11.2.2路徑規(guī)劃282
11.33D數(shù)據(jù)處理介紹282
11.4模仿駕駛策略285
11.5ChauffeurNet駕駛策略294
11.5.1輸入/輸出表示294
11.5.2模型架構(gòu)296
11.5.3訓(xùn)練297
11.6總結(jié)300