異步深度學(xué)習(xí)經(jīng)典教程：深度學(xué)習(xí)+動(dòng)手學(xué)深度學(xué)習(xí)（套裝共2冊(cè)，京東）

動(dòng)手學(xué)深度學(xué)習(xí)目錄：
對(duì)本書的贊譽(yù)
前言
如何使用本書
資源與支持
主要符號(hào)表
第　1 章 深度學(xué)習(xí)簡(jiǎn)介　1
1.1　起源　2
1.2　發(fā)展　4
1.3　成功案例　6
1.4　特點(diǎn)　7
小結(jié)　8
練習(xí)　8
第　2 章 預(yù)備知識(shí)　9
2.1　獲取和運(yùn)行本書的代碼　9
2.1.1　獲取代碼并安裝運(yùn)行環(huán)境　9
2.1.2　更新代碼和運(yùn)行環(huán)境　11
2.1.3　使用GPU版的MXNet　11
小結(jié)12
練習(xí)12
2.2　數(shù)據(jù)操作　12
2.2.1　創(chuàng)建NDArray　12
2.2.2　運(yùn)算　14
2.2.3　廣播機(jī)制　16
2.2.4　索引　17
2.2.5　運(yùn)算的內(nèi)存開銷　17
2.2.6　NDArray和NumPy相互變換18
小結(jié)19
練習(xí)19
2.3　自動(dòng)求梯度　19
2.3.1　簡(jiǎn)單例子　19AL34
2.3.2　訓(xùn)練模式和預(yù)測(cè)模式　20
2.3.3　對(duì)Python控制流求梯度　20
小結(jié)21
練習(xí)21
2.4　查閱文檔　21
2.4.1　查找模塊里的所有函數(shù)和類　21
2.4.2　查找特定函數(shù)和類的使用　22
2.4.3　在MXNet網(wǎng)站上查閱　23
小結(jié)　24
練習(xí)　24
第3　章 深度學(xué)習(xí)基礎(chǔ)　25
3.1　線性回歸　25
3.1.1　線性回歸的基本要素　25
3.1.2　線性回歸的表示方法　28
小結(jié)　30
練習(xí)　30
3.2　線性回歸的從零開始實(shí)現(xiàn)　30
3.2.1　生成數(shù)據(jù)集　30
3.2.2　讀取數(shù)據(jù)集　32
3.2.3　初始化模型參數(shù)　32
3.2.4　定義模型　33
3.2.5　定義損失函數(shù)　33
3.2.6　定義優(yōu)化算法　33
3.2.7　訓(xùn)練模型　33
小結(jié)　34
練習(xí)　34
3.3　線性回歸的簡(jiǎn)潔實(shí)現(xiàn)　35
3.3.1　生成數(shù)據(jù)集　35
3.3.2　讀取數(shù)據(jù)集　35
3.3.3　定義模型　36
3.3.4　初始化模型參數(shù)　36
3.3.5　定義損失函數(shù)　37
3.3.6　定義優(yōu)化算法　37
3.3.7　訓(xùn)練模型　37
小結(jié)　38
練習(xí)　38
3.4　softmax回歸　38
3.4.1　分類問(wèn)題　38
3.4.2　softmax回歸模型　39
3.4.3　單樣本分類的矢量計(jì)算表達(dá)式　40
3.4.4　小批量樣本分類的矢量計(jì)算表達(dá)式　40
3.4.5　交叉熵?fù)p失函數(shù)　41
3.4.6　模型預(yù)測(cè)及評(píng)價(jià)　42
小結(jié)　42
練習(xí)　42
3.5　圖像分類數(shù)據(jù)集（Fashion-MNIST）　42
3.5.1　獲取數(shù)據(jù)集　42
3.5.2　讀取小批量　44
小結(jié)　45
練習(xí)　45
3.6　softmax回歸的從零開始實(shí)現(xiàn)　45
3.6.1　讀取數(shù)據(jù)集　45
3.6.2　初始化模型參數(shù)　45
3.6.3　實(shí)現(xiàn)softmax運(yùn)算　46
3.6.4　定義模型　46
3.6.5　定義損失函數(shù)　47
3.6.6　計(jì)算分類準(zhǔn)確率　47
3.6.7　訓(xùn)練模型　48
3.6.8　預(yù)測(cè)　48
小結(jié)　49
練習(xí)　49
3.7　softmax回歸的簡(jiǎn)潔實(shí)現(xiàn)　49
3.7.1　讀取數(shù)據(jù)集　49
3.7.2　定義和初始化模型　50
3.7.3　softmax和交叉熵?fù)p失函數(shù)　50
3.7.4　定義優(yōu)化算法　50
3.7.5　訓(xùn)練模型　50
小結(jié)　50
練習(xí)　50
3.8　多層感知機(jī)　51
3.8.1　隱藏層　51
3.8.2　激活函數(shù)　52
3.8.3　多層感知機(jī)　55
小結(jié)　55
練習(xí)　55
3.9　多層感知機(jī)的從零開始實(shí)現(xiàn)　56
3.9.1　讀取數(shù)據(jù)集　56
3.9.2　定義模型參數(shù)　56
3.9.3　定義激活函數(shù)　56
3.9.4　定義模型　56
3.9.5　定義損失函數(shù)　57
3.9.6　訓(xùn)練模型　57
小結(jié)　57
練習(xí)　57
3.10　多層感知機(jī)的簡(jiǎn)潔實(shí)現(xiàn)　57
3.10.1　定義模型　58
3.10.2　訓(xùn)練模型　58
小結(jié)　58
練習(xí)　58
3.11　模型選擇、欠擬合和過(guò)擬合　58
3.11.1　訓(xùn)練誤差和泛化誤差　59
3.11.2　模型選擇　59
3.11.3　欠擬合和過(guò)擬合　60
3.11.4　多項(xiàng)式函數(shù)擬合實(shí)驗(yàn)　61
小結(jié)　65
練習(xí)　65
3.12　權(quán)重衰減　65
3.12.1　方法　65
3.12.2　高維線性回歸實(shí)驗(yàn)　66
3.12.3　從零開始實(shí)現(xiàn)　66
3.12.4　簡(jiǎn)潔實(shí)現(xiàn)　68
小結(jié)　70
練習(xí)　70
3.13　丟棄法　70
3.13.1　方法　70
3.13.2　從零開始實(shí)現(xiàn)　71
3.13.3　簡(jiǎn)潔實(shí)現(xiàn)　73
小結(jié)　74
練習(xí)　74
3.14　正向傳播、反向傳播和計(jì)算圖　74
3.14.1　正向傳播　74
3.14.2　正向傳播的計(jì)算圖　75
3.14.3　反向傳播　75
3.14.4　訓(xùn)練深度學(xué)習(xí)模型　76
小結(jié)　77
練習(xí)　77
3.15　數(shù)值穩(wěn)定性和模型初始化　77
3.15.1　衰減和爆炸　77
3.15.2　隨機(jī)初始化模型參數(shù)　78
小結(jié)　78
練習(xí)　79
3.16　實(shí)戰(zhàn)Kaggle比賽：房?jī)r(jià)預(yù)測(cè)　79
3.16.1　Kaggle比賽　79
3.16.2　讀取數(shù)據(jù)集　80
3.16.3　預(yù)處理數(shù)據(jù)集　81
3.16.4　訓(xùn)練模型　82
3.16.5　k 折交叉驗(yàn)證　82
3.16.6　模型選擇　83
3.16.7　預(yù)測(cè)并在Kaggle提交結(jié)果　84
小結(jié)　85
練習(xí)　85
第4章 深度學(xué)習(xí)計(jì)算　86
4.1　模型構(gòu)造　86
小結(jié)　89
練習(xí)　90
4.2　模型參數(shù)的訪問(wèn)、初始化和共享　90
小結(jié)　94
練習(xí)　94
4.3　模型參數(shù)的延后初始化　95
小結(jié)　96
練習(xí)　97
4.4　自定義層　97
小結(jié)　99
練習(xí)　99
4.5　讀取和存儲(chǔ)　99
小結(jié)　101
練習(xí)　101
4.6　GPU計(jì)算　101
小結(jié)　105
練習(xí)　105
第5章 卷積神經(jīng)網(wǎng)絡(luò)　106
5.1　二維卷積層　106
小結(jié)　110
練習(xí)　110
5.2　填充和步幅　111
小結(jié)　113
練習(xí)　113
5.3　多輸入通道和多輸出通道　114
小結(jié)　117
練習(xí)　117
5.4　池化層　117
小結(jié)　120
練習(xí)　121
5.5　卷積神經(jīng)網(wǎng)絡(luò)（LeNet）　121
小結(jié)　124
練習(xí)　124
5.6　深度卷積神經(jīng)網(wǎng)絡(luò)（AlexNet）　124
小結(jié)　128
練習(xí)　129
5.7　使用重復(fù)元素的網(wǎng)絡(luò)（VGG）　129
5.7.1　VGG塊　129
5.7.2　VGG網(wǎng)絡(luò)　129
5.7.3　訓(xùn)練模型　130
小結(jié)　131
練習(xí)　131
5.8　網(wǎng)絡(luò)中的網(wǎng)絡(luò)（NiN）　131
小結(jié)　134
練習(xí)　134
5.9　含并行連結(jié)的網(wǎng)絡(luò)（GoogLeNet）　134
小結(jié)　137
練習(xí)　137
5.10　批量歸一化　138
小結(jié)　142
練習(xí)　142
5.11　殘差網(wǎng)絡(luò)（ResNet）　143
小結(jié)　146
練習(xí)　146
5.12　稠密連接網(wǎng)絡(luò)（DenseNet）　147
小結(jié)　149
練習(xí)　149
第6章 循環(huán)神經(jīng)網(wǎng)絡(luò)　150
6.1　語(yǔ)言模型　150
小結(jié)　152
練習(xí)　152
6.2　循環(huán)神經(jīng)網(wǎng)絡(luò)　152
小結(jié)　155
練習(xí)　155
6.3　語(yǔ)言模型數(shù)據(jù)集（歌詞）　155
小結(jié)　158
練習(xí)　159
6.4　循環(huán)神經(jīng)網(wǎng)絡(luò)的從零開始實(shí)現(xiàn)　159
小結(jié)　164
練習(xí)　164
6.5　循環(huán)神經(jīng)網(wǎng)絡(luò)的簡(jiǎn)潔實(shí)現(xiàn)　165
小結(jié)　168
練習(xí)　168
小結(jié)　170
練習(xí)　170
6.7　門控循環(huán)單元（GRU）　170
小結(jié)　176
練習(xí)　176
6.8　長(zhǎng)短期記憶（LSTM）　176
小結(jié)　181
練習(xí)　182
6.9　深度循環(huán)神經(jīng)網(wǎng)絡(luò)　182
小結(jié)　183
練習(xí)　183
6.10　雙向循環(huán)神經(jīng)網(wǎng)絡(luò)　183
小結(jié)　184
練習(xí)　184
第7章 優(yōu)化算法　185
7.1　優(yōu)化與深度學(xué)習(xí)　185
小結(jié)　188
練習(xí)　189
7.2　梯度下降和隨機(jī)梯度下降　189
小結(jié)　194
練習(xí)　194
7.3　小批量隨機(jī)梯度下降　194
小結(jié)　199
練習(xí)　199
7.4　動(dòng)量法　200
小結(jié)　205
練習(xí)　205
7.5　AdaGrad算法206
小結(jié)　209
練習(xí)　209
7.6　RMSProp算法　209
小結(jié)　212
練習(xí)　212
7.7　AdaDelta算法　212
小結(jié)　214
練習(xí)　214
7.8　Adam算法　215
小結(jié)　217
練習(xí)　217
第8章 計(jì)算性能　218
8.1　命令式和符號(hào)式混合編程　218
小結(jié)　224
練習(xí)　224
8.2　異步計(jì)算　224
小結(jié)　229
練習(xí)　229
8.3　自動(dòng)并行計(jì)算　229
小結(jié)　231
練習(xí)　231
8.4　多GPU計(jì)算　232
小結(jié)　237
練習(xí)　237
8.5　多GPU計(jì)算的簡(jiǎn)潔實(shí)現(xiàn)　237
小結(jié)　241
練習(xí)　241
第9章 計(jì)算機(jī)視覺(jué)　242
9.1　圖像增廣242
小結(jié)　250
練習(xí)　250
9.2　微調(diào)　250
熱狗識(shí)別　251
小結(jié)　255
練習(xí)　255
9.3　目標(biāo)檢測(cè)和邊界框　255
邊界框　256
小結(jié)　257
練習(xí)　257
9.4　錨框　257
小結(jié)　265
練習(xí)　265
9.5　多尺度目標(biāo)檢測(cè)　265
小結(jié)　268
練習(xí)　268
9.6　目標(biāo)檢測(cè)數(shù)據(jù)集（皮卡丘）　268
小結(jié)　270
練習(xí)　271
9.7　單發(fā)多框檢測(cè)（SSD）　271
小結(jié)　278
練習(xí)　278
9.8　區(qū)域卷積神經(jīng)網(wǎng)絡(luò)（R-CNN）系列280
小結(jié)　285
練習(xí)　285
9.9　語(yǔ)義分割和數(shù)據(jù)集　285
小結(jié)　290
練習(xí)　290
9.10　全卷積網(wǎng)絡(luò)（FCN）　290
小結(jié)　297
練習(xí)　297
9.11　樣式遷移　298
小結(jié)　306
練習(xí)　306
9.12　實(shí)戰(zhàn)Kaggle比賽：圖像 分類（CIFAR-10）306
小結(jié)　313
練習(xí)　313
9.13　實(shí)戰(zhàn)Kaggle比賽：狗的品種識(shí)別（ImageNet　Dogs）　314
小結(jié)　320
練習(xí)　320
第10 章 自然語(yǔ)言處理　321
10.1　詞嵌入（word2vec）　321
小結(jié)　325
練習(xí)　325
10.2　近似訓(xùn)練325
小結(jié)　327
練習(xí)　328
10.3　word2vec的實(shí)現(xiàn)328
小結(jié)　336
練習(xí)　336
10.4　子詞嵌入（fastText）　336
小結(jié)　337
練習(xí)　337
10.5　全局向量的詞嵌入（GloVe）337
小結(jié)　340
練習(xí)　340
10.6　求近義詞和類比詞340
小結(jié)　343
練習(xí)　343
10.7　文本情感分類：使用循環(huán)神經(jīng)網(wǎng)絡(luò)　343
小結(jié)　347
練習(xí)　347
10.8　文本情感分類：使用卷積神經(jīng)網(wǎng)絡(luò)（textCNN）　347
小結(jié)　353
練習(xí)　353
10.9　編碼器-解碼器（seq2seq）353
小結(jié)　355
練習(xí)　355
10.10　束搜索　355
小結(jié)　358
練習(xí)　358
10.11　注意力機(jī)制　358
小結(jié)　361
練習(xí)　361
10.12　機(jī)器翻譯　361
小結(jié)　369
練習(xí)　369
附錄A　數(shù)學(xué)基礎(chǔ)　370
附錄B　使用 Jupyter 記事本　376
附錄C　使用 AWS 運(yùn)行代碼　381
附錄D　GPU 購(gòu)買指南　388
附錄E　如何為本書做貢獻(xiàn)　391
附錄F　d2lzh 包索引　395
附錄G　中英文術(shù)語(yǔ)對(duì)照表　397
參考文獻(xiàn)　402
索引　407