深度學(xué)習(xí)實(shí)踐教程

目 錄
第1章 深度學(xué)習(xí)基礎(chǔ) 1
1．1 人工智能、機(jī)器學(xué)習(xí)與深度學(xué)習(xí) 1
1．1．1 人工智能簡(jiǎn)介 1
1．1．2 機(jī)器學(xué)習(xí)簡(jiǎn)介 2
1．1．3 深度學(xué)習(xí)簡(jiǎn)介 3
1．2 深度學(xué)習(xí)的三大核心要素 4
1．3 神經(jīng)元與深度神經(jīng)網(wǎng)絡(luò) 7
1．4 神經(jīng)網(wǎng)絡(luò)中常用的激勵(lì)函數(shù) 9
1．5 深度學(xué)習(xí)的優(yōu)勢(shì) 13
1．6 常用的深度學(xué)習(xí)框架 15
本章小結(jié) 16
習(xí)題 16
第2章 深度學(xué)習(xí)框架PyTorch的安裝 19
2．1 PyTorch介紹 19
2．2 Windows系統(tǒng)中PyTorch的配置 20
2．2．1 安裝Python 20
2．2．2 PyTorch環(huán)境搭建 21
2．3 Linux系統(tǒng)中PyTorch的配置 22
2．3．1 安裝虛擬機(jī) 23
2．3．2 Python環(huán)境配置 25
2．3．3 PyTorch環(huán)境搭建 25
2．4 PyTorch開發(fā)工具 26
2．4．1 IDLE 26
2．4．2 PyCharm 27
本章小結(jié) 34
習(xí)題 34
實(shí)驗(yàn) 35
第3章 PyTorch基礎(chǔ) 36
3．1 Tensor的定義 36
3．2 Tensor的創(chuàng)建 37
3．3 Tensor的形狀調(diào)整 39
3．4 Tensor的簡(jiǎn)單運(yùn)算 40
3．5 Tensor的比較 41
3．6 Tensor的數(shù)理統(tǒng)計(jì) 42
3．7 Tensor與NumPy的互相轉(zhuǎn)換 43
3．8 Tensor的降維和增維 44
3．9 Tensor的裁剪 46
3．10 Tensor的索引 46
3．11 把Tensor移到GPU上 48
本章小結(jié) 49
習(xí)題 49
實(shí)驗(yàn) 50
第4章 線性回歸和邏輯回歸 54
4．1 回歸 54
4．2 線性回歸 55
4．3 一元線性回歸的代碼實(shí)現(xiàn) 58
4．4 梯度及梯度下降法 62
4．4．1 梯度 62
4．4．2 梯度下降法 62
4．5 多元線性回歸的代碼實(shí)現(xiàn) 63
4．6 邏輯回歸 65
4．6．1 邏輯回歸 65
4．6．2 邏輯回歸中的損失函數(shù) 66
4．6．3 邏輯回歸的代碼實(shí)現(xiàn) 66
本章小結(jié) 69
習(xí)題 69
實(shí)驗(yàn) 70
第5章 全連接神經(jīng)網(wǎng)絡(luò) 72
5．1 全連接神經(jīng)網(wǎng)絡(luò)概述 72
5．2 多分類問題 73
5．3 Softmax函數(shù)與交叉熵 74
5．4 反向傳播算法 76
5．4．1 鏈?zhǔn)角髮?dǎo)法則 76
5．4．2 反向傳播算法實(shí)例 77
5．4．3 Sigmoid函數(shù)實(shí)例 77
5．5 計(jì)算機(jī)視覺工具包torchvision 78
5．6 全連接神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)多分類 80
5．6．1 定義全連接神經(jīng)網(wǎng)絡(luò) 80
5．6．2 全連接神經(jīng)網(wǎng)絡(luò)識(shí)別MNIST手寫數(shù)字 81
本章小結(jié) 85
習(xí)題 85
實(shí)驗(yàn) 87
第6章 卷積神經(jīng)網(wǎng)絡(luò) 88
6．1 前饋神經(jīng)網(wǎng)絡(luò) 88
6．2 卷積神經(jīng)網(wǎng)絡(luò)的原理 89
6．2．1 卷積層 91
6．2．2 池化層 94
6．3 卷積神經(jīng)網(wǎng)絡(luò)的代碼實(shí)現(xiàn) 96
6．4 LeNet-5模型 99
6．4．1 LeNet-5模型的架構(gòu) 99
6．4．2 CIFAR 10數(shù)據(jù)集 101
6．4．3 LeNet-5模型的代碼實(shí)現(xiàn) 101
6．5 VGGNet模型 106
6．5．1 VGGNet模型簡(jiǎn)介 106
6．5．2 VGGNet模型的代碼實(shí)現(xiàn) 107
6．6 ResNet模型 112
6．6．1 ResNet模型簡(jiǎn)介 112
6．6．2 ResNet模型殘差學(xué)習(xí)單元的代碼實(shí)現(xiàn) 113
本章小結(jié) 114
習(xí)題 114
實(shí)驗(yàn) 115
第7章 循環(huán)神經(jīng)網(wǎng)絡(luò) 119
7．1 循環(huán)神經(jīng)網(wǎng)絡(luò)概述 119
7．2 循環(huán)神經(jīng)網(wǎng)絡(luò)的原理 120
7．3 長(zhǎng)短時(shí)記憶神經(jīng)網(wǎng)絡(luò) 122
7．3．1 長(zhǎng)短時(shí)記憶神經(jīng)網(wǎng)絡(luò)的原理 122
7．3．2 長(zhǎng)短時(shí)記憶神經(jīng)網(wǎng)絡(luò)實(shí)例1 125
7．3．3 長(zhǎng)短時(shí)記憶神經(jīng)網(wǎng)絡(luò)實(shí)例2 129
本章小結(jié) 136
習(xí)題 136
實(shí)驗(yàn) 137
第8章 生成式對(duì)抗網(wǎng)絡(luò) 138
8．1 生成式對(duì)抗網(wǎng)絡(luò)概述 138
8．1．1 生成式對(duì)抗網(wǎng)絡(luò)的原理 138
8．1．2 生成式對(duì)抗網(wǎng)絡(luò)的代碼實(shí)現(xiàn) 142
8．2 條件生成式對(duì)抗網(wǎng)絡(luò) 150
8．3 最小二乘生成式對(duì)抗網(wǎng)絡(luò) 151
本章小結(jié) 151
習(xí)題 151
實(shí)驗(yàn) 152
附錄A 部分習(xí)題與實(shí)驗(yàn)參考答案 153
A．1 第1章習(xí)題與實(shí)驗(yàn)參考答案 153
A．2 第2章習(xí)題與實(shí)驗(yàn)參考答案 155
A．2．1 習(xí)題參考答案 155
A．2．2 實(shí)驗(yàn)參考答案 156
A．3 第3章習(xí)題與實(shí)驗(yàn)參考答案 156
A．3．1 習(xí)題參考答案 156
A．3．2 實(shí)驗(yàn)參考答案 156
A．4 第4章習(xí)題與實(shí)驗(yàn)參考答案 166
A．4．1 習(xí)題參考答案 166
A．4．2 實(shí)驗(yàn)參考答案 167
A．5 第5章習(xí)題與實(shí)驗(yàn)參考答案 175
A．5．1 習(xí)題參考答案 175
A．5．2 實(shí)驗(yàn)參考答案 175
A．6 第6章習(xí)題與實(shí)驗(yàn)參考答案 178
A．6．1 習(xí)題參考答案 178
A．6．2 實(shí)驗(yàn)參考答案 179
A．7 第7章習(xí)題與實(shí)驗(yàn)參考答案 192
A．7．1 習(xí)題參考答案 192
A．7．2 實(shí)驗(yàn)參考答案 193
A．8 第8章習(xí)題與實(shí)驗(yàn)參考答案 196
A．8．1 習(xí)題參考答案 196
A．8．2 實(shí)驗(yàn)參考答案 197
參考文獻(xiàn) 212