TensorFlow深度學習應用開發(fā)實戰(zhàn)

目錄
任務1深度學習簡介與開發(fā)環(huán)境搭建1
1.1深度學習的發(fā)展及應用1
1.1.1深度學習的發(fā)展歷程1
1.1.2深度學習的應用領域4
1.2深度學習框架簡介7
1.2.1TensorFlow7
1.2.2Caffe8
1.2.3PyTorch8
1.2.4MXNet8
1.2.5不同框架的對比9
1.3開發(fā)環(huán)境搭建9
1.3.1Windows環(huán)境下的安裝配置9
1.3.2Linux環(huán)境下的安裝配置20
1.4本章小結25
1.5本章習題26
任務2構建二維數(shù)據(jù)擬合模型28
2.1TensorFlow運行機制28
2.1.1TensorFlow系統(tǒng)架構29
2.1.2構建計算圖30
2.1.3在會話中運行計算圖31
2.1.4指定GPU設備34
2.2TensorFlow數(shù)據(jù)模型35
2.2.1張量及屬性35
2.2.2類型轉換38
2.2.3形狀變換39
2.3變量的定義與使用40
2.3.1變量的定義與初始化40
2.3.2隨機初始化變量41
2.3.3獲取變量42
2.3.4共享變量43
2.4占位符與數(shù)據(jù)喂入機制44
2.4.1占位符定義44
2.4.2數(shù)據(jù)喂入45
2.5模型的保存與恢復45
2.5.1模型保存45
2.5.2模型恢復47
2.6構建二維數(shù)據(jù)擬合模型48
2.6.1準備數(shù)據(jù)48
2.6.2搭建模型49
2.6.3反向傳播49
2.6.4迭代訓練50
2.6.5使用模型51
2.7本章小結51
2.8本章習題52
任務3構建泰坦尼克號生還率模型55
3.1M-P神經(jīng)元擬合原理55
3.1.1M-P神經(jīng)元模型55
3.1.2訓練神經(jīng)元58
3.2激活函數(shù)實現(xiàn)神經(jīng)元非線化59
3.2.1激活函數(shù)的作用59
3.2.2Sigmoid激活函數(shù)59
3.2.3Tanh激活函數(shù)61
3.2.4Relu激活函數(shù)62
3.3BP神經(jīng)網(wǎng)絡模型63
3.3.1BP神經(jīng)網(wǎng)絡結構64
3.3.2神經(jīng)網(wǎng)絡向前傳輸推導65
3.3.3神經(jīng)網(wǎng)絡向前傳輸實踐67
3.3.4構建BP神經(jīng)網(wǎng)絡模型68
3.4損失函數(shù)調整誤差71
3.4.1交叉熵損失函數(shù)71
3.4.2均方誤差損失函數(shù)72
3.5梯度下降72
3.5.1梯度下降的作用及常用方法72
3.5.2梯度下降使模型最小偏差實踐74
3.6模型優(yōu)化75
3.6.1學習率控制參數(shù)更新速度75
3.6.2正則化減少過擬合現(xiàn)象76
3.7構建泰坦尼克號生還率模型80
3.7.1數(shù)據(jù)讀取及預處理80
3.7.2搭建向前傳輸過程82
3.7.3迭代訓練82
3.8本章小結83
3.9本章習題83
任務4構建手寫字識別模型86
4.1MNIST數(shù)據(jù)集86
4.1.1MNIST數(shù)據(jù)集簡介86
4.1.2下載MNIST數(shù)據(jù)集88
4.1.3圖像的矩陣表示89
4.1.4標簽的獨熱表示90
4.2構建識別MNIST模型91
4.2.1MNIST手寫字模型簡介91
4.2.2定義模型節(jié)點參數(shù)92
4.2.3網(wǎng)絡向前傳輸過程93
4.2.4網(wǎng)絡參數(shù)優(yōu)化94
4.2.5訓練并保存模型95
4.3模型驗證96
4.3.1驗證集驗證模型96
4.3.2識別自定義圖片97
4.4本章小結100
4.5本章習題100
任務5LeNet-5模型識別手寫字102
5.1卷積神經(jīng)網(wǎng)絡結構特征102
5.1.1卷積神經(jīng)網(wǎng)絡簡介102
5.1.2卷積物理含義104
5.1.3網(wǎng)絡結構特征106
5.2卷積神經(jīng)網(wǎng)絡函數(shù)108
5.2.1卷積操作108
5.2.2池化操作112
5.2.3DropOut機制116
5.3卷積高級操作118
5.3.1多通道卷積118
5.3.2多卷積核120
5.3.3反卷積122
5.4LeNet-5識別手寫字124
5.4.1LeNet-5模型簡介124
5.4.2構建向前傳輸模型125
5.4.3優(yōu)化模型128
5.4.4訓練保存模型130
5.4.5驗證模型131
5.5本章小結132
5.6本章習題133
任務6打造CIFAR-10圖像識別模型136
6.1CIFAR-10數(shù)據(jù)集簡介136
6.1.1CIFAR-10數(shù)據(jù)集簡介136
6.1.2下載CIFAR-10數(shù)據(jù)集137
6.2讀取CIFAR-10數(shù)據(jù)138
6.2.1讀取并顯示圖片138
6.2.2將標簽表示成獨熱139
6.3數(shù)據(jù)增強140
6.3.1圖像幾何變換140
6.3.2圖像色彩調整144
6.3.3圖像的標準化146
6.3.4圖像標注147
6.4構建CIFAR-10圖像識別模型149
6.4.1數(shù)據(jù)批量讀取149
6.4.2模型構建150
6.4.3訓練并預測154
6.5ImageNet圖像識別模型155
6.5.1ImageNet數(shù)據(jù)集簡介155
6.5.2歷代ImageNet識別模型156
6.6本章小結158
6.7本章習題158
任務7可視化性別識別模型160
7.1在程序中使用TensorBoard160
7.1.1TensorBoard基本介紹160
7.1.2TensorBoard使用步驟161
7.2TensorBoard可視化163
7.2.1標量與直方圖可視化163
7.2.2卷積過程可視化167
7.2.3訓練過程可視化171
7.3可視化性別識別模型174
7.3.1模型簡介174
7.3.2讀取數(shù)據(jù)集175
7.3.3訓練模型176
7.3.4可視化模型179
7.4本章小結180
7.5本章習題180
任務8理解tf.data數(shù)據(jù)處理框架182
8.1Dataset的基本機制182
8.1.1Dataset數(shù)據(jù)處理框架182
8.1.2創(chuàng)建Dataset183
8.2Iterator迭代數(shù)據(jù)集184
8.2.1單次迭代器184
8.2.2可初始化迭代器185
8.2.3可重新初始化迭代器186
8.2.4可饋送迭代器187
8.3Dataset數(shù)據(jù)批處理188
8.3.1直接批處理188
8.3.2預處理后批處理189
8.4Dataset數(shù)據(jù)集構建與解析190
8.4.1數(shù)據(jù)集預處理190
8.4.2構建TFRecordDataset數(shù)據(jù)集191
8.4.3從tf.train.Example中解析數(shù)據(jù)192
8.5本章小結193
8.6本章習題194
附錄人工智能數(shù)學基礎196