Python深度元學習算法

 
第1章元學習簡介1
1.1元學習1
1.2元學習的類型2
1.2.1學習度量空間2
1.2.2學習初始化3
1.2.3學習優(yōu)化器3
1.3嵌套梯度下降法實現(xiàn)元學習4
1.4少樣本學習的優(yōu)化模型6
1.5小結9
1.6思考題9
參考文獻9第2章深度學習11
2.1深度學習的概念11
2.2深度神經(jīng)網(wǎng)絡概述12
2.2.1人工神經(jīng)網(wǎng)絡12
2.2.2深度神經(jīng)網(wǎng)絡15
2.3卷積神經(jīng)網(wǎng)絡概述17
2.3.1卷積神經(jīng)網(wǎng)絡17
2.3.2卷積神經(jīng)網(wǎng)絡的結構17
2.3.3卷積神經(jīng)網(wǎng)絡的訓練24
2.3.4VGG——卷積神經(jīng)網(wǎng)絡的代表性網(wǎng)絡25
2.4循環(huán)神經(jīng)網(wǎng)絡28
2.4.1循環(huán)神經(jīng)網(wǎng)絡概念28
2.4.2長短期記憶（LSTM）網(wǎng)絡30
2.5生成對抗網(wǎng)絡32
2.5.1生成器33
2.5.2判別器34
2.5.3訓練過程35
2.5.4小結36
2.6Transformer及擴散模型37
2.6.1編碼組件38
2.6.2解碼組件39
2.6.3擴散模型40
2.7小結42
2.8思考題43
參考文獻43第3章孿生網(wǎng)絡45
3.1孿生網(wǎng)絡簡介45
3.2孿生網(wǎng)絡的架構47
3.3孿生網(wǎng)絡的衍生48
3.3.1偽孿生網(wǎng)絡49
3.3.2三胞胎連體網(wǎng)絡49
3.3.3三胞胎偽孿生網(wǎng)絡50
3.4孿生網(wǎng)絡的發(fā)展及應用51
3.5案例： 利用孿生網(wǎng)絡進行圖像識別52
3.6小結59
3.7思考題59
參考文獻60第4章原型網(wǎng)絡及其變體61
4.1原型網(wǎng)絡61
4.1.1原型網(wǎng)絡的基本算法63
4.1.2用于分類的原型網(wǎng)絡結構64
4.2高斯原型網(wǎng)絡67
4.3半原型網(wǎng)絡69
4.4小結71
4.5思考題72
參考文獻72第5章關系網(wǎng)絡與匹配網(wǎng)絡73
5.1關系網(wǎng)絡73
5.1.1單樣本學習中的關系網(wǎng)絡74
5.1.2少樣本學習中的關系網(wǎng)絡77
5.1.3零樣本學習中的關系網(wǎng)絡78
5.2匹配網(wǎng)絡85
5.3小結86
5.4思考題87
參考文獻87第6章記憶增強神經(jīng)網(wǎng)絡88
6.1神經(jīng)圖靈機（NTM）89
6.1.1NTM中的讀、寫機制90
6.1.2尋址機制92
6.2基于NTM的復制任務94
6.2.1NTM模型的初始化94
6.2.2定義讀寫操作97
6.2.3定義尋址機制98
6.2.4定義復制任務100
6.2.5定義訓練函數(shù)102
6.2.6實現(xiàn)重復復制105
6.3記憶增強神經(jīng)網(wǎng)絡（MANN）111
6.3.1MANN的讀操作111
6.3.2MANN的寫操作113
6.3.3MANN的應用114
6.4小結116
6.5思考題116
參考文獻117第7章模型無關元學習及其變種118
7.1MAML118
7.1.1MAML算法121
7.1.2監(jiān)督學習中的MAML123
7.1.3從頭構建MAML125
7.1.4強化學習中的MAML142
7.2ADML144
7.2.1FGSM144
7.2.2ADML的流程145
7.2.3從頭構建ADML146
7.3CAML151
7.4小結152
7.5思考題153
參考文獻153第8章MetaSGD和Reptile154
8.1MetaSGD簡介154
8.1.1MetaSGD用于監(jiān)督學習155
8.1.2MetaSGD用于強化學習160
8.2Reptile簡介163
8.2.1Reptile的基本算法164
8.2.2Reptile用于正弦曲線回歸166
8.3小結168
8.4思考題169
參考文獻170第9章新進展與未來方向171
9.1元模仿學習171
9.2任務無關元學習174
9.2.1熵最大化/熵約簡175
9.2.2不平等最小化177
9.3無監(jiān)督元學習181
9.4樣本抽樣自適應元學習183
9.5任務難度自適應元學習186
9.6小結189
9.7思考題190
參考文獻190