神經(jīng)網(wǎng)絡(luò)設(shè)計（原書第2版）

目　錄
Neural Network Design，Second Edition

出版者的話
譯者序
前言
第1章　引言1
　1.1　目標1
　1.2　歷史1
　1.3　應(yīng)用3
　1.4　生物學(xué)啟示4
　1.5　擴展閱讀5
第2章　神經(jīng)元模型及網(wǎng)絡(luò)結(jié)構(gòu)8
　2.1　目標8
　2.2　理論與例子8
　　2.2.1　記號8
　　2.2.2　神經(jīng)元模型8
　　2.2.3　網(wǎng)絡(luò)結(jié)構(gòu)11
　2.3　小結(jié)15
　2.4　例題17
　2.5　結(jié)束語18
　2.6　習(xí)題18
第3章　一個說明性的實例20
　3.1　目標20
　3.2　理論與例子20
　　3.2.1　問題描述20
　　3.2.2　感知機21
　　3.2.3　Hamming網(wǎng)絡(luò)23
　　3.2.4　Hopfield網(wǎng)絡(luò)26
　3.3　結(jié)束語27
　3.4　習(xí)題28
第4章　感知機學(xué)習(xí)規(guī)則31
　4.1　目標31
　4.2　理論與例子31
　　4.2.1　學(xué)習(xí)規(guī)則31
　　4.2.2　感知機結(jié)構(gòu)32
　　4.2.3　感知機的學(xué)習(xí)規(guī)則35
　　4.2.4　收斂性證明39
　4.3　小結(jié)41
　4.4　例題42
　4.5　結(jié)束語48
　4.6　擴展閱讀49
　4.7　習(xí)題49
第5章　信號與權(quán)值向量空間53
　5.1　目標53
　5.2　理論與例子53
　　5.2.1　線性向量空間53
　　5.2.2　線性無關(guān)54
　　5.2.3　生成空間55
　　5.2.4　內(nèi)積56
　　5.2.5　范數(shù)56
　　5.2.6　正交性56
　　5.2.7　向量展開式58
　5.3　小結(jié)60
　5.4　例題61
　5.5　結(jié)束語66
　5.6　擴展閱讀67
　5.7　習(xí)題67
第6章　神經(jīng)網(wǎng)絡(luò)中的線性變換71
　6.1　目標71
　6.2　理論與例子71
　　6.2.1　線性變換71
　　6.2.2　矩陣表示72
　　6.2.3　基變換74
　　6.2.4　特征值與特征向量76
　6.3　小結(jié)79
　6.4　例題79
　6.5　結(jié)束語85
　6.6　擴展閱讀85
　6.7　習(xí)題86
第7章　有監(jiān)督的Hebb學(xué)習(xí)90
　7.1　目標90
　7.2　理論與例子90
　　7.2.1　線性聯(lián)想器91
　　7.2.2　Hebb規(guī)則91
　　7.2.3　偽逆規(guī)則93
　　7.2.4　應(yīng)用95
　　7.2.5　Hebb學(xué)習(xí)的變形96
　7.3　小結(jié)97
　7.4　例題98
　7.5　結(jié)束語105
　7.6　擴展閱讀105
　7.7　習(xí)題106
第8章　性能曲面和最優(yōu)點108
　8.1　目標108
　8.2　理論與例子108
　　8.2.1　泰勒級數(shù)108
　　8.2.2　方向?qū)?shù)110
　　8.2.3　極小點111
　　8.2.4　優(yōu)化的必要條件113
　　8.2.5　二次函數(shù)114
　8.3　小結(jié)119
　8.4　例題120
　8.5　結(jié)束語127
　8.6　擴展閱讀127
　8.7　習(xí)題128
第9章　性能優(yōu)化131
　9.1　目標131
　9.2　理論與例子131
　　9.2.1　最速下降法131
　　9.2.2　牛頓法136
　　9.2.3　共軛梯度法139
　9.3　小結(jié)142
　9.4　例題142
　9.5　結(jié)束語150
　9.6　擴展閱讀150
　9.7　習(xí)題151
第10章　Widrow-Hoff學(xué)習(xí)153
　10.1　目標153
　10.2　理論與例子153
　　10.2.1　ADALINE網(wǎng)絡(luò)153
　　10.2.2　均方誤差154
　　10.2.3　LMS算法156
　　10.2.4　收斂性分析157
　　10.2.5　自適應(yīng)濾波器159
　10.3　小結(jié)164
　10.4　例題165
　10.5　結(jié)束語174
　10.6　擴展閱讀174
　10.7　習(xí)題175
第11章　反向傳播179
　11.1　目標179
　11.2　理論與例子179
　　11.2.1　多層感知機179
　　11.2.2　反向傳播算法182
　　11.2.3　例子186
　　11.2.4　批量訓(xùn)練和增量訓(xùn)練188
　　11.2.5　使用反向傳播188
　11.3　小結(jié)192
　11.4　例題193
　11.5　結(jié)束語201
　11.6　擴展閱讀201
　11.7　習(xí)題202
第12章　反向傳播算法的變形210
　12.1　目標210
　12.2　理論與例子210
　　12.2.1　反向傳播算法的缺點210
　　12.2.2　反向傳播算法的啟發(fā)式改進215
　　12.2.3　數(shù)值優(yōu)化技術(shù)218
　12.3　小結(jié)226
　12.4　例題228
　12.5　結(jié)束語235
　12.6　擴展閱讀236
　12.7　習(xí)題237
第13章　泛化241
　13.1　目標241
　13.2　理論與例子241
　　13.2.1　問題描述242
　　13.2.2　提升泛化能力的方法243
　13.3　小結(jié)257
　13.4　例題258
　13.5　結(jié)束語265
　13.6　擴展閱讀265
　13.7　習(xí)題266
第14章　動態(tài)網(wǎng)絡(luò)270
　14.1　目標270
　14.2　理論與例子270
　　14.2.1　分層數(shù)字動態(tài)網(wǎng)絡(luò)271
　　14.2.2　動態(tài)學(xué)習(xí)的基本原則273
　　14.2.3　動態(tài)反向傳播276
　14.3　小結(jié)288
　14.4　例題290
　14.5　結(jié)束語296
　14.6　擴展閱讀296
　14.7　習(xí)題297
第15章　競爭網(wǎng)絡(luò)302
　15.1　目標302
　15.2　理論與例子302
　　15.2.1　Hamming網(wǎng)絡(luò)303
　　15.2.2　競爭層304
　　15.2.3　生物學(xué)中的競爭層307
　　15.2.4　自組織特征圖308
　　15.2.5　學(xué)習(xí)向量量化310
　15.3　小結(jié)314
　15.4　例題315
　15.5　結(jié)束語322
　15.6　擴展閱讀322
　15.7　習(xí)題323
第16章　徑向基網(wǎng)絡(luò)329
　16.1　目標329
　16.2　理論與例子329
　　16.2.1　徑向基網(wǎng)絡(luò)329
　　16.2.2　訓(xùn)練RBF網(wǎng)絡(luò)333
　16.3　小結(jié)343
　16.4　例題344
　16.5　結(jié)束語347
　16.6　擴展閱讀347
　16.7　習(xí)題348
第17章　實際訓(xùn)練問題352
　17.1　目標352
　17.2　理論與例子352
　　17.2.1　訓(xùn)練前的步驟353
　　17.2.2　網(wǎng)絡(luò)訓(xùn)練359
　　17.2.3　訓(xùn)練結(jié)果分析362
　17.3　結(jié)束語368
　17.4　擴展閱讀368
第18章　實例研究1:函數(shù)逼近370
　18.1　目標370
　18.2　理論與例子370
　　18.2.1　智能傳感系統(tǒng)描述370
　　18.2.2　數(shù)據(jù)收集與預(yù)處理371
　　18.2.3　網(wǎng)絡(luò)結(jié)構(gòu)選擇372
　　18.2.4　網(wǎng)絡(luò)訓(xùn)練372
　　18.2.5　驗證373
　　18.2.6　數(shù)據(jù)集374
　18.3　結(jié)束語375
　18.4　擴展閱讀375
第19章　實例研究2：概率估計376
　19.1　目標376
　19.2　理論與例子376
　　19.2.1　CVD過程描述376
　　19.2.2　數(shù)據(jù)收集與預(yù)處理377
　　19.2.3　網(wǎng)絡(luò)結(jié)構(gòu)選擇378
　　19.2.4　網(wǎng)絡(luò)訓(xùn)練379
　　19.2.5　驗證381
　　19.2.6　數(shù)據(jù)集382
　19.3　結(jié)束語382
　19.4　擴展閱讀383
第20章　實例研究3：模式識別384
　20.1　目標384
　20.2　理論與例子384
　　20.2.1　心肌梗死識別問題描述384
　　20.2.2　數(shù)據(jù)收集與預(yù)處理384
　　20.2.3　網(wǎng)絡(luò)結(jié)構(gòu)選擇387
　　20.2.4　網(wǎng)絡(luò)訓(xùn)練387
　　20.2.5　驗證388
　　20.2.6　數(shù)據(jù)集389
　20.3　結(jié)束語390
　20.4　擴展閱讀390
第21章　實例研究4：聚類391
　21.1　目標391
　21.2　理論與例子391
　　21.2.1　森林覆蓋問題描述391
　　21.2.2　數(shù)據(jù)收集與預(yù)處理392
　　21.2.3　網(wǎng)絡(luò)結(jié)構(gòu)選擇392
　　21.2.4　網(wǎng)絡(luò)訓(xùn)練393
　　21.2.5　驗證394
　　21.2.6　數(shù)據(jù)集396
　21.3　結(jié)束語396
　21.4　擴展閱讀396
第22章　實例研究5：預(yù)測398
　22.1　目標398
　22.2　理論與例子398
　　22.2.1　磁懸浮系統(tǒng)描述398
　　22.2.2　數(shù)據(jù)收集與預(yù)處理399
　　22.2.3　網(wǎng)絡(luò)結(jié)構(gòu)選擇399
　　22.2.4　網(wǎng)絡(luò)訓(xùn)練401
　　22.2.5　驗證402
　　22.2.6　數(shù)據(jù)集404
　22.3　結(jié)束語404
　22.4　擴展閱讀405
附錄A　參考文獻406
附錄B　記號413
附錄C　軟件417
索引420