神經網(wǎng)絡結構設計的理論與方法

第1章概論
1.1神經網(wǎng)絡簡介
1.2神經網(wǎng)絡研究內容
1.3本書內容
1.4參考資料簡介
第2章基本的神經元及其學習規(guī)則
2.1神經元模型
2.1.1大腦神經細胞
2.1.2MP模型
2.1.3一般神經元模型
2.2神經元學習算法
2.2.1Hebb學習規(guī)則
2.2.2離散感知器學習規(guī)則
2.2.3學習規(guī)則
2.2.4Widrow-Hoff學習規(guī)則
2.3單個神經元解決問題的能力
2.3.1單個神經元的分類能力
2.3.2多個神經元的分類能力
2.4神經網(wǎng)絡的拓撲結構
2.4.1前向神經網(wǎng)絡
2.4.2反饋神經網(wǎng)絡
第3章多層感知器網(wǎng)絡
3.1兩層感知器網(wǎng)絡
3.1.1單神經元用于兩分類
3.1.2多輸出兩層感知器用于多分類
3.2線性閾值單元組成的多層感知器
3.3BP網(wǎng)及BP算法
3.3.1BP網(wǎng)絡結構
3.3.2BP學習算法
3.3.3BP算法應用例子
3.3.4BP網(wǎng)和BP算法應用要點
3.3.5BP算法的改進
第4章徑向基函數(shù)神經網(wǎng)絡
4.1RBF網(wǎng)結構和工作原理
4.2RBF網(wǎng)的生理學基礎
4.3RBF網(wǎng)的數(shù)學基礎
4.3.1內插問題
4.3.2正則化網(wǎng)絡
4.4RBF網(wǎng)常用的學習算法
4.4.1聚類方法
4.4.2梯度訓練方法
4.4.3正交最小二乘(OLS)學習算法
4,5RBF網(wǎng)的學習動態(tài)
4.5.1定義
4.5.2主要結論
4.5.3算例
4.5.4RBF網(wǎng)的學習動態(tài)與RBF網(wǎng)設計
4.6仿真例子
4.7RBF網(wǎng)的特點及其他問題
第5章Hopfield網(wǎng)絡
5.1連續(xù)Hopfield網(wǎng)絡
5.1.1連續(xù)Hopfield網(wǎng)絡原理
5.1.2Hopfield網(wǎng)絡的穩(wěn)定性
5.2離散Hopfield網(wǎng)絡
5.2.1離散Hopfield網(wǎng)絡原理
5.2.2離散Hopfield網(wǎng)絡的穩(wěn)定性
5.3Hopfield網(wǎng)絡應用
5.3.1連續(xù)Hopfield網(wǎng)絡與優(yōu)化計算
5.3.2離散Hopfield網(wǎng)絡與聯(lián)想存儲
5.4應用和仿真實例
5.4.1連續(xù)Hopfield網(wǎng)絡應用實例：TSP問題
5.4.2離散Hopfield網(wǎng)絡仿真：字符存儲
第6章自組織特征映射
6.1生物系統(tǒng)中的競爭
6.2SOFM結構
6.3SOFM的學習算法
6.4仿真例子
第7章神經網(wǎng)絡的泛化理論
7.1神經網(wǎng)絡的泛化理論簡介
7.2泛化誤差的偏差-標準差分解
7.3結構復雜性和樣本復雜性對神經網(wǎng)絡泛化能力的影響
7.3.1線性閾值神經網(wǎng)絡
7.3.2函數(shù)逼近神經網(wǎng)絡
7.4正則化方法對泛化能力的影響
7.5神經網(wǎng)絡集成對泛化能力的影響
7.6樣本輸入中加噪聲對泛化能力的影響
7.7其他因素對泛化能力的影響
第8章神經網(wǎng)絡的參數(shù)優(yōu)化設計
8.1主動學習
8.1.1原理
8.1.2仿真例子：三角形概念學習
8.2在樣本輸入中添加隨機噪聲
8.2.1噪聲添加方法
8.2.2仿真例子
8.3神經網(wǎng)絡集成
8.3.1原理
8.3.2仿真例子：廣義異或問題
8.4基于先驗知識的泛化方法
8.5最優(yōu)停止法
8.5.1原理
8.5.2仿真例子：Hermit多項式逼近
第9章神經網(wǎng)絡構造方法
9.1神經網(wǎng)絡構造方法簡介
9.2級連相關算法
9.2.1BP算法收斂速度慢的原區(qū)
9.2.2網(wǎng)絡結構
9.2.3權值學習算法
9.2.4算法實現(xiàn)
9.2.5算法討論
9.2.6仿真結果：雙螺旋分類問題
9.3資源分配網(wǎng)絡
9.3.1RAN網(wǎng)絡結構
9.3.2學習算法
9.3.3算法實現(xiàn)
9.3.4RAN的優(yōu)點與缺點
9.3.5仿真：Hermit多項式在線學習
第10章神經網(wǎng)絡剪枝方法
10.1權衰減法
10.1.1權消去法剪枝原理
10.1.2正則化系數(shù)丸的動態(tài)修改策略
10.1.3試驗例子：非線性系統(tǒng)辨識
10.2靈敏度計算方法
10.2.1Skeletonization方法原理
10.2.2仿真例子：非線性系統(tǒng)結構辨識
10.3相關性剪枝方法
10,3.1隱節(jié)點之間相關情況分析
10.3.2隱節(jié)點合成方法
10.3.3仿真例子
第11章進化神經網(wǎng)絡方法
11.1進化神經網(wǎng)絡簡介
11.2進化優(yōu)選算法
11.2.1OLS算法設計RBF網(wǎng)的缺點
11.2.2進化優(yōu)選算法的數(shù)學基礎
11.2.3進化優(yōu)選算法(ESA算法)
11.2.4算法的效率分析
11.2.5ESA算法實現(xiàn)
11.2.6仿真例子
第12章混雜神經網(wǎng)絡設計
12.1資源優(yōu)化網(wǎng)絡
12.1.1資源優(yōu)化網(wǎng)絡簡介
12.1.2RON在線RBF網(wǎng)設計方法
12.1.3仿真研究
12.1.4RON的優(yōu)缺點
12.2神經網(wǎng)絡的結構分解方法
12.2.1神經網(wǎng)絡的結構分解方法簡介
12.2.2神經網(wǎng)絡的結構分解原理
12.2.3基于結構分解的神經網(wǎng)絡設計方法
12.2.4應用例子
附錄A：用于三分類的BP算法程序
附錄B：用于函數(shù)逼近的BP算法程序
附錄C：基于聚類的RBF網(wǎng)設計算法
附錄D：基于梯度法的RBF網(wǎng)設計算法
附錄E：基于OLS的RBF網(wǎng)設計算法
附錄F：連續(xù)Hopfield網(wǎng)絡解決TSP的程序
附錄G：樣本輸入加噪聲訓練程序
附錄H：神經網(wǎng)絡集成訓練程序
附錄I：最優(yōu)停止法訓練程序
附錄J：級連相關算法
附錄K：資源分配網(wǎng)絡算法
附錄L：權消去法
附錄M：Skeletonization方法
附錄N：隱節(jié)點合成算法
參考文獻