最優(yōu)化理論與方法

第一章　引論
1.1　引言
1.2　數(shù)學基礎
1.3　凸集和凸函數(shù)
1.4　無約束問題的最優(yōu)性條件
1.5　最優(yōu)化方法的結構
第二章　一維搜索
2.1　引言
2.2　精確一維搜索的收斂理論
2.3　0.618法和Fibonacci法
2.4　插值法
2.5　不精確一維搜索方法
第三章　牛頓法
3.1　最速下降法
3.2　牛頓法
3.3　修正牛頓法
3.4　有限差分牛頓法
3.5　負曲率方向法
3.6　信賴域方法
3.7　不精確牛頓法
3.8　附錄：關于牛頓法收斂性的Kantorovich定理
第四章　共軛梯度法
4.1　共軛方向法
4.2　共軛梯度法
4.3　共軛梯度法的收斂性
第五章　擬牛頓法
5.1　擬牛頓法
5.2　Broyden族
5.3　Huang族
5.4　算法的不變性
5.5　擬牛頓法的局部收斂性
5.6　擬牛頓法的總體收斂性
5.7　自調比變尺度方法
5.8　稀疏擬牛頓法
第六章　非二次模型最優(yōu)化方法
6.1　齊次函數(shù)模型的最優(yōu)化方法
6.2　張量方法
6.3　錐模型與共線調比
第七章　非線性最小二乘問題
7.1　非線性最小二乘問題
7.2　Gauss-Newton法
7.3　Levenberg-Marquardt方法
7.4　Levenberg-Marquardt方法的More形式
7.5　擬牛頓法
第八章　約束優(yōu)化最優(yōu)性條件
8.1　約束優(yōu)化問題
8.2　一階最優(yōu)性條件
8.3　二階最優(yōu)性條件
第九章　二次規(guī)劃
9.1　二次規(guī)劃問題
9.2　對偶性質
9.3　等式約束問題
9.4　積極集法
9.5　對偶方法
9.6　內點算法
第十章　罰函數(shù)法
10.1　罰函數(shù)
10.2　簡單罰函數(shù)法
10.3　內點罰函數(shù)
10.4　乘子罰函數(shù)
10.5　光滑精確罰函數(shù)
10.6　非光滑精確罰函數(shù)
第十一章　可行方向法
11.1　可行點法
11.2　廣義消去法
11.3　廣義既約梯度法
11.4　投影梯度法
11.5　線性約束問題
第十二章　逐步二次規(guī)劃法
12.1　Lagrange-Newton法
12.2　Wilson-Han-Powell方法
12.3　SQP步的超線性收斂性
12.4　Marotos效應
12.5　Watchdog技術
12.6　二階校正步
12.7　光滑價值函數(shù)
12.8　既約Hesse陣方法
第十三章　信賴域法
13.1　算法的基本形式
13.2　線性約束問題的信賴域法
13.3　信賴域子問題
13.4　零空間方法
13.5　CDT子問題
13.6　Powell-Yuan方法
第十四章　非光滑優(yōu)化
14.1　廣義梯度
14.2　非光滑優(yōu)化問題
14.3　次梯度方法
14.4　割平面法
14.5　捆集法
14.6　復合非光滑優(yōu)化的基本性質-
14.7　信賴域法
參考文獻