最優(yōu)化模型：線性代數(shù)模型、凸優(yōu)化模型及應(yīng)用

譯者序
前言
第 1 章 緒論 1
1.1 啟發(fā)性的例子 1
1.2 優(yōu)化問題 4
1.3 優(yōu)化問題的重要類型 9
1.4 發(fā)展歷史 13
第一部分 線性代數(shù)模型
第 2 章 向量和函數(shù) 18
2.1 向量的基本概念 18
2.2 范數(shù)與內(nèi)積 25
2.3 子空間上的投影 35
2.4 函數(shù) 41
2.5 習(xí)題 52
第 3 章 矩陣 54
3.1 矩陣的基本概念 54
3.2 矩陣作為線性映射 59
3.3 行列式、特征值和特征向量 62
3.4 具有特殊結(jié)構(gòu)和性質(zhì)的矩陣 73
3.5 矩陣分解 79
3.6 矩陣范數(shù) 82
3.7 矩陣函數(shù) 85
3.8 習(xí)題 89
第 4 章 對稱矩陣 94
4.1 基礎(chǔ)知識 94
4.2 譜定理 99
4.3 譜分解與優(yōu)化 103
4.4 半正定矩陣 106
4.5 習(xí)題 113
第 5 章 奇異值分解 117
5.1 奇異值分解的基本概念 117
5.2 由 SVD 建立矩陣性質(zhì) 120
5.3 奇異值分解與優(yōu)化 126
5.4 習(xí)題 138
第 6 章 線性方程組與最小二乘 142
6.1 動機(jī)與例子 142
6.2 線性方程組的解集 148
6.3 最小二乘和最小范數(shù)解 150
6.4 求解線性方程組和最小二乘問題 158
6.5 解的靈敏性 162
6.6 單位球的正反映射 165
6.7 最小二乘問題的變形 171
6.8 習(xí)題 180
第 7 章 矩陣算法 185
7.1 特征值和特征向量的計算 185
7.2 求解平方線性方程組 190
7.3 QR 分解 195
7.4 習(xí)題 199
第二部分 凸優(yōu)化模型
第 8 章 凸性 204
8.1 凸集 204
8.2 凸函數(shù) 211
8.3 凸問題 231
8.4 最優(yōu)性條件 250
8.5 對偶 254
8.6 習(xí)題 269
第 9 章 線性、二次與幾何模型 273
9.1 二次函數(shù)的無約束最小化 273
9.2 線性與凸二次不等式的幾何表示 276
9.3 線性規(guī)劃 281
9.4 二次規(guī)劃 292
9.5 用 LP 和 QP 建模 301
9.6 與 LS 相關(guān)的二次規(guī)劃 312
9.7 幾何規(guī)劃 315
9.8 習(xí)題 321
第 10 章 二階錐和魯棒模型 326
10.1 二階錐規(guī)劃 326
10.2 SOCP 可表示的問題和例子 332
10.3 魯棒優(yōu)化模型 346
10.4 習(xí)題 353
第 11 章 半定模型 357
11.1 從線性到錐模型 357
11.2 線性矩陣不等式 358
11.3 半定規(guī)劃 369
11.4 半定規(guī)劃模型的例子 375
11.5 習(xí)題 393
第 12 章 算法介紹 399
12.1 技術(shù)方面的預(yù)備知識 400
12.2 光滑無約束極小化算法 405
12.3 光滑凸約束極小化算法 423
12.4 非光滑凸優(yōu)化算法 443
12.5 坐標(biāo)下降法 454
12.6 分散式優(yōu)化方法 457
12.7 習(xí)題 465
第三部分 應(yīng)用
第 13 章 從數(shù)據(jù)中學(xué)習(xí) 472
13.1 監(jiān)督學(xué)習(xí)概述 472
13.2 基于多項式模型的最小二乘預(yù)測 473
13.3 二元分類 478
13.4 一般監(jiān)督學(xué)習(xí)問題 485
13.5 ......