凸優(yōu)化：算法與復雜性

譯者序
致謝
第1章緒論1
11機器學習中的若干凸優(yōu)化問題1
12凸性的基本性質(zhì)3
13凸性的作用5
14黑箱模型7
15結(jié)構(gòu)性優(yōu)化8
16結(jié)果的概述和免責聲明9
第2章有限維的凸優(yōu)化12
21重心法12
22橢球法14
23Vaidya割平面法18
231體積障礙19
232Vaidya算法20
233Vaidya方法分析20
234限制條件和體積障礙22
24共軛梯度26
第3章維度無關的凸優(yōu)化30
31Lipschitz函數(shù)的投影次梯度下降31
32光滑函數(shù)的梯度下降33
33條件梯度下降39
34強凸性43
341 強凸函數(shù)和Lipschitz函數(shù)44
342強凸光滑函數(shù)45
35下限47
36幾何下降52
361熱身賽：梯度下降的幾何學替代方案53
362加速度55
363幾何下降法56
37Nesterov加速梯度下降58
371光滑強凸情況58
372光滑的情況62
第4章非歐氏空間幾乎維度無關的凸優(yōu)化65
41鏡像映射66
42鏡像下降67
43鏡像下降的標準設置70
44惰性鏡像下降72
45鏡像代理74
46關于MD、DA和MP的向量場觀點76
第5章超越黑箱模型78
51光滑項與簡單非光滑項之和78
52非光滑函數(shù)的光滑鞍點表示80
521鞍點計算81
522鞍點鏡像下降82
523鞍點鏡像代理83
524應用84
53內(nèi)點法87
531障礙法87
532牛頓法的傳統(tǒng)分析88
533自和諧函數(shù)90
534ν自和諧障礙92
535路徑跟蹤方案95
536線性規(guī)劃和半定規(guī)劃的內(nèi)點法96
第6章凸優(yōu)化與隨機性98
61非光滑隨機優(yōu)化99
62光滑隨機優(yōu)化與小批量SGD100
63光滑函數(shù)與強凸函數(shù)的和103
64隨機坐標下降107
641坐標平滑優(yōu)化的RCD算法108
642用于光滑和強凸優(yōu)化的RCD110
65鞍點的隨機加速112
66凸松弛與隨機取整113
67基于隨機游動的方法117
參考文獻120