數(shù)據(jù)分析的結(jié)構(gòu)化表征學(xué)習(xí)

第 1 章 緒論 1
1．1 表征學(xué)習(xí)的概念 1
1．2 結(jié)構(gòu)化表征學(xué)習(xí)基礎(chǔ) 2
1．2．1 結(jié)構(gòu)化表征學(xué)習(xí)的基礎(chǔ)理論和方法 2
1．2．2 結(jié)構(gòu)化表征學(xué)習(xí)的應(yīng)用 7
參考文獻(xiàn) 8
第 2 章 塊對角低秩表征學(xué)習(xí) 11
2．1 低秩表征學(xué)習(xí)方法 12
2．2 塊對角低秩表征學(xué)習(xí)的方法設(shè)計 13
2．3 塊對角低秩表征學(xué)習(xí)的優(yōu)化算法 15
2．4 識別算法的設(shè)計 18
2．5 塊對角低秩表征學(xué)習(xí)的算法分析 19
2．5．1 收斂性分析 19
2．5．2 計算時間復(fù)雜度 20
2．5．3 新樣本預(yù)測檢驗(yàn) 20
2．6 與現(xiàn)有低秩表征學(xué)習(xí)方法的關(guān)系 22
2．6．1 與非負(fù)低秩表征稀疏方法的關(guān)系 22
2．6．2 與結(jié)構(gòu)化稀疏低秩表征方法的關(guān)系 23
2．6．3 與監(jiān)督正則化魯棒子空間方法的關(guān)系 24
2．7 實(shí)驗(yàn)驗(yàn)證 24
2．7．1 實(shí)驗(yàn)設(shè)置 24
2．7．2 在人臉識別任務(wù)中的實(shí)驗(yàn)結(jié)果 25
2．7．3 在字符識別任務(wù)中的實(shí)驗(yàn)結(jié)果 28
2．7．4 在場景識別任務(wù)中的實(shí)驗(yàn)結(jié)果 30
2．7．5 優(yōu)勢分析 30
2．7．6 算法收斂性實(shí)驗(yàn)驗(yàn)證 32
2．7．7 算法參數(shù)敏感性經(jīng)驗(yàn)分析 32
2．8 本章小結(jié) 33
參考文獻(xiàn) 34
第3 章 判別性彈性網(wǎng)正則化回歸表征學(xué)習(xí) 38
3．1 最小二乘回歸方法 39
3．2 基于彈性網(wǎng)正則化的回歸表征學(xué)習(xí)模型 40
3．2．1 一種普適的彈性網(wǎng)正則化回歸表征學(xué)習(xí)框架 40
3．2．2 判別性彈性網(wǎng)正則化回歸表征學(xué)習(xí)模型 42
3．2．3 判別性彈性網(wǎng)正則化回歸表征學(xué)習(xí)的快速模型 43
3．3 模型優(yōu)化求解和算法分類模型 44
3．3．1 模型的優(yōu)化求解 44
3．3．2 判別性回歸表征空間的構(gòu)造和算法分類模型 47
3．4 算法分析 48
3．4．1 與經(jīng)典回歸模型的關(guān)系 48
3．4．2 時間復(fù)雜度和收斂性分析 48
3．5 實(shí)驗(yàn)驗(yàn)證 50
3．5．1 對比方法與實(shí)驗(yàn)設(shè)置 50
3．5．2 在人臉識別任務(wù)中的實(shí)驗(yàn)結(jié)果 51
3．5．3 在物體識別任務(wù)中的實(shí)驗(yàn)結(jié)果 55
3．5．4 在場景識別任務(wù)中的實(shí)驗(yàn)結(jié)果 55
3．5．5 與傳統(tǒng)的回歸表征學(xué)習(xí)模型進(jìn)行對比分析 56
3．5．6 優(yōu)化算法的收斂條件和參數(shù)敏感性經(jīng)驗(yàn)分析 57
3．5．7 算法效率分析 59
3．6 本章小結(jié) 60
參考文獻(xiàn) 61
第4 章 邊緣結(jié)構(gòu)化表征學(xué)習(xí) 64
4．1 判別性最小二乘回歸方法 65
4．2 邊緣結(jié)構(gòu)化表征學(xué)習(xí)模型 66
4．2．1 損失函數(shù) 66
4．2．2 算法復(fù)雜度正則項(xiàng) 67
4．2．3 自適應(yīng)流形結(jié)構(gòu)學(xué)習(xí) 68
4．3 邊緣結(jié)構(gòu)化表征學(xué)習(xí)算法的優(yōu)化策略 70
4．3．1 求解優(yōu)化變量W、A 和B 70
4．3．2 求解優(yōu)化變量R 71
4．3．3 求解優(yōu)化變量P 72
4．4 半監(jiān)督學(xué)習(xí)模型的擴(kuò)展 74
4．5 邊緣結(jié)構(gòu)化表征學(xué)習(xí)的算法分析 74
4．5．1 優(yōu)化算法收斂性的理論分析 74
4．5．2 計算復(fù)雜度 75
4．6 實(shí)驗(yàn)驗(yàn)證 75
4．6．1 實(shí)驗(yàn)設(shè)置 76
4．6．2 在物體識別任務(wù)中的實(shí)驗(yàn)結(jié)果 77
4．6．3 在人臉識別任務(wù)中的實(shí)驗(yàn)結(jié)果 79
4．6．4 在紋理識別任務(wù)中的實(shí)驗(yàn)結(jié)果 81
4．6．5 在場景識別任務(wù)中的實(shí)驗(yàn)結(jié)果 82
4．6．6 識別性能對比分析 83
4．6．7 算法參數(shù)敏感性經(jīng)驗(yàn)分析 85
4．6．8 算法收斂性實(shí)驗(yàn)驗(yàn)證 87
4．6．9 效率對比分析 88
4．7 本章小結(jié) 89
參考文獻(xiàn) 89
第5 章 基于聯(lián)合學(xué)習(xí)的二值多視圖表征學(xué)習(xí) 93
5．1 二值多視圖表征學(xué)習(xí)框架 95
5．1．1 二值多視圖聚類模型 95
5．1．2 高效的可擴(kuò)展多視圖圖像聚類分析模型 96
5．2 高效的可擴(kuò)展多視圖圖像聚類算法 99
5．3 高效的可擴(kuò)展多視圖圖像聚類算法分析 102
5．3．1 收斂性分析 102
5．3．2 復(fù)雜度分析 103
5．4 實(shí)驗(yàn)驗(yàn)證 103
5．4．1 數(shù)據(jù)集和評估標(biāo)準(zhǔn) 103
5．4．2 中等規(guī)模多視圖數(shù)據(jù)實(shí)驗(yàn)驗(yàn)證 104
5．4．3 大規(guī)模多視圖數(shù)據(jù)實(shí)驗(yàn)驗(yàn)證 107
5．4．4 經(jīng)驗(yàn)性分析 108
5．4．5 可視化分析 113
5．5 本章小結(jié) 115
參考文獻(xiàn) 116
第6 章 基于靈活局部結(jié)構(gòu)擴(kuò)散的廣義不完整多視圖聚類 120
6．1 多視圖聚類方法 122
6．1．1 部分多視圖聚類 122
6．1．2 多個不完整視圖聚類 123
6．2 基于靈活局部結(jié)構(gòu)擴(kuò)散的廣義不完整多視圖聚類模型 123
6．2．1 單視圖個體表征學(xué)習(xí) 124
6．2．2 多視圖一致性表征學(xué)習(xí) 125
6．2．3 自適應(yīng)加權(quán)多視圖學(xué)習(xí) 126
6．2．4 GIMC_FLSD 的總體目標(biāo)函數(shù) 126
6．3 GIMC_FLSD 的優(yōu)化算法 127
6．4 GIMC_FLSD 的理論分析 129
6．4．1 計算復(fù)雜度 129
6．4．2 收斂性分析 130
6．4．3 與其他方法的聯(lián)系 130
6．5 實(shí)驗(yàn)驗(yàn)證 131
6．5．1 實(shí)驗(yàn)配置 131
6．5．2 實(shí)驗(yàn)結(jié)果和分析 133
6．5．3 時間復(fù)雜度分析 137
6．5．4 參數(shù)靈敏度分析 139
6．5．5 收斂性分析 142
6．6 本章小結(jié) 143
參考文獻(xiàn) 143
第7 章 可擴(kuò)展的監(jiān)督非對稱哈希學(xué)習(xí) 148
7．1 哈希學(xué)習(xí)方法 149
7．2 可擴(kuò)展的監(jiān)督非對稱哈希學(xué)習(xí)模型 151
7．2．1 問題定義 151
7．2．2 方法解析 152
7．3 可擴(kuò)展的監(jiān)督非對稱哈希表征學(xué)習(xí)的優(yōu)化算法 154
7．3．1 交替優(yōu)化方法 154
7．3．2 收斂性分析 158
7．3．3 算法的樣本外擴(kuò)展問題 158
7．4 實(shí)驗(yàn)驗(yàn)證 159
7．4．1 實(shí)驗(yàn)數(shù)據(jù) 159
7．4．2 實(shí)驗(yàn)設(shè)置 160
7．4．3 在CIFAR-10 圖像檢索數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果 161
7．4．4 在Caltech-256 目標(biāo)檢索數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果 165
7．4．5 在SUN-397 場景檢索數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果 167
7．4．6 在ImageNet 大規(guī)模數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果 169
7．4．7 在NUS-WIDE 多實(shí)例數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果 171
7．4．8 實(shí)驗(yàn)分析和討論 173
7．5 本章小結(jié) 175
參考文獻(xiàn) 175
第8 章 深度語義協(xié)同哈希學(xué)習(xí) 181
8．1 哈希學(xué)習(xí)方法 182
8．2 深度語義協(xié)同哈希學(xué)習(xí)模型 184
8．2．1 問題定義 184
8．2．2 特征嵌入網(wǎng)絡(luò) 185
8．2．3 類別編碼網(wǎng)絡(luò) 186
8．2．4 構(gòu)建語義不變結(jié)構(gòu) 186
8．2．5 協(xié)同學(xué)習(xí) 187
8．3 深度語義協(xié)同哈希學(xué)習(xí)的優(yōu)化算法設(shè)計 187
8．3．1 訓(xùn)練策略分析 187
8．3．2 樣本擴(kuò)展問題 188
8．4 實(shí)驗(yàn)驗(yàn)證 188
8．4．1 實(shí)驗(yàn)設(shè)置 189
8．4．2 評估標(biāo)準(zhǔn) 189
8．4．3 在NUS-WIDE 數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果 189
8．4．4 在MIRFlickr 數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果 193
8．4．5 在CIFAR-10 數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果 196
8．4．6 子模塊分析 198
8．4．7 參數(shù)敏感性分析和可視化結(jié)果 199
8．5 本章小結(jié) 200
參考文獻(xiàn) 201
第9 章 判別性費(fèi)希爾嵌入字典學(xué)習(xí) 205
9．1 相關(guān)工作 207
9．1．1 符號定義 207
9．1．2 畫像定義 207
9．1．3 FDDL 算法 208
9．2 判別性費(fèi)希爾嵌入字典學(xué)習(xí)算法 209
9．2．1 判別性費(fèi)希爾原子嵌入模型 209
9．2．2 判別性費(fèi)希爾系數(shù)嵌入模型 210
9．2．3 DFEDL 算法的目標(biāo)函數(shù) 211
9．3 判別性費(fèi)希爾嵌入字典學(xué)習(xí)的優(yōu)化算法 211
9．4 算法對比與分析 213
9．4．1 DFEDL 算法與FDDL 算法的關(guān)系 214
9．4．2 時間復(fù)雜度分析 215
9．4．3 收斂性分析 215
9．5 實(shí)驗(yàn)驗(yàn)證 216
9．5．1 實(shí)驗(yàn)配置 216
9．5．2 數(shù)據(jù)集描述 217
9．5．3 在深度特征數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果 218
9．5．4 在手工數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果 219
9．5．5 實(shí)驗(yàn)結(jié)果分析 221
9．5．6 參數(shù)敏感性分析 222
9．5．7 實(shí)驗(yàn)收斂性分析 223
9．5．8 不同原子數(shù)的影響 223
9．5．9 與深度學(xué)習(xí)模型的對比 224
9．6 本章小結(jié) 226
參考文獻(xiàn) 227
附錄 234
附錄A 引理9-1 及其證明過程 234
附錄B 引理9-2 及其證明過程 236
附錄C 定理9-1 及其證明過程 237