基于半監(jiān)督與集成學(xué)習(xí)的文本分類(lèi)方法

第1章 緒論 1
1.1 研究背景及意義 1
1.1.1 數(shù)據(jù)挖掘和文本挖掘 1
1.1.2 文本分類(lèi)及其面臨的問(wèn)題 3
1.2 國(guó)內(nèi)外相關(guān)研究 7
1.2.1 半監(jiān)督學(xué)習(xí) 7
1.2.2 集成學(xué)習(xí) 10
1.3 本書(shū)內(nèi)容組織 14
第2章 文本分類(lèi)技術(shù)概述 17
2.1 文本分類(lèi)預(yù)處理 17
2.2 文本的表示 19
2.3 特征選擇 21
2.3.1 初始特征選擇 22
2.3.2 特征選擇算法 22
2.4 文本分類(lèi)算法 24
2.4.1 質(zhì)心向量分類(lèi)算法 24
2.4.2 K近鄰分類(lèi)算法 26
2.4.3 貝葉斯分類(lèi)算法 27
2.4.4 關(guān)聯(lián)規(guī)則分類(lèi)算法 33
2.4.5 支持向量機(jī) 33
2.4.6 其他分類(lèi)算法 37
2.5 實(shí)驗(yàn)數(shù)據(jù)集 38
2.6 分類(lèi)模型的評(píng)估方法 39
2.7 本章小結(jié) 41
第3章 TEF-WA權(quán)值調(diào)整技術(shù) 42
3.1 特征選擇存在的問(wèn)題 42
3.2 TEF-WA權(quán)值調(diào)整技術(shù) 43
3.2.1 TEF-WA權(quán)值調(diào)整的基本思想 43
3.2.2 各種評(píng)估函數(shù)的TEF-WA權(quán)值調(diào)整 45
3.3 實(shí)驗(yàn)結(jié)果與分析 48
3.3.1 TEF-WA權(quán)值調(diào)整的有效性 48
3.3.2 不同評(píng)估函數(shù)的權(quán)值調(diào)整 52
3.3.3 評(píng)估比較 62
3.4 本章小結(jié) 68
第4章 結(jié)合TEF-WA技術(shù)的Co-training改進(jìn)算法 69
4.1 Co-training算法及其存在的問(wèn)題 69
4.2 基于TEF-WA的特征多視圖 70
4.2.1 TEF-WA技術(shù) 70
4.2.2 基于TEF-WA的特征多視圖 71
4.3 基分類(lèi)器間的差異性評(píng)估 72
4.4 TV-SC算法與TV-DC算法 74
4.5 實(shí)驗(yàn)結(jié)果及其分析 76
4.6 本章小結(jié) 80
第5章 基于特征獨(dú)立模型的Co-training改進(jìn)算法 81
5.1 特征獨(dú)立模型 82
5.1.1 基于條件互信息的相互獨(dú)立性 82
5.1.2 基于條件2統(tǒng)計(jì)量的相互獨(dú)立性 83
5.1.3 特征獨(dú)立模型 84
5.2 特征子集劃分算法PMID 85
5.3 基于MID-Model的改進(jìn)算法SC-PMID 88
5.4 實(shí)驗(yàn)結(jié)果及其分析 89
5.4.1 PMID-MI與PART-Rnd的實(shí)驗(yàn)比較 90
5.4.2 PMID-CHI與PART-Rnd的實(shí)驗(yàn)比較 93
5.4.3 PMID-MI、PMID-CHI和PART-Rnd的實(shí)驗(yàn)比較 95
5.4.4 SC-PMID-MI、SC-PMID-CHI和SC-PART-Rnd的
實(shí)驗(yàn)比較 96
5.5 本章小結(jié) 98
第6章 基于投票信息熵和多視圖的AdaBoost改進(jìn)算法 99
6.1 AdaBoost算法 100
6.1.1 AdaBoost算法描述 100
6.1.2 AdaBoost提升NB文本分類(lèi)器的問(wèn)題 101
6.2 利用特征評(píng)估函數(shù)構(gòu)造多視圖 102
6.3 基于投票信息熵的樣本權(quán)重維護(hù)新策略 103
6.3.1 投票信息熵 104
6.3.2 基于投票信息熵的樣本權(quán)重維護(hù)新策略 105
6.3.3 樣本權(quán)重對(duì)NB文本分類(lèi)器的擾動(dòng) 106
6.4 BoostVE算法 108
6.4.1 BoostVE算法描述 108
6.4.2 BoostVE算法的最小訓(xùn)練錯(cuò)誤上界 109
6.5 實(shí)驗(yàn)結(jié)果及其分析 113
6.5.1 參數(shù) 對(duì)BoostVE算法性能的影響 115
6.5.2 Boost VE算法與AdaBoost-MV算法、
AdaBoost算法的實(shí)驗(yàn)比較 118
6.5.3 BoostVE 算法提升NB文本分類(lèi)器的有效性 124
6.6 本章小結(jié) 126
第7章 結(jié)合半監(jiān)督學(xué)習(xí)的SemiBoost-CR分類(lèi)模型 128
7.1 SemiBoost-CR模型的目標(biāo)函數(shù) 129
7.2 未標(biāo)注樣本的置信度 131
7.2.1 基于K近鄰的置信度 131
7.2.2 基于最大差距的置信度 132
7.3 基于置信度的重取樣策略 133
7.4 樣本權(quán)重維護(hù)策略 135
7.5 SemiBoost-CR分類(lèi)算法 136
7.6 實(shí)驗(yàn)結(jié)果及其分析 137
7.6.1 未標(biāo)注近鄰樣本對(duì)置信度conf1的影響 139
7.6.2 兩種置信度方法conf1和conf2的實(shí)驗(yàn)比較 140
7.6.3 topN和bottomN對(duì)SemiBoost-CR模型的影響 144
7.7 本章小結(jié) 154
第8章 文本自動(dòng)分類(lèi)系統(tǒng)SECTCS 155
8.1 系統(tǒng)簡(jiǎn)介 155
8.2 系統(tǒng)總體結(jié)構(gòu) 156
8.3 系統(tǒng)的用戶(hù)界面 157
8.4 實(shí)驗(yàn)數(shù)據(jù)集 163
8.5 本章小結(jié) 165
結(jié)束語(yǔ) 166
參考文獻(xiàn) 169