基于半監(jiān)督與集成學(xué)習(xí)的文本分類方法

第1章 緒論 1
1.1 研究背景及意義 1
1.1.1 數(shù)據(jù)挖掘和文本挖掘 1
1.1.2 文本分類及其面臨的問題 3
1.2 國(guó)內(nèi)外相關(guān)研究 7
1.2.1 半監(jiān)督學(xué)習(xí) 7
1.2.2 集成學(xué)習(xí) 10
1.3 本書內(nèi)容組織 14
第2章 文本分類技術(shù)概述 17
2.1 文本分類預(yù)處理 17
2.2 文本的表示 19
2.3 特征選擇 21
2.3.1 初始特征選擇 22
2.3.2 特征選擇算法 22
2.4 文本分類算法 24
2.4.1 質(zhì)心向量分類算法 24
2.4.2 K近鄰分類算法 26
2.4.3 貝葉斯分類算法 27
2.4.4 關(guān)聯(lián)規(guī)則分類算法 33
2.4.5 支持向量機(jī) 33
2.4.6 其他分類算法 37
2.5 實(shí)驗(yàn)數(shù)據(jù)集 38
2.6 分類模型的評(píng)估方法 39
2.7 本章小結(jié) 41
第3章 TEF-WA權(quán)值調(diào)整技術(shù) 42
3.1 特征選擇存在的問題 42
3.2 TEF-WA權(quán)值調(diào)整技術(shù) 43
3.2.1 TEF-WA權(quán)值調(diào)整的基本思想 43
3.2.2 各種評(píng)估函數(shù)的TEF-WA權(quán)值調(diào)整 45
3.3 實(shí)驗(yàn)結(jié)果與分析 48
3.3.1 TEF-WA權(quán)值調(diào)整的有效性 48
3.3.2 不同評(píng)估函數(shù)的權(quán)值調(diào)整 52
3.3.3 評(píng)估比較 62
3.4 本章小結(jié) 68
第4章 結(jié)合TEF-WA技術(shù)的Co-training改進(jìn)算法 69
4.1 Co-training算法及其存在的問題 69
4.2 基于TEF-WA的特征多視圖 70
4.2.1 TEF-WA技術(shù) 70
4.2.2 基于TEF-WA的特征多視圖 71
4.3 基分類器間的差異性評(píng)估 72
4.4 TV-SC算法與TV-DC算法 74
4.5 實(shí)驗(yàn)結(jié)果及其分析 76
4.6 本章小結(jié) 80
第5章 基于特征獨(dú)立模型的Co-training改進(jìn)算法 81
5.1 特征獨(dú)立模型 82
5.1.1 基于條件互信息的相互獨(dú)立性 82
5.1.2 基于條件2統(tǒng)計(jì)量的相互獨(dú)立性 83
5.1.3 特征獨(dú)立模型 84
5.2 特征子集劃分算法PMID 85
5.3 基于MID-Model的改進(jìn)算法SC-PMID 88
5.4 實(shí)驗(yàn)結(jié)果及其分析 89
5.4.1 PMID-MI與PART-Rnd的實(shí)驗(yàn)比較 90
5.4.2 PMID-CHI與PART-Rnd的實(shí)驗(yàn)比較 93
5.4.3 PMID-MI、PMID-CHI和PART-Rnd的實(shí)驗(yàn)比較 95
5.4.4 SC-PMID-MI、SC-PMID-CHI和SC-PART-Rnd的
實(shí)驗(yàn)比較 96
5.5 本章小結(jié) 98
第6章 基于投票信息熵和多視圖的AdaBoost改進(jìn)算法 99
6.1 AdaBoost算法 100
6.1.1 AdaBoost算法描述 100
6.1.2 AdaBoost提升NB文本分類器的問題 101
6.2 利用特征評(píng)估函數(shù)構(gòu)造多視圖 102
6.3 基于投票信息熵的樣本權(quán)重維護(hù)新策略 103
6.3.1 投票信息熵 104
6.3.2 基于投票信息熵的樣本權(quán)重維護(hù)新策略 105
6.3.3 樣本權(quán)重對(duì)NB文本分類器的擾動(dòng) 106
6.4 BoostVE算法 108
6.4.1 BoostVE算法描述 108
6.4.2 BoostVE算法的最小訓(xùn)練錯(cuò)誤上界 109
6.5 實(shí)驗(yàn)結(jié)果及其分析 113
6.5.1 參數(shù) 對(duì)BoostVE算法性能的影響 115
6.5.2 Boost VE算法與AdaBoost-MV算法、
AdaBoost算法的實(shí)驗(yàn)比較 118
6.5.3 BoostVE 算法提升NB文本分類器的有效性 124
6.6 本章小結(jié) 126
第7章 結(jié)合半監(jiān)督學(xué)習(xí)的SemiBoost-CR分類模型 128
7.1 SemiBoost-CR模型的目標(biāo)函數(shù) 129
7.2 未標(biāo)注樣本的置信度 131
7.2.1 基于K近鄰的置信度 131
7.2.2 基于最大差距的置信度 132
7.3 基于置信度的重取樣策略 133
7.4 樣本權(quán)重維護(hù)策略 135
7.5 SemiBoost-CR分類算法 136
7.6 實(shí)驗(yàn)結(jié)果及其分析 137
7.6.1 未標(biāo)注近鄰樣本對(duì)置信度conf1的影響 139
7.6.2 兩種置信度方法conf1和conf2的實(shí)驗(yàn)比較 140
7.6.3 topN和bottomN對(duì)SemiBoost-CR模型的影響 144
7.7 本章小結(jié) 154
第8章 文本自動(dòng)分類系統(tǒng)SECTCS 155
8.1 系統(tǒng)簡(jiǎn)介 155
8.2 系統(tǒng)總體結(jié)構(gòu) 156
8.3 系統(tǒng)的用戶界面 157
8.4 實(shí)驗(yàn)數(shù)據(jù)集 163
8.5 本章小結(jié) 165
結(jié)束語 166
參考文獻(xiàn) 169