機器學習基礎(chǔ)

目錄
第1章緒論

1.1從兩個問題談起

1.2模型評估與模型參數(shù)選擇

1.2.1驗證

1.2.2正則化

1.3機器學習算法分類

1.3.1監(jiān)督學習

1.3.2非監(jiān)督學習

習題

第2章回歸

2.1線性回歸

2.2Logistic回歸

習題

第3章LDA主題模型

3.1LDA簡介

3.2數(shù)學基礎(chǔ)

3.2.1多項分布

3.2.2Dirichlet分布

3.2.3共軛先驗分布

3.3LDA主題模型

3.3.1基礎(chǔ)模型

3.3.2PLSA模型

3.3.3LDA模型

3.4LDA模型應(yīng)用實例

3.4.1配置安裝

3.4.2文本預(yù)處理

3.4.3使用Gensim

習題

第4章決策樹

4.1決策樹簡介

4.1.1一個小例子

4.1.2幾個重要的術(shù)語及決策樹構(gòu)造思路

4.2離散型決策樹的構(gòu)造

4.3連續(xù)性數(shù)值的處理

4.4決策樹剪枝

習題

第5章支持向量機

5.1分離超平面與最大間隔

5.2線性支持向量機

5.2.1硬間隔

5.2.2軟間隔

5.3非線性支持向量機

5.3.1核方法

5.3.2常用的核函數(shù)

5.4操作實例： 應(yīng)用MATLAB多分類SVM、二分類SVM、決策樹
算法進行分類

5.4.1數(shù)據(jù)集選擇

5.4.2數(shù)據(jù)預(yù)處理

5.4.3模型表現(xiàn)

5.4.4經(jīng)驗總結(jié)

習題

第6章提升方法

6.1隨機森林

6.1.1隨機森林介紹

6.1.2Bootstrap Aggregation

6.1.3隨機森林訓練過程

6.1.4隨機森林的優(yōu)點與缺點

6.2Adaboost

6.2.1引入

6.2.2Adaboost實現(xiàn)過程

6.2.3Adaboost總結(jié)

6.3隨機森林算法應(yīng)用舉例

6.3.1MATLAB中隨機森林算法

6.3.2操作實例1： 基于集成方法的IRIS數(shù)據(jù)集分類

6.3.3操作實例2： 基于ensemble方法的人臉識別

習題

第7章神經(jīng)網(wǎng)絡(luò)基礎(chǔ)

7.1基礎(chǔ)概念

7.2感知機

7.2.1單層感知機

7.2.2多層感知機

7.3BP神經(jīng)網(wǎng)絡(luò)

7.3.1梯度下降

7.3.2后向傳播

7.4徑向基函數(shù)網(wǎng)絡(luò)

7.4.1精確插值與徑向基函數(shù)

7.4.2徑向基函數(shù)網(wǎng)絡(luò)

7.5Hopfield網(wǎng)絡(luò)

7.5.1Hopfield網(wǎng)絡(luò)的結(jié)構(gòu)

7.5.2Hopfield網(wǎng)絡(luò)的訓練

7.5.3Hopfield網(wǎng)絡(luò)狀態(tài)轉(zhuǎn)移

7.6Boltzmann機

7.7自組織映射網(wǎng)絡(luò)

7.7.1網(wǎng)絡(luò)結(jié)構(gòu)

7.7.2訓練算法

7.8實例： 使用MATLAB進行Batch Normalization

7.8.1淺識Batch Normalization

7.8.2MATLAB nntool使用簡介

習題

第8章深度神經(jīng)網(wǎng)絡(luò)

8.1什么是深度神經(jīng)網(wǎng)絡(luò)

8.2卷積神經(jīng)網(wǎng)絡(luò)

8.2.1卷積神經(jīng)網(wǎng)絡(luò)的基本思想

8.2.2卷積操作

8.2.3池化層

8.2.4卷積神經(jīng)網(wǎng)絡(luò)

8.3循環(huán)神經(jīng)網(wǎng)絡(luò)

8.3.1循環(huán)單元

8.3.2通過時間后向傳播

8.3.3帶有門限的循環(huán)單元

8.4MATLAB深度學習工具箱簡介

8.5利用Theano搭建和訓練神經(jīng)網(wǎng)絡(luò)

8.5.1Theano簡介

8.5.2Theano的基本使用

8.5.3搭建訓練神經(jīng)網(wǎng)絡(luò)的項目

習題

第9章聚類算法

9.1簡介

9.1.1聚類任務(wù)

9.1.2基本表示

9.2KMeans算法

9.2.1算法簡介

9.2.2算法流程

9.2.3KMeans的一些改進

9.2.4選擇合適的K

9.2.5XMeans

9.3層次聚類

9.4聚類算法拓展

9.4.1聚類在信號處理領(lǐng)域的應(yīng)用

9.4.2以語義聚類的形式展示網(wǎng)絡(luò)圖像搜索結(jié)果

習題

第10章尋優(yōu)算法之遺傳算法

10.1簡介

10.1.1算法起源

10.1.2基本過程

10.1.3基本表示

10.1.4輸入輸出

10.1.5優(yōu)缺點及應(yīng)用

10.2算法原型

10.2.1初始化

10.2.2評估

10.2.3選擇優(yōu)秀個體

10.2.4交叉

10.2.5變異

10.2.6迭代

10.3算法拓展

10.3.1精英主義思想

10.3.2災(zāi)變

習題

第11章項目實踐： 基于機器學習的監(jiān)控視頻行人檢測與追蹤系統(tǒng)

11.1引言

11.2相關(guān)算法與指標

11.2.1方向梯度直方圖

11.2.2支持向量機

11.2.3結(jié)構(gòu)相似性

11.2.4HaarLike特征

11.2.5級聯(lián)分類器

11.2.6特征臉

11.3系統(tǒng)設(shè)計與實現(xiàn)

11.3.1視頻處理模塊

11.3.2圖像識別模塊

11.3.3目標追蹤模塊

11.4系統(tǒng)測試

11.4.1測試環(huán)境

11.4.2系統(tǒng)單元測試與集成測試

11.4.3性能測試

11.4.4系統(tǒng)識別準確率測試

11.5結(jié)語

參考文獻