機(jī)器學(xué)習(xí)基礎(chǔ)

目錄
第1章緒論

1.1從兩個(gè)問(wèn)題談起

1.2模型評(píng)估與模型參數(shù)選擇

1.2.1驗(yàn)證

1.2.2正則化

1.3機(jī)器學(xué)習(xí)算法分類(lèi)

1.3.1監(jiān)督學(xué)習(xí)

1.3.2非監(jiān)督學(xué)習(xí)

習(xí)題

第2章回歸

2.1線(xiàn)性回歸

2.2Logistic回歸

習(xí)題

第3章LDA主題模型

3.1LDA簡(jiǎn)介

3.2數(shù)學(xué)基礎(chǔ)

3.2.1多項(xiàng)分布

3.2.2Dirichlet分布

3.2.3共軛先驗(yàn)分布

3.3LDA主題模型

3.3.1基礎(chǔ)模型

3.3.2PLSA模型

3.3.3LDA模型

3.4LDA模型應(yīng)用實(shí)例

3.4.1配置安裝

3.4.2文本預(yù)處理

3.4.3使用Gensim

習(xí)題

第4章決策樹(shù)

4.1決策樹(shù)簡(jiǎn)介

4.1.1一個(gè)小例子

4.1.2幾個(gè)重要的術(shù)語(yǔ)及決策樹(shù)構(gòu)造思路

4.2離散型決策樹(shù)的構(gòu)造

4.3連續(xù)性數(shù)值的處理

4.4決策樹(shù)剪枝

習(xí)題

第5章支持向量機(jī)

5.1分離超平面與最大間隔

5.2線(xiàn)性支持向量機(jī)

5.2.1硬間隔

5.2.2軟間隔

5.3非線(xiàn)性支持向量機(jī)

5.3.1核方法

5.3.2常用的核函數(shù)

5.4操作實(shí)例： 應(yīng)用MATLAB多分類(lèi)SVM、二分類(lèi)SVM、決策樹(shù)
算法進(jìn)行分類(lèi)

5.4.1數(shù)據(jù)集選擇

5.4.2數(shù)據(jù)預(yù)處理

5.4.3模型表現(xiàn)

5.4.4經(jīng)驗(yàn)總結(jié)

習(xí)題

第6章提升方法

6.1隨機(jī)森林

6.1.1隨機(jī)森林介紹

6.1.2Bootstrap Aggregation

6.1.3隨機(jī)森林訓(xùn)練過(guò)程

6.1.4隨機(jī)森林的優(yōu)點(diǎn)與缺點(diǎn)

6.2Adaboost

6.2.1引入

6.2.2Adaboost實(shí)現(xiàn)過(guò)程

6.2.3Adaboost總結(jié)

6.3隨機(jī)森林算法應(yīng)用舉例

6.3.1MATLAB中隨機(jī)森林算法

6.3.2操作實(shí)例1： 基于集成方法的IRIS數(shù)據(jù)集分類(lèi)

6.3.3操作實(shí)例2： 基于ensemble方法的人臉識(shí)別

習(xí)題

第7章神經(jīng)網(wǎng)絡(luò)基礎(chǔ)

7.1基礎(chǔ)概念

7.2感知機(jī)

7.2.1單層感知機(jī)

7.2.2多層感知機(jī)

7.3BP神經(jīng)網(wǎng)絡(luò)

7.3.1梯度下降

7.3.2后向傳播

7.4徑向基函數(shù)網(wǎng)絡(luò)

7.4.1精確插值與徑向基函數(shù)

7.4.2徑向基函數(shù)網(wǎng)絡(luò)

7.5Hopfield網(wǎng)絡(luò)

7.5.1Hopfield網(wǎng)絡(luò)的結(jié)構(gòu)

7.5.2Hopfield網(wǎng)絡(luò)的訓(xùn)練

7.5.3Hopfield網(wǎng)絡(luò)狀態(tài)轉(zhuǎn)移

7.6Boltzmann機(jī)

7.7自組織映射網(wǎng)絡(luò)

7.7.1網(wǎng)絡(luò)結(jié)構(gòu)

7.7.2訓(xùn)練算法

7.8實(shí)例： 使用MATLAB進(jìn)行Batch Normalization

7.8.1淺識(shí)Batch Normalization

7.8.2MATLAB nntool使用簡(jiǎn)介

習(xí)題

第8章深度神經(jīng)網(wǎng)絡(luò)

8.1什么是深度神經(jīng)網(wǎng)絡(luò)

8.2卷積神經(jīng)網(wǎng)絡(luò)

8.2.1卷積神經(jīng)網(wǎng)絡(luò)的基本思想

8.2.2卷積操作

8.2.3池化層

8.2.4卷積神經(jīng)網(wǎng)絡(luò)

8.3循環(huán)神經(jīng)網(wǎng)絡(luò)

8.3.1循環(huán)單元

8.3.2通過(guò)時(shí)間后向傳播

8.3.3帶有門(mén)限的循環(huán)單元

8.4MATLAB深度學(xué)習(xí)工具箱簡(jiǎn)介

8.5利用Theano搭建和訓(xùn)練神經(jīng)網(wǎng)絡(luò)

8.5.1Theano簡(jiǎn)介

8.5.2Theano的基本使用

8.5.3搭建訓(xùn)練神經(jīng)網(wǎng)絡(luò)的項(xiàng)目

習(xí)題

第9章聚類(lèi)算法

9.1簡(jiǎn)介

9.1.1聚類(lèi)任務(wù)

9.1.2基本表示

9.2KMeans算法

9.2.1算法簡(jiǎn)介

9.2.2算法流程

9.2.3KMeans的一些改進(jìn)

9.2.4選擇合適的K

9.2.5XMeans

9.3層次聚類(lèi)

9.4聚類(lèi)算法拓展

9.4.1聚類(lèi)在信號(hào)處理領(lǐng)域的應(yīng)用

9.4.2以語(yǔ)義聚類(lèi)的形式展示網(wǎng)絡(luò)圖像搜索結(jié)果

習(xí)題

第10章尋優(yōu)算法之遺傳算法

10.1簡(jiǎn)介

10.1.1算法起源

10.1.2基本過(guò)程

10.1.3基本表示

10.1.4輸入輸出

10.1.5優(yōu)缺點(diǎn)及應(yīng)用

10.2算法原型

10.2.1初始化

10.2.2評(píng)估

10.2.3選擇優(yōu)秀個(gè)體

10.2.4交叉

10.2.5變異

10.2.6迭代

10.3算法拓展

10.3.1精英主義思想

10.3.2災(zāi)變

習(xí)題

第11章項(xiàng)目實(shí)踐： 基于機(jī)器學(xué)習(xí)的監(jiān)控視頻行人檢測(cè)與追蹤系統(tǒng)

11.1引言

11.2相關(guān)算法與指標(biāo)

11.2.1方向梯度直方圖

11.2.2支持向量機(jī)

11.2.3結(jié)構(gòu)相似性

11.2.4HaarLike特征

11.2.5級(jí)聯(lián)分類(lèi)器

11.2.6特征臉

11.3系統(tǒng)設(shè)計(jì)與實(shí)現(xiàn)

11.3.1視頻處理模塊

11.3.2圖像識(shí)別模塊

11.3.3目標(biāo)追蹤模塊

11.4系統(tǒng)測(cè)試

11.4.1測(cè)試環(huán)境

11.4.2系統(tǒng)單元測(cè)試與集成測(cè)試

11.4.3性能測(cè)試

11.4.4系統(tǒng)識(shí)別準(zhǔn)確率測(cè)試

11.5結(jié)語(yǔ)

參考文獻(xiàn)