Python機器學(xué)習(xí)算法及應(yīng)用

查看源碼
第1章在數(shù)據(jù)上的計算機學(xué)習(xí)能力
1.1轉(zhuǎn)換機器學(xué)習(xí)
1.1.1轉(zhuǎn)換機器學(xué)習(xí)簡介
1.1.2轉(zhuǎn)換機器學(xué)習(xí)對比其他方法
1.1.3轉(zhuǎn)換機器學(xué)習(xí)的改進
1.1.4轉(zhuǎn)換機器學(xué)習(xí)的可解釋性
1.1.5轉(zhuǎn)換機器學(xué)習(xí)對比深度神經(jīng)網(wǎng)絡(luò)
1.1.6構(gòu)建機器學(xué)習(xí)的生態(tài)系統(tǒng)
1.2三種不同類型的機器學(xué)習(xí)
1.2.1用監(jiān)督學(xué)習(xí)預(yù)測未來
1.2.2用強化學(xué)習(xí)解決交互問題
1.2.3用無監(jiān)督學(xué)習(xí)發(fā)現(xiàn)隱藏的結(jié)構(gòu)
1.2.4分類和回歸術(shù)語
1.3評估機器學(xué)習(xí)模型
1.3.1簡單的留出驗證
1.3.2K折驗證
1.3.3帶有打亂數(shù)據(jù)的重復(fù)K折驗證
1.4數(shù)據(jù)預(yù)處理、特征工程和特征學(xué)習(xí)
1.4.1神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)預(yù)處理
1.4.2特征工程
1.5過擬合和欠擬合
1.5.1減小網(wǎng)絡(luò)大小
1.5.2添加權(quán)重正則化
1.5.3添加dropout正則化
1.6機器學(xué)習(xí)工作流程
1.6.1收集數(shù)據(jù)集
1.6.2選擇衡量成功的指標
1.6.3確定評估法
1.6.4開發(fā)更好的模型
1.6.5擴大模型規(guī)模
1.6.6正則化與調(diào)節(jié)超參數(shù)
1.7應(yīng)用Python解決機器學(xué)習(xí)問題
1.7.1使用Python的原因
1.7.2Python的安裝
1.7.3Jupyter Notebook的安裝與使用
1.7.4使用pip安裝第三方庫
1.8用于機器學(xué)習(xí)的軟件包
1.8.1NumPy軟件包
1.8.2SciPy軟件包
1.8.3Pandas軟件包
第2章簡單的機器學(xué)習(xí)分類算法
2.1機器學(xué)習(xí)的早期歷史——人工神經(jīng)網(wǎng)絡(luò)
2.1.1人工神經(jīng)網(wǎng)絡(luò)的定義
2.1.2感知機學(xué)習(xí)規(guī)則
2.2感知機分類鳶尾
2.3自適應(yīng)神經(jīng)學(xué)習(xí)
2.4大規(guī)模機器學(xué)習(xí)與隨機梯度下降
2.4.1梯度下降算法概述
2.4.2批量梯度下降算法
2.4.3隨機梯度下降算法
2.4.4小批量梯度下降算法
2.4.5梯度下降算法的調(diào)優(yōu)
第3章sklearn機器學(xué)習(xí)分類器
3.1分類器的選擇
3.2訓(xùn)練感知器
3.3基于邏輯回歸的分類概率建模
3.3.1幾個相關(guān)定義
3.3.2邏輯代價函數(shù)的權(quán)重
3.3.3正則化解決過擬合問題
3.4支持向量機最大化分類間隔
3.4.1超平面
3.4.2函數(shù)間隔和幾何間隔
3.4.3間隔最大化
3.5核SVM解決非線性分類問題
3.5.1處理非線性不可分數(shù)據(jù)的核方法
3.5.2核函數(shù)實現(xiàn)高維空間的分離超平面
3.6決策樹
3.6.1何為決策樹
3.6.2決策樹生成
3.6.3決策樹的剪枝
3.6.4使用sklearn預(yù)測個人情況
3.7K近鄰算法
3.7.1K近鄰算法的原理
3.7.2K近鄰算法的實現(xiàn)
3.8貝葉斯算法
3.8.1貝葉斯算法的基本思想 
3.8.2貝葉斯算法的模型
3.8.3用sklearn實現(xiàn)貝葉斯分類
第4章數(shù)據(jù)預(yù)處理
4.1數(shù)據(jù)清洗
4.1.1缺失值處理
4.1.2異常值分析
4.2對某一列編碼
4.3劃分訓(xùn)練集與測試集
4.3.1偽隨機數(shù)劃分
4.3.2交叉驗證
4.4數(shù)據(jù)特征縮放
4.4.1特征標準化/方差縮放
4.4.2特征歸一化
4.5特征選擇
4.5.1Filter
4.5.2Wrapper
4.5.3基于L1的正則化
第5章降維實現(xiàn)數(shù)據(jù)壓縮
5.1數(shù)據(jù)降維
5.2主成分降維
5.2.1主成分分析步驟
5.2.2PCA算法實現(xiàn)
5.2.3降維映射PCA的實現(xiàn)與應(yīng)用
5.3線性判別分析監(jiān)督數(shù)據(jù)壓縮
5.3.1線性判別分析基本思想
5.3.2LDA公式推導(dǎo)
5.3.3拉格朗日函數(shù)問題
5.3.4LDA實現(xiàn)數(shù)據(jù)降維
5.3.5基于sklearn的線性判別分析
5.4非線性映射核主成分降維
5.4.1核函數(shù)與核技巧
5.4.2KPCA與PCA降維實現(xiàn)
第6章不同模型的集成學(xué)習(xí)
6.1集成學(xué)習(xí)
6.2多投票機制組合分類器
6.3Bagging算法
6.4Boosting模型
6.4.1Boosting的基本思路
6.4.2AdaBoost算法
6.4.3Gradient Boosting算法
6.5Stacking模型
6.5.1Stacking原理
6.5.2Stacking模型實現(xiàn)
第7章連續(xù)變量的回歸分析
7.1線性回歸
7.1.1簡單線性回歸
7.1.2多元線性回歸
7.1.3相關(guān)矩陣查看關(guān)系
7.1.4協(xié)方差與相關(guān)性
7.2最小二乘線性回歸
7.2.1梯度下降法
7.2.2通過sklearn估計回歸模型的系數(shù)
7.3使用RANSAC算法擬合健壯回歸模型
7.4線性回歸模型性能的評估
7.4.1線性回歸算法的衡量標準
7.4.2線性回歸算法應(yīng)用實例
7.5利用正則化方法進行回歸
7.5.1嶺回歸
7.5.2Lasso回歸
7.5.3彈性網(wǎng)絡(luò)
7.6將線性回歸模型轉(zhuǎn)換為多項式回歸
7.7用隨機森林處理非線性關(guān)系
7.7.1決策樹
7.7.2隨機森林回歸
第8章數(shù)據(jù)的聚類分析
8.1KMeans算法
8.1.1KMeans算法原理
8.1.2KMeans算法步驟
8.1.3KMeans算法的缺陷
8.1.4使用sklearn進行KMeans聚類
8.1.5肘法與輪廓法
8.1.6KMeans 算法
8.2層次聚類
8.3DBSCAN算法
8.3.1DBSCAN算法相關(guān)概念
8.3.2DBSCAN算法的優(yōu)缺點
8.3.3DBSCAN算法實現(xiàn)
第9章從單層到多層的人工神經(jīng)網(wǎng)絡(luò)
9.1人工神經(jīng)網(wǎng)絡(luò)建模復(fù)雜函數(shù)
9.1.1單隱層神經(jīng)網(wǎng)絡(luò)概述
9.1.2多層神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)
9.1.3前向傳播激活神經(jīng)網(wǎng)絡(luò)
9.1.4反向傳播
9.2識別手寫數(shù)字
9.2.1神經(jīng)網(wǎng)絡(luò)算法實現(xiàn)數(shù)字的識別
9.2.2實現(xiàn)多層感知器
第10章使用深度卷積神經(jīng)網(wǎng)絡(luò)實現(xiàn)圖像分類
10.1構(gòu)建卷積神經(jīng)網(wǎng)絡(luò)
10.1.1深度學(xué)習(xí)
10.1.2CNN的原理
10.1.3使用CNN實現(xiàn)手寫體識別
10.2使用LeNet5實現(xiàn)圖像分類
10.3使用AlexNet實現(xiàn)圖片分類
10.3.1AlexNet結(jié)構(gòu)分析
10.3.2AlexNet的分類實現(xiàn)
10.4VGG16的遷移學(xué)習(xí)實現(xiàn)
10.5使用OpenCV實現(xiàn)人臉識別
10.5.1人臉檢測
10.5.2車牌檢測
10.5.3目標檢測
10.6使用OpenCV實現(xiàn)網(wǎng)絡(luò)遷移
第11章使用循環(huán)神經(jīng)網(wǎng)絡(luò)實現(xiàn)序列建模
11.1RNN
11.1.1RNN的發(fā)展歷史
11.1.2什么是RNN
11.1.3LSTM結(jié)構(gòu)和GRU結(jié)構(gòu)
11.1.4序列模型實現(xiàn)
11.2雙向循環(huán)神經(jīng)網(wǎng)絡(luò)
11.3Seq2Seq模型序列分析
11.3.1Seq2Seq模型
11.3.2如何訓(xùn)練Seq2Seq模型
11.3.3利用Seq2Seq進行時間序列預(yù)測
第12章使用生成對抗網(wǎng)絡(luò)合成新數(shù)據(jù)
12.1GAN原理
12.2GAN應(yīng)用
12.3強化學(xué)習(xí)
12.3.1強化學(xué)習(xí)的方式
12.3.2強化學(xué)習(xí)系統(tǒng)與特點
12.3.3GAN損失函數(shù)
12.3.4馬爾可夫決策
12.3.5Qlearning算法
12.3.6策略梯度
12.3.7強化學(xué)習(xí)的經(jīng)典應(yīng)用