數(shù)據(jù)之本：人工智能的數(shù)學(xué)基礎(chǔ)

第一部分 統(tǒng)計(jì)學(xué)歷史背景
第 1 章 費(fèi)舍爾和內(nèi)曼的學(xué)術(shù)成就  3
1.1 費(fèi)舍爾生平  11
1.1.1 費(fèi)舍爾的主要著作  13
1.1.2 費(fèi)舍爾的統(tǒng)計(jì)思想  16
1.2 內(nèi)曼生平  22
1.2.1 內(nèi)曼的置信區(qū)間與假設(shè)檢驗(yàn)  24
1.2.2 內(nèi)曼的歸納行為 .26
第 2 章 數(shù)理統(tǒng)計(jì)學(xué)簡(jiǎn)史  31
2.1 20 世紀(jì)前的統(tǒng)計(jì)學(xué) .33
2.2 20 世紀(jì)上半葉的統(tǒng)計(jì)學(xué)  35
2.3 20 世紀(jì)下半葉的統(tǒng)計(jì)學(xué)  36
2.4 21 世紀(jì)的統(tǒng)計(jì)學(xué)  38
2.5 推薦讀物  42
第二部分 經(jīng)典統(tǒng)計(jì)學(xué)
第 3 章 統(tǒng)計(jì)學(xué)的一些基本概念  45
3.1 樣本的特征  49
3.1.1 次序統(tǒng)計(jì)量  55
3.1.2 經(jīng)驗(yàn)分布及其性質(zhì)  60
3.1.3 樣本矩及其極限分布  67
3.2 樣本統(tǒng)計(jì)量及其性質(zhì)  69
3.2.1 統(tǒng)計(jì)量的抽樣分布  71
3.2.2 重抽樣和自助法. 76
3.2.3 統(tǒng)計(jì)量的充分性 .79
第 4 章 參數(shù)估計(jì)理論  84
4.1 點(diǎn)估計(jì)及其優(yōu)良性  92
4.1.1 相合性與漸近正態(tài)性  96
4.1.2 有效性  100
4.1.3 折刀法  105
4.1.4 點(diǎn)估計(jì)之矩方法和最大似然法  107
4.2 內(nèi)曼置信區(qū)間估計(jì)  120
4.2.1 基于馬爾可夫不等式的區(qū)間估計(jì)  122
4.2.2 樞軸量法  124
4.2.3 大樣本區(qū)間估計(jì)  128
4.2.4 費(fèi)舍爾的信任估計(jì)  132
第 5 章 假設(shè)檢驗(yàn) 137
5.1 內(nèi)曼-皮爾遜假設(shè)檢驗(yàn)理論 .145
5.1.1 功效函數(shù)與兩類(lèi)錯(cuò)誤的概率  151
5.1.2 內(nèi)曼-皮爾遜基本引理與似然比檢驗(yàn)  157
5.1.3 廣義似然比檢驗(yàn)  163
5.1.4 假設(shè)檢驗(yàn)與置信區(qū)間估計(jì)的關(guān)系  169
5.2 大樣本檢驗(yàn)  173
5.2.1 擬合優(yōu)度檢驗(yàn) 177
5.2.2 獨(dú)立性的列聯(lián)表檢驗(yàn)  184
第 6 章 回歸分析與方差分析  188
6.1 線性回歸模型  193
6.1.1 最小二乘估計(jì) 194
6.1.2 線性回歸的若干性質(zhì)  200
6.1.3 回歸模型的假設(shè)檢驗(yàn)  203
6.1.4 正交多項(xiàng)式回歸  205
6.1.5 貝葉斯線性回歸  211
6.1.6 對(duì)數(shù)率回歸  214
6.2 方差分析模型  219
6.2.1 單因素方差分析  223
6.2.2 兩因素方差分析  225
第三部分 現(xiàn)代統(tǒng)計(jì)學(xué)
第 7 章 多元統(tǒng)計(jì)分析簡(jiǎn)介  235
7.1 核方法及其在回歸上的應(yīng)用  243
7.1.1 核函數(shù)的性質(zhì) 246
7.1.2 基于最優(yōu)化的核線性回歸  247
7.1.3 貝葉斯核線性回歸  252
7.2 特征工程  255
7.2.1 主成分分析  260
7.2.2 因子分析  270
7.2.3 獨(dú)立成分分析 278
7.2.4 多維縮放與等距映射  284
7.2.5 局部嵌入的降維  288
7.2.6 塔克分解  294
7.3 聚類(lèi)  301
7.3.1 層級(jí)聚類(lèi)  303
7.3.2 k-均值聚類(lèi)  307
7.4 分類(lèi)  310
7.4.1 近鄰法  323
7.4.2 決策樹(shù)  327
7.4.3 費(fèi)舍爾線性判別分析  339
7.4.4 支持向量機(jī)  344
7.4.5 基于高斯過(guò)程的分類(lèi)  348
7.4.6 人工神經(jīng)網(wǎng)絡(luò) 350
第 8 章 期望最大化算法  362
8.1 完全數(shù)據(jù)與最大似然估計(jì)  366
8.1.1 EM 算法及其收斂速度  367
8.1.2 指數(shù)族的 EM 算法 370
8.2 期望最大化算法的應(yīng)用 373
8.2.1 分支個(gè)數(shù)已知的高斯混合模型  375
8.2.2 針對(duì)刪失數(shù)據(jù)的 EM 算法  378
8.2.3 概率潛在語(yǔ)義分析  381
8.3 數(shù)據(jù)增擴(kuò)算法與缺失數(shù)據(jù)分析  385
8.3.1 經(jīng)典的數(shù)據(jù)增擴(kuò)算法  386
8.3.2 窮人的數(shù)據(jù)增擴(kuò)算法  392
第 9 章 時(shí)間序列分析初步  397
9.1 時(shí)間序列模型  405
9.1.1 ARMA 模型  408
9.1.2 樣本（偏）自相關(guān)函數(shù). 419
9.1.3 經(jīng)典分解模型 422
9.2 預(yù)測(cè)與估計(jì)  428
9.2.1 指數(shù)平滑  433
9.2.2 最佳線性預(yù)測(cè) 435
9.2.3 ARMA 模型的估計(jì)  441
9.3 隱馬爾可夫模型及算法 445
9.3.1 隱馬爾可夫模型  449
9.3.2 概率有限狀態(tài)轉(zhuǎn)換器  452
9.3.3 觀測(cè)序列的概率：向前算法與向后算法 456
9.3.4 狀態(tài)序列的概率：維特比算法  460
9.3.5 模型參數(shù)的估計(jì)：鮑姆-韋爾奇算法  462
9.4 狀態(tài)空間模型與卡爾曼濾波  466
9.4.1 狀態(tài)的最佳線性估計(jì)  471
9.4.2 參數(shù)估計(jì)  477
第四部分 附 錄
附錄 A 軟件 R、Maxima 和 GnuPlot 簡(jiǎn)介  483
A.1 R：最好的統(tǒng)計(jì)軟件  483
A.2 Maxima：符號(hào)計(jì)算的未來(lái)之路  485
A.3 GnuPlot：強(qiáng)大的函數(shù)繪圖工具 .490
附錄 B 一些常用的最優(yōu)化方法  491
B.1 梯度下降法. 494
B.2 高斯-牛頓法  495
B.3 拉格朗日乘子法  497
B.4 非線性?xún)?yōu)化方法  500
B.5 隨機(jī)最優(yōu)化 502
附錄 C 核密度估計(jì) 504
附錄 D 再生核希爾伯特空間  508
D.1 希爾伯特空間  511
D.2 內(nèi)積矩陣與距離矩陣  514
D.3 核函數(shù)的判定條件 515
附錄 E 張量分析淺嘗  520
E.1 張量的定義. 523
E.2 張量的代數(shù)運(yùn)算  526
E.3 張量場(chǎng)  528
E.4 曲線坐標(biāo)  531
附錄 F 參考文獻(xiàn)  536
附錄 G 符號(hào)表  544
附錄 H 名詞索引  546
H.1 術(shù)語(yǔ)索引  546
H.2 人名索引  557