應(yīng)用隨機過程教程及在算法和智能計算中的隨機模型

前言
符號說明
第1章 概率論精要回顧與補充
1 基本框架與典型分布
1.1 概率
1.2 隨機變量
1.3 d維隨機向量
1.4 獨立性
1.5 Chebyshev不等式
1.6 基本極限與基本極限定理（大數(shù)定律與中心極限定理）
1.7 典型分布
1.8 次序隨機變量的分布
2 條件概率. 條件分布. 條件（數(shù)學(xué)）期望
2.1 條件概率
2.2 條件分布
2.3 條件（數(shù)學(xué)）期望
2.4 期望與方差的Wald等式
3 統(tǒng)計簡要
3.1 用樣本作矩估計
3.2 最大似然估計
3.3 線性模型的最小二乘估計及其推廣
習(xí)題1
第2章 隨機樣本生成法
1 一維隨機數(shù)
1.1 均勻隨機變量的計算機模擬
1.2 分布函數(shù)F（x）的隨機數(shù)
1.3 正態(tài)隨機數(shù)
1.4 Poisson隨機數(shù)
1.5 混合分布隨機數(shù)
1.6 Von Neuman取舍原則
1.7 Gamma隨機數(shù)與Beta隨機數(shù)的生成
2 多維隨機數(shù)
2.1 連續(xù)型多維隨機數(shù)
2.2 離散型多維隨機數(shù)
2.3 多維正態(tài)隨機數(shù)
2.4 多維Beta隨機數(shù) Dirichlet隨機數(shù) 的生成
3 附錄--用Matlab生成隨機數(shù)
3.1 Matlab語言的簡單提示
3.2 Matlab生成隨機數(shù)的語句
習(xí)題2
第3章 隨機過程的一般概念與獨立增量過程
1 一般概念
1.1 隨機過程與有限分布族
1.2 獨立增量過程
2 Poisson過程與復(fù)合Poisson過程
2.1 事故申報次數(shù)的概率模型與Poisson過程
2.2 Poisson過程與指數(shù)流的關(guān)系
2.3 與指數(shù)流有關(guān)的一些隨機變量與分布
2.4 常見的推廣
2.5 復(fù)合Poisson過程
3 Brown運動 Wiener過程 及其函數(shù)
3.1 歷史背景與物理模型
3.2 Brown運動（數(shù)學(xué)模型）
3.3 Brown運動的簡單性質(zhì)
3.4 Brown運動的反射原理及首達性質(zhì)
3.5 與Brown運動有關(guān)的幾個簡單隨機過程
3.6 漂移Brown運動
3.7 幾何Brown運動
4 簡單隨機徘徊
4.1 雙側(cè)吸收壁的吸收概率
4.2 隨機徘徊的對稱原理
4.3 隨機徘徊的首達時刻
4.4 簡單隨機徘徊與首達時
習(xí)題3
第4章 更新現(xiàn)象及其理論
1 Stieltjes積分簡述
2 更新過程的概念
2.1 作為Poisson過程推廣的更新過程
2.2 更新函數(shù)的更新方程
2.3 年齡與剩余壽命
3 更新定理與更新次數(shù)的正態(tài)近似
3.1 更新定理
3.2 更新過程的正態(tài)近似
3.3 Blackwell定理與主更新定理
3.4 更新間隔為正整值隨機變量的更新過程
4 更新過程的變種模型
4.1 交錯更新過程
4.2 延遲更新過程
4.3 帶酬更新過程
5 再生過程與其相系的更新過程
5.1 再生過程的概念
5.2 與再生過程相系的更新過程
5.3 比例極限定理在再生過程中的應(yīng)用
5.4 存儲模型的一個例子
6 Erlang更新過程
6.1 Erlang更新過程的定義
6.2 Erlang更新過程的矩母函數(shù)
習(xí)題4
第5章 離散狀態(tài)Markov鏈
1 Markov鏈的概念
1.1 定義與Markov性質(zhì)
1.2 概率轉(zhuǎn)移矩陣
1.3 時齊的Markov鏈
1.4 Markov鏈的例
2 Markov鏈的狀態(tài)分類
2.1 首達分解. n步轉(zhuǎn)移概率的遞推式. 矩母函數(shù). 常返性
2.2 常返性再訪與Markov鏈的基本結(jié)構(gòu)
2.3 平均回訪時間與正常返性
3 Markov鏈的轉(zhuǎn)移概率的極限與不變分布
3.1 不變分布與平穩(wěn)Markov鏈
3.2 有限狀態(tài)Markov鏈的不變分布與極限分布
3.3 轉(zhuǎn)移矩陣的平均極限
4 Dobrushin不等式與指數(shù)收斂性
4.1 Dobrushin不等式
4.2 Dobrushin收斂定理
5 與常返態(tài)相系的延遲更新流, 互通常返Markov鏈的極限定理
5.1 與常返態(tài)相系的延遲更新流
5.2 互通常返鏈的極限定理
6 停時與強Markov性
6.1 停時
6.2 強Markov性
7 禁忌概率與首達分布
7.1 禁忌概率
7.2 首達時與首達分布
7.3 禁忌概率, 首達分布與平均首達時間
8 可逆Markov鏈與可逆分布
8.1 可逆Markov鏈
8.2 例
8.3 可逆初分布存在性判別法
9 分支Markov鏈（Galton-Watson簡單分支過程）
習(xí)題5
第6章 連續(xù)時間的Markov鏈
1 連續(xù)時間的Markov鏈及其轉(zhuǎn)移矩陣
1.1 連續(xù)時間的Markov鏈的定義及等介性敘述
1.2 連續(xù)時間的Markov鏈概率轉(zhuǎn)移矩陣
1.3 連續(xù)時間的時齊的Markov鏈
2 Poisson過程與復(fù)合Poisson過程再訪
3 由轉(zhuǎn)移速率矩陣確定連續(xù)時間的Markov鏈
3.1 Kolmogorov方程及Master方程
3.2 轉(zhuǎn)移速率矩陣的概率含義
4 連續(xù)時間的Markov鏈的極限分布
4.1 連續(xù)時間的Markov鏈的轉(zhuǎn)移矩陣的平均極限
4.2 連續(xù)時間的Markov鏈的極限分布
5 連續(xù)時間的Markov鏈的轉(zhuǎn)移矩陣P（t）的不變分布
5.1 連續(xù)時間的Markov鏈的轉(zhuǎn)移矩陣P t 的不變分布與其嵌入鏈的不變分布
5.2 連續(xù)時間的Markov鏈的遍歷極限
5.3 對稱的與可逆的連續(xù)時間的Markov鏈
6 例
6.1 連續(xù)時間分支過程
6.2 有限格點上的Ising醛民Gauber動力學(xué)
6.3 生滅類過程
6.4 系統(tǒng)與有效度
7 連續(xù)時間的Markov鏈的模擬與加速收斂
7.1 連續(xù)時間的Markov鏈的模擬
7.2 加速收斂的均勻化方法
習(xí)題6
第7章 排隊過程簡介
1 排隊過程的描述
1.1 排隊系統(tǒng)
1.2 排隊系統(tǒng)的一般框圖, 輸入過程與輸出過程
1.3 可逆性引理
2 最簡單排隊過程--Markov排隊過程
2.1 最簡單蝗排隊過程--M/M/1系統(tǒng)
2.2 N個服務(wù)員的簡單排隊過程--M/M/N系統(tǒng)
2.3 序貫排隊與排隊網(wǎng)絡(luò)系統(tǒng)
2.4 M/M排隊系統(tǒng)
3 排隊系統(tǒng)的一般概念
3.1 關(guān)于排隊論的一般注記
3.2 M/M/N消失制
3.3 M/G/1排隊系統(tǒng)
3.4 G/M/1排隊系統(tǒng)
3.5 關(guān)于M/G系統(tǒng)的注記
4 半Markov過程
4.1 半Markov過程的定義
4.2 半Markov過程的漸近性質(zhì)
5 有限位相型分布（PH-分布）
5.1 背景
5.2 有限位相型分布（PH-分布）
5.3 離散PH-分布
5.4 PH-分布類的封閉性
習(xí)題7
第8章 Markov鏈Monte Carlo方法
1 計算積分的Monte Carlo方法與采樣量估計
1.1 用頻率估計概率來計算積分的Monte Carlo方法
1.2 用樣本函數(shù)的平均值估計的期望來計算積分的Monte Carlo方法--期望法
1.3 減少方差的技術(shù)
2 Markov鏈Monte Carlo
2.1 Gibbs采樣法
2.2 Metropolis采樣法
2.3 通過條件分布對分布作隨機采樣的Gibbs方法
2.4 MCMC應(yīng)用于Bayes參數(shù)估計
3 模擬退火
3.1 模擬退火方法的基本想法
3.2 有關(guān)模擬退火算法的非時齊馬氏鏈的理論背景
習(xí)題8
第9章 以圖像信息為背景的隨機場 迭代Markov系統(tǒng)
1 有限格點上的Markov隨機場與圖像
1.1 有限格點上的Markov隨機場
1.2 相鄰系統(tǒng)的Gibbs分布與Gibbs隨機場
1.3 圖像處理的隨機過程方法的思路原則概述
1.4 Gibbs分布的樣本的Gibbs采樣法
1.5 Gibbs分布的模擬退火
2 時間離散狀態(tài)連續(xù)的Markov鏈
2.1 概率空間再訪
2.2 時間離散狀態(tài)連續(xù)的Markov鏈
2.3 概率轉(zhuǎn)移核
2.4 時齊的連續(xù)狀態(tài)Markov鏈
2.5 例
2.6 建筑上可微函數(shù)的最小值位置的模擬退火算法
2.7 Dobrushin不等式. 指數(shù)遍歷性與收斂性
3 隨機的迭代函數(shù)系統(tǒng)
3.1 局部相似性的基本想法
3.2 輪廓圖全體組成的距離空間
3.3 灰度圖與隨機迭代函數(shù)系統(tǒng)
4 統(tǒng)計中的Bayes方法與圖像的處理. 分割與重建
4.1 Bayes統(tǒng)計要義
4.2Bayes方法在圖像中的應(yīng)用與觀測量不是狀態(tài)變量時的參數(shù)估計
習(xí)題9
第10章 隱Markov模型及其應(yīng)用
1 熵與相對熵
1.1 離散分布的熵與相對熵
1.2 分布密度的熵與相對熵
2 隱Markov模型
2.1 一個實例
2.2 隱Markov模型的描述
2.3 隱Markov模型的等價表述
2.4 非線性濾波作為隱Markov模型的特例
2.5 在應(yīng)用中研究隱Markov模型的主要方面
3 解碼問題--已知模型與觀測時狀態(tài)的估計
3.1 出現(xiàn)當(dāng)前的觀測的概率的計算
3.2 解碼問題--已知模型與觀測時狀態(tài)的估計
4 學(xué)習(xí)問題--由觀測估計模型參數(shù)
4.1 狀態(tài)鏈樣本已知時的參數(shù)頻率估計
4.2 模型參數(shù)估計的EM算法的思想
4.3 隱Markov模型中M步驟的求解
5 關(guān)于隱Markov模型的評注
5.1 隱Markov模型包容度大有非常寬的應(yīng)用面
5.2 隱Markov模型的更為一般的形式
6 隱Markov模型的應(yīng)用例子梗概
6.1 語音的機器識別
6.2 脫機手寫體漢字識別
6.3 DNA序列片斷裝配及啟動子識別
習(xí)題10
第11章 Gauss系 二階矩過程與時間序列
1 全體方差有限的隨機變量構(gòu)成的Hilbert空間
1.1 實值情形
1.2 復(fù)值情形
2 隨機變量族的均方信息空間與濾波
2.1 均方信息空間
2.2 濾波問題
3 Gauss系與投影再訪
3.1 過程的定義. 等價條件及其性質(zhì)
3.2 Gauss過程的投影--線性濾波
3.3 復(fù)Gauss過程
3.4 Gauss過程的特征泛函
4 平穩(wěn)性與寬平穩(wěn)性
4.1 平穩(wěn)序列與寬平穩(wěn)序列
4.2 漸近平穩(wěn)序列與漸近寬平穩(wěn)序列
4.3 平穩(wěn)增量序列
5 ARMA模型
5.1 ARMA
5.2 AR模型的定階與偏相關(guān)系數(shù)以及模型參數(shù)的估計
5.3 MA模型的定階與參數(shù)估計
5.4 ARMA模型的定階與參數(shù)估計
5.5 ARMA模型的預(yù)報問題
6 ARCH模型
6.1 ARCH（q）
6.2 ARCH（q）的定階與參數(shù)估計
6.3 ARCH（q）模型的方差預(yù)報
7 GARCH（p,q）模型與其他隨機方差模型
7.1 GARCH模型
7.2 金融證券模型中的GARCH（1,1）
7.3 GARCH（p,q）的參數(shù)估計
7.4 SV模型（隨機條件異方差模型）
8 二階矩序列濾波的再訪
8.1 線性濾波再訪
8.2 Kalman-Bucy濾波
9 二階自相似時間序列與長程相關(guān)性
9.1 統(tǒng)計自相似性
9.2 二階自相似性
9.3 長程相關(guān)性
10 非線性AR模型與二重ARMA模型
10.1 非線性AR模型
10.2 非線性AR模型的常見例子
10.3 二重ARMA模型
習(xí)題11
第12章 連續(xù)時間連續(xù)狀態(tài)的Markov過程. 鞅. Ito積分與隨機微分方程
1 連續(xù)時間連續(xù)狀態(tài)的Markov過程
1.1 平穩(wěn)Gauss過程
1.2 時間與狀態(tài)都連續(xù)的時齊Markov過程
2 鞅列與鞅
2.1 條件期望再訪
2.2 鞅列
2.3 連續(xù)時間參數(shù)的鞅
3 Ito積分--對Brown運動的積分
3.1 對Brown運動的積分與其特殊性
3.2 Ito公式
4 隨機微分方程與擴散過程簡介
4.1 隨機微分方程
4.2 擴散過程
4.3 Girsanov定理與Feyman-Fac公式
5 隨機微分方程的解的數(shù)值模擬算法
5.1 隨機微分方程在固定時刻附近的隨機Taylor展開與解的差分近似
5.2 Ito過程的一個光骨函數(shù)f復(fù)合在時刻t附近的隨機Taylor展開
5.3 差分近似模型的改進
習(xí)題12
第13章 金融證券未定權(quán)益的定價
1 Black-Scholes模型的歐式未定權(quán)益的定價
1.1 術(shù)語與基本假定
1.2 定價的套期方法
1.3 風(fēng)險中性概率方法
1.4 幣值單位與隨機折現(xiàn)因子方法
1.5 倒向隨機微分方程方法
1.6 時變的Black-Scholes模型
2 二叉模型與Black-Scholes模型的二叉近似
2.1 二叉模型
2.2 Black-Scholes模型的二叉近似
3 二叉模型的美式未定權(quán)益簡述
3.1 美式未定權(quán)益
3.2 二叉模型美式未定權(quán)益的定價與定價函數(shù)組
4 隨機利率與債券利率的期限結(jié)構(gòu)
4.1 s-零息債券
4.2 零息債券導(dǎo)出的各種隨機利率概念
4.3 資產(chǎn)定價基本定理與利率衍生證券
4.4 利率的風(fēng)險中性模型
5 基于證券的隨機利率的債券為幣值單位折現(xiàn)的證券及其未定權(quán)益的定價
習(xí)題13
第14章 隨機過程在精算與風(fēng)險模型中的應(yīng)用
1 基本概念
1.1 保險中的利率概念
1.2 生存模型的壽命分布與精算模型中的余壽
2 風(fēng)險模型與破產(chǎn)理論介紹
2.1 盈余過程與永不破產(chǎn)的概率
2.2 時刻t前不破產(chǎn)的概率的公式與估計
2.3 有準(zhǔn)備金時最終破產(chǎn)概率的上界與調(diào)節(jié)系數(shù)
2.4 破產(chǎn)概率的方程
2.5 保險費的效用函數(shù)與保險費策略的制定
2.6 最大損失的分布
3 考慮利率與投資的保險模型簡述
習(xí)題14
第15章 與數(shù)據(jù)建模有關(guān)的幾個算法
1 EM算法--具有陷狀態(tài)變量的分布中參數(shù)的最大似然估計
1.1 EM算法的基本想法
1.2 Rubin算法
1.3 EM算法的變通--廣義EM算法
2 在數(shù)據(jù)不完全時, 用增補潛在數(shù)據(jù)后對參數(shù)的Bayes分布作估計--Tanner-Wong的潛變量法
2.1 基本想法--做法后驗分布
2.2 未知參數(shù)的后驗分布的迭代估計
3 幾種智能算法
3.1 背景
3.2 決定性的人工神經(jīng)網(wǎng)絡(luò)
3.3 隨機的人工神經(jīng)風(fēng)格
3.4 演化算法, 遺傳算法
4 聚類, Kohonen自組織學(xué)習(xí), 自適應(yīng)算法
4.1 k-平均聚類
4.2 自適應(yīng)聚類的基本思路
4.3 固定規(guī)模的Kohonen網(wǎng)絡(luò)
4.4 網(wǎng)絡(luò)的規(guī)模的競爭學(xué)習(xí)
5 適應(yīng)最小二乘法--一種適應(yīng)的變步長的隨機逼近
第16章 離散狀態(tài)的Markov控制與決策過程簡介
1 例
1.1 隨機決策模型的簡單例子
1.2 簡單模型的啟示
2 動作只依賴當(dāng)前所處狀態(tài)的簡單決策模型
2.1 簡單模型的一般描述
2.2 有限時段總報酬準(zhǔn)則下的最佳Markov策略的構(gòu)造
2.3 無窮時段下的總報酬情形
第17章 Poisson隨機分析簡介與典型的點過程
1 非時齊的Poisson過程. 非時齊的復(fù)合Poisson過程及其特征泛函
1.1 數(shù)值函數(shù)對Poisson過程的積分
1.2 Poisson過程的特征泛函
1.3 非時齊Poisson過程的統(tǒng)計性質(zhì)
1.4 數(shù)值函數(shù)對非時齊Poisson過程的積分及非時齊的Poisson過程的特征泛函
1.5 非時齊的復(fù)合Poisson過程及其特征泛函
2 與非時齊的復(fù)合Poisson過程相系的Poisson點過程
2.1 將非時齊復(fù)合Poisson過程表示為非時齊Poisson過程的積分（用時間積分表示）
2.2 將非時齊復(fù)合Poisson過程表示為Poisson點過程的積分（用空間積分表示）
2.3 將非時齊復(fù)合Poisson過程表示為時空Poisson過程的積分（用時空積分表示）
3 過濾的Poisson過程
4 Poisson隨機微積分簡介
4.1 關(guān)于時空Poisson點過程的隨機積分
4.2 以Poisson過程或以時空Poisson點過程驅(qū)動的隨機微分方程與Poisson隨機微積分的復(fù)合函數(shù)的Ito
4.3 由Brown運動和時空Poisson過程聯(lián)合驅(qū)動的隨機微分方程
5 自激點過程
5.1 自激點過程的強度過程與條件計數(shù)強度
5.2 自激點過程的絕對概率
5.3 自激點過程的事件到達時刻的聯(lián)合分布
5.4 具有限記憶的自激點過程
5.5 對于自激點過程的隨機積分
5.6 二重Poisson過程
習(xí)題17
參考文獻
索引