信息論――基礎(chǔ)理論與應(yīng)用（第5版）

第1章 緒論
1.1 信息的概念
1.2 信息論研究的對(duì)象、目的和內(nèi)容
1.3 信息論發(fā)展簡(jiǎn)史與信息科學(xué)
第2章 離散信源及其信息測(cè)度
2.1 信源的數(shù)學(xué)模型及分類(lèi)
2.2 離散信源的信息熵
2.2.1 自信息
2.2.2 信息熵
2.3 信息熵的基本性質(zhì)
2.4 信息熵的唯一性定理
2.5 離散無(wú)記憶的擴(kuò)展信源
2.6 離散平穩(wěn)信源
2.6.1 離散平穩(wěn)信源的數(shù)學(xué)定義
2.6.2 二維離散平穩(wěn)信源及其信息熵
2.6.3 離散平穩(wěn)信源的極限熵
2.7 馬爾可夫信源
2.7.1 馬爾可夫信源和m階馬爾可夫信源的定義
2.7.2 馬爾可夫信源和m階馬爾可夫信源的信息熵
2.8 信源剩余度與自然語(yǔ)言的熵
2.9 意義信息和加權(quán)熵
小結(jié)
習(xí)題
第3章 離散信道及其信道容量
3.1 信道的數(shù)學(xué)模型及分類(lèi)
3.1.1 信道的分類(lèi)
3.1.2 離散信道的數(shù)學(xué)模型
3.1.3 單符號(hào)離散信道的數(shù)學(xué)模型
3.2 平均互信息及平均條件互信息
3.2.1 信道疑義度
3.2.2 平均互信息
3.2.3 平均條件互信息
3.3 平均互信息的特性
3.4 信道容量及其一般計(jì)算方法
3.4.1 離散無(wú)噪信道的信道容量
3.4.2 對(duì)稱離散信道的信道容量
3.4.3 準(zhǔn)對(duì)稱信道的信道容量
3.4.4 一般離散信道的信道容量
3.5 信道容量的迭代算法
3.5.1 信道容量的迭代算法
3.5.2 信道容量迭代算法的收斂性
3.6 離散無(wú)記憶擴(kuò)展信道及其信道容量
3.7 獨(dú)立并聯(lián)信道及其信道容量
3.8 串聯(lián)信道的互信息和數(shù)據(jù)處理定理
3.9 信源與信道的匹配
小結(jié)
習(xí)題
第4章 波形信源和波形信道
4.1 波形信源的統(tǒng)計(jì)特性和離散化
4.2 連續(xù)信源和波形信源的信息測(cè)度
4.2.1 連續(xù)信源的差熵
4.2.2 連續(xù)平穩(wěn)信源和波形信源的差熵
4.2.3 兩種特殊連續(xù)信源的差熵
4.3 連續(xù)信源熵的性質(zhì)及最大差熵定理
4.3.1 差熵的性質(zhì)
4.3.2 具有最大差熵的連續(xù)信源
4.4 連續(xù)信源熵的變換
4.4.1 坐標(biāo)變換后概率密度函數(shù)的變化
4.4.2 坐標(biāo)變換后差熵的變化
4.5 熵功率
4.6 連續(xù)信道和波形信道的分類(lèi)
4.6.1 按信道輸入和輸出的統(tǒng)計(jì)特性分類(lèi)
4.6.2 按噪聲的統(tǒng)計(jì)特性分類(lèi)
4.6.3 按噪聲對(duì)信號(hào)的作用功能分類(lèi)
4.7 連續(xù)信道和波形信道的信息傳輸率
4.7.1 基本連續(xù)信道的平均互信息
4.7.2 多維連續(xù)信道的平均互信息
4.7.3 波形信道的信息傳輸率
4.7.4 連續(xù)信道平均互信息的特性
4.8 連續(xù)信道和波形信道的信道容量
4.8.1 單符號(hào)高斯加性信道
4.8.2 單符號(hào)非高斯加性信道
4.8.3 多維無(wú)記憶高斯加性連續(xù)信道
4.8.4 多維有記憶高斯加性連續(xù)信道
4.8.5 限帶高斯白噪聲加性波形信道
4.8.6 有色高斯加性波形信道
4.8.7 香農(nóng)公式的重要實(shí)際指導(dǎo)意義
小結(jié)
習(xí)題
第5章 無(wú)失真信源編碼定理
5.1 編碼器
5.2 等長(zhǎng)碼
5.3 漸近等分割性和ε典型序列
5.4 等長(zhǎng)信源編碼定理
5.5 變長(zhǎng)碼
5.5.1 唯一可譯變長(zhǎng)碼與即時(shí)碼
5.5.2 即時(shí)碼的樹(shù)圖構(gòu)造法
5.5.3 克拉夫特(Kraft)不等式
5.5.4 唯一可譯變長(zhǎng)碼的判斷法
5.6 變長(zhǎng)信源編碼定理
小結(jié)
習(xí)題
第6章 有噪信道編碼定理
6.1 錯(cuò)誤概率和譯碼規(guī)則
6.2 錯(cuò)誤概率與編碼方法
6.3 聯(lián)合ε典型序列
6.4 有噪信道編碼定理
6.5 聯(lián)合信源信道編碼定理
小結(jié)
習(xí)題
第7章 保真度準(zhǔn)則下的信源編碼
7.1 失真度和平均失真度
7.1.1 失真度
7.1.2 平均失真度
7.2 信息率失真函數(shù)及其性質(zhì)
7.2.1 信息率失真函數(shù)
7.2.2 信息率失真函數(shù)的性質(zhì)
7.3 二元信源和離散對(duì)稱信源的R(D)函數(shù)
7.3.1 二元對(duì)稱信源的R(D)函數(shù)
7.3.2 離散對(duì)稱信源的R(D)函數(shù)
7.4 信息率失真函數(shù)的參量表述及其計(jì)算
7.5 信息率失真函數(shù)的迭代算法
7.6 連續(xù)信源的信息率失真函數(shù)
7.6.1 連續(xù)信源的信息率失真函數(shù)
7.6.2 高斯信源的信息率失真函數(shù)
7.6.3 連續(xù)信源R(D)函數(shù)的參量表述及其計(jì)算
7.7 保真度準(zhǔn)則下的信源編碼定理
7.7.1 失真ε典型序列
7.7.2 保真度準(zhǔn)則下信源編碼定理的證明
7.8 聯(lián)合有失真信源信道編碼定理
7.9 限失真信源編碼定理的實(shí)用意義
小結(jié)
習(xí)題
第8章 無(wú)失真的信源編碼
8.1 霍夫曼（Huffman）碼
8.1.1 二元霍夫曼碼
8.1.2 r元霍夫曼碼
8.1.3 霍夫曼碼的最佳性
8.2 費(fèi)諾（Fano）碼
8.3 香農(nóng)-費(fèi)諾-埃利斯碼
8.4 游程編碼和MH編碼
8.4.1 游程編碼
8.4.2 MH編碼
8.5 算術(shù)編碼
8.6 字典碼
8.6.1 LZ-77編碼算法
8.6.2 LZ-78編碼算法
8.6.3 LZW編碼算法
8.6.4 LZ碼復(fù)雜度和性能分析
小結(jié)
習(xí)題
第9章 信道的糾錯(cuò)編