信息論與編碼（第2版）

目 錄
第1章 緒論
1．1 信息的概念
1．2 信息論研究的對象、目的和內容
1．3 信息論發(fā)展簡史與信息科學
第2章 離散信源及其信息測度
2．1 信源的數學模型及分類
2．2 離散信源的信息熵
2．2．1 自信息
2．2．2 信息熵
2．3 信息熵的基本性質
2．4 信息熵的唯一性定理
2．5 離散無記憶的擴展信源
2．6 離散平穩(wěn)信源
2．6．1 離散平穩(wěn)信源的數學定義
2．6．2 離散二維平穩(wěn)信源及其信息熵
2．6．3 離散平穩(wěn)信源的極限熵
2．7 馬爾可夫信源
2．7．1 馬爾可夫信源和m階馬爾可夫信源的定義
2．7．2 m階馬爾可夫信源的信息熵
2．8 信源冗余度與自然語言的熵
2．9 意義信息和加權熵
習題
第3章 離散信道及其信道容量
3．1 信道的數學模型及分類
3．1．1 信道的分類
3．1．2 離散信道的數學模型
3．1．3 單符號離散信道的數學模型
３．２ 平均互信息及平均條件互信息
3．2．1 信道疑義度
3．2．2 平均互信息
3．2．3 平均條件互信息
3．3 平均互信息的特性
3．4 信道容量及其一般計算方法
3．4．1 離散無噪信道的信道容量
3．4．2 對稱離散信道的信道容量
3．4．3 準對稱信道的信道容量
3．4．4 一般離散信道的信道容量
3．5 離散無記憶擴展信道及其信道容量
3．6 獨立并聯(lián)信道及其信道容量
3．7 串聯(lián)信道的互信息和數據處理定理
3．8 信源與信道的匹配
習題
第4章 波形信源和波形信道
4．1 連續(xù)信源和波形信源的信息測度
4．1．1 連續(xù)信源的差熵
4．1．2 連續(xù)平穩(wěn)信源和波形信源的差熵
4．1．3 兩種特殊連續(xù)信源的差熵
4．2 連續(xù)信源熵的性質及最大差熵定理
4．2．1 差熵的性質
4．2．2 具有最大差熵的連續(xù)信源
4．3 熵功率
4．4 連續(xù)信道和波形信道的信息傳輸率
4．4．1 連續(xù)信道和波形信道的分類
4．4．2 連續(xù)信道和波形信道的信息傳輸率
4．4．3 連續(xù)信道平均互信息的特性
4．5 高斯加性波形信道的信道容量
4．5．1 單符號高斯加性信道
4．5．2 限帶高斯白噪聲加性波形信道
習題
第5章 無失真信源編碼定理
5．1 編碼器
5．2 等長碼
5．3 漸近等分割性和ε典型序列
5．4 等長信源編碼定理
5．5 變長碼
5．5．1 唯一可譯變長碼與即時碼
5．5．2 即時碼的樹圖構造法
5．5．3 克拉夫特 (Kraft)不等式
5．5．4 唯一可譯變長碼的判斷法
5．6 變長信源編碼定理
習題
第6章 有噪信道編碼定理
6．1 錯誤概率和譯碼規(guī)則
6．2 錯誤概率與編碼方法
*6．3 聯(lián)合ε典型序列
6．4 有噪信道編碼定理
6．5 聯(lián)合信源信道編碼定理
習題
第7章 保真度準則下的信源編碼
7．1 失真度和平均失真度
7．1．1 失真度
7．1．2 平均失真度
7．2 信息率失真函數及其性質
7．2．1 信息率失真函數
7．2．2 信息率失真函數的性質
7．3 信息率失真函數的參量表述及其計算
7．4 二元信源和離散對稱信源的R(D) 函數
7．4．1 二元對稱信源的R(D)函數
7．4．2 離散對稱信源的R(D)函數
7．5 連續(xù)信源的信息率失真函數
7．5．1 連續(xù)信源的信息率失真函數
7．5．2 高斯信源的信息率失真函數
7．6 保真度準則下的信源編碼定理
7．7 聯(lián)合有失真信源信道編碼定理
7．8 限失真信源編碼定理的實用意義
習題
第8章 無失真的信源編碼
8．1 霍夫曼（Huffman）碼
8．1．1 二元霍夫曼碼
8．1．2 r元霍夫曼碼
8．1．3 霍夫曼碼的最佳性
8．2 費諾（Fano）碼
8．3 香農―費諾―埃利斯碼
8．4 游程編碼和MH編碼
8．4．1 游程編碼
8．4．2 MH編碼
8．5 算術編碼
8．6 字典碼
8．6．1 LZ-77編碼算法
8．6．2 LZ-78編碼算法
8．6．3 LZW編碼算法
8．6．4 K?Y（Kieffer?Yang）編碼算法
8．6．5 LZ復雜度和LZ碼性能分析
習題
第9章 信道的糾錯編碼
9．1 差錯控制的基本形式
9．2 糾錯碼分類與基本概念
9．2．1 糾錯碼的分類
9．2．2 糾錯碼的基本概念及其糾錯能力
9．3 線性分組碼的數學基礎
9．3．1 群論基礎
9．3．2 環(huán)與域
9．3．3 多項式理論
9．3．4 有限域的性質和代數結構
9．3．5 有限域上的線性代數
9．4 線性分組碼
9．4．1 生成矩陣與一致校驗矩陣
9．4．2 伴隨式及標準陣列譯碼
9．4．3 縮短碼、擴展碼和增刪碼
9．4．4 漢明碼
9．5 循環(huán)碼
9．5．1 循環(huán)碼結構及其描述
*9．5．2 由生成多項式的根定義循環(huán)碼
9．5．3 循環(huán)碼的譯碼
9．6 BCH碼
9．6．1 BCH碼的結構及其描述
*9．6．2 RS碼和Goppa碼
9．7 卷積碼
9．7．1 卷積碼的解析表示
9．7．2 卷積碼的圖表示
9．8 分組碼性能分析
習題
附錄A 凸函數和詹森不等式
附錄B 隨機過程
B．1 隨機過程的基本概念
Ｂ．2 馬爾可夫鏈
B．3 平穩(wěn)隨機過程
附錄C 熵函數的函數表
附錄D LDPC碼簡介
D．1 LDPC碼的基本概念
D．2 LDPC碼編碼算法
D．3 LDPC碼譯碼方法
D．4 校驗矩陣的構造方法
D．5 LDPC碼的應用與展望
參考書目及文獻