應用信息與編碼理論

第1章 緒論
1.1 信息的基本概念
1.1.1 信息、消息及信號
1.1.2 信息的定義與度量
1.2 信息的基本概念
1.2.1 信息論的基本模型
1.2.2 信息論的研究目標
1.2.3 信息論的研究內容
1.3 信息論的發(fā)展歷程
1.4 習題
第2章 信源與信息熵
2.1 信源的模型與分類
2.1.1 一維離散信源
2.1.2 多維離散信源
2.1.3 一維連續(xù)信源
2.1.4 多維連續(xù)信源
2.2 離散信源的度量
2.2.1 不確定性
2.2.2 信息量的概念
2.2.3 信息量的計算
2.3 熵的基本性質
2.4 離散消息序列的熵
2.4.1 序列信息量的表示
2.4.2 離散無記憶擴展信源
2.4.3 離散平穩(wěn)信源
2.4.4 馬爾可夫信源
2.5 連續(xù)信源的熵和互信息
2.5.1 連續(xù)／波形信源的統計特性
2.5.2 連續(xù)信源的差熵
2.5.3 波形信源的差熵
2.5.4 最大差熵定理
2.6 信源相關性與冗余度
2.7 習題
第3章 信道及信道容量
3.1 信道模型及分類
3.1.1 信道的概念
3.1.2 信道分類
3.1.3 離散信道模型
3.1.4 一維離散信道模型
3.2 信道傳輸的平均互信息
3.2.1 損失熵和噪聲熵
3.2.2 平均互信息
3.2.3 平均條件互信息
3.2.4 平均互信息特性
3.3 信道容量概念及計算
3.3.1 信道容量基本概念
3.3.2 簡單離散信道的信道容量
3.3.3 對稱離散信道的信道容量
3.4 串／并聯信道的信道容量
3.4.1 串聯信道及信道容量
3.4.2 并聯信道及信道容量
3.4.3 和信道
3.5 連續(xù)信道及容量
3.5.1 單維加性信道
3.5.2 多維高斯加性連續(xù)信道
3.6 信源與信道的匹配
3.7 習題
第4章 信息率失真函數
4.1 失真測度
4.1.1 失真度
4.1.2 平均失真度
4.2 信息率失真函數的概念和性質
4.2.1 D允許信道（試驗信道）
4.2.2 信息率失真函數定義
4.2.3 信息率失真函數的性質
4.3 信息率失真函數的計算
4.4 連續(xù)信源的信息率失真函數
4.4.1 連續(xù)信源的信息率失真函數定義
4.4.2 平方誤差失真度下高斯信源的信息率失真函數
4.5 習題
第5章 信源編碼
5.1 信源編碼基本概念
5.2 定長編碼
5.3 變長編碼
5.3.1 變長碼的分類和編碼方法
5.3.2 克拉夫特不等式
5.3.3 變長無失真信源編碼定理
5.3.4 碼的平均長度衡量
5.3.5 變長無失真信源編碼定理
5.4 限失真信源編碼定理
5.5 變長碼編碼方法
5.5.1 香農編碼方法
5.5.2 費諾編碼
5.5.3 霍夫曼編碼
5.6 習題
第6章 信道編碼
6.1 差錯概率及譯碼分析
6.1.1 差錯概率分析
6.1.2 典型譯碼規(guī)則
6.2 錯誤概率及編碼原理
6.2.1 重復編碼
6.2.2 線性分組碼
6.2.3 漢明距
6.3 有噪信道編碼定理
6.3.1 糾正錯誤編碼的途徑一
6.3.2 糾正錯誤編碼的途徑二
6.4 習題
第7章 網絡信息論簡介
7.1 網絡信道分類
7.1.1 多源接人信道
7.1.2 廣播信道
7.1.3 中繼信道
7.1.4 串擾信道
7.1.5 反饋信道
7.2 相關信源編碼
7.2.1 兩個相關信源模型
7.2.2 相關信源編碼定理
7.3 多源接入信道
7.3.1 多源接人信道的容量
7.3.2 相關多源接人信道
7.3.3 高斯多源接入信道
參考文獻