本書重點(diǎn)介紹由香農(nóng)理論發(fā)展而來的信息論的基本理論以及編碼理論,聯(lián)系實(shí)際通信系統(tǒng),用較多的例題和圖示展示基本概念的運(yùn)用方法,盡量減少繁雜的公式、定理證明;敘述上力求概念清楚、重點(diǎn)突出、深入淺出、通俗易懂;內(nèi)容上力求科學(xué)性、先進(jìn)性、系統(tǒng)性與實(shí)用性相統(tǒng)一。
全書共分8章,內(nèi)容包括緒論、離散信源及其信息度量、離散信道及其信道容量、無失真信源編碼、波形信源和波形信道、限失真信源編碼、有噪信道編碼和網(wǎng)絡(luò)信息論初步。
本書既可作為高等學(xué)校通信工程、電子信息工程和其他相近專業(yè)本科學(xué)生教材,也可以作為信息、通信、電子工程相關(guān)專業(yè)科技人員的參考書。
本書面向通信工程、電子信息工程、信息工程和電子信息科學(xué)與技術(shù)等專業(yè)教學(xué)需要,著重講授以經(jīng)典信息論內(nèi)容為主的信息論基礎(chǔ),特別強(qiáng)調(diào)概念闡述清楚、理論體系相對完整,圍繞信息傳輸系統(tǒng)這一工程應(yīng)用背景建立信息論的數(shù)學(xué)分析方法。讀者在學(xué)習(xí)中應(yīng)結(jié)合信息傳輸系統(tǒng)的數(shù)學(xué)模型理解信息論中基本理論方法,培養(yǎng)抽象分析能力和系統(tǒng)工程概念。本書既可作為高等學(xué)校通信工程、電子信息工程和其他相近專業(yè)本科學(xué)生教材,也可以作為信息、通信、電子工程相關(guān)專業(yè)科技人員的參考書。
第1章 緒論
1.1 信息的概念
1.1.1 信息
1.1.2 香農(nóng)“信息”的定義
1.1.3 “信息”的度量
1.2 信息論的形成和發(fā)展
1.3 信息論的研究范疇
1.3.1 通信系統(tǒng)模型
1.3.2 信息論的研究內(nèi)容
第2章 離散信源及其信息度量
2.1 信源的分類及描述
2.2 信源的數(shù)學(xué)模型
2.2.1 單符號離散信源
2.2.2 簡單的連續(xù)信源
2.2.3 多符號離散信源
2.2.4 多維連續(xù)平穩(wěn)信源和波形信源
2.3 信息的度量和信源熵
2.3.1 自信息、聯(lián)合自信息與條件自信息
2.3.2 互信息和條件互信息
2.3.3 信息熵
2.4 信源熵的基本性質(zhì)和定理
2.5 離散無記憶擴(kuò)展信源
2.6 離散平穩(wěn)信源
2.6.1 離散平穩(wěn)信源的數(shù)學(xué)模型
2.6.2 離散平穩(wěn)信源的信息熵和極限熵
2.7 馬爾可夫信源
2.7.1 馬爾可夫信源的定義
2.7.2 馬爾可夫信源的信息熵
2.8 信源的相關(guān)性和剩余度
習(xí)題
第3章 離散信道及其信道容量
3.1 信道的分類及其描述
3.2 單符號離散信道的數(shù)學(xué)模型
3.3 平均互信息及其特性
3.3.1 平均互信息的定義
3.3.2 損失熵和噪聲熵
3.3.3 平均互信息的特性
3.4 信道容量及其計(jì)算方法
3.4.1 信道容量的定義
3.4.2 無噪信道的信道容量
3.4.3 對稱離散信道的信道容量
3.4.4 準(zhǔn)對稱離散信道的信道容量
3.4.5 一般離散信道的信道容量
3.5 多符號離散信道的數(shù)學(xué)模型
3.6 離散無記憶擴(kuò)展信道的信道容量
3.7 組合信道及其信道容量
3.7.1 獨(dú)立并聯(lián)信道及其信道容量
3.7.2 串聯(lián)信道及其信道容量
3.8 信源與信道的匹配
習(xí)題
第4章 無失真信源編碼
4.1 信源編碼器
4.2 無失真離散信源編碼定理
4.2.1 無失真定長信源編碼定理
4.2.2 無失真變長信源編碼定理
4.3 霍夫曼碼和其他編碼方法
4.3.1 可譯碼和即時(shí)碼
4.3.2 香農(nóng)碼
4.3.3 霍夫曼碼
4.3.4 費(fèi)諾碼
4.4 算術(shù)碼
4.4.1 香農(nóng)-費(fèi)諾-埃利斯碼
4.4.2 算術(shù)碼
習(xí)題
第5章 波形信源和波形信道
5.1 波形信源的統(tǒng)計(jì)特性和處理方法
5.1.1 波形信源的統(tǒng)計(jì)特性
5.1.2 隨機(jī)波形信源的處理方法
5.2 連續(xù)信源的信息度量
5.2.1 連續(xù)信源的熵及其性質(zhì)
5.2.2 連續(xù)信源的熵
5.2.3 熵功率
5.3 波形信源的信息度量
5.4 波形信道的分類和處理方法
5.4.1 波形信道的分類
5.4.2 波形信道的處理方法
5.5 連續(xù)信道的信道容量
5.5.1 連續(xù)信道的平均互信息
5.5.2 連續(xù)信道的信道容量
5.6 波形信道的信道容量
5.6.1 波形信道的信息傳輸速率
5.6.2 波形信道的信道容量
習(xí)題
第6章 限失真信源編碼
6.1 失真測度
6.1.1 失真函數(shù)
6.1.2 平均失真
6.1.3 保真度準(zhǔn)則
6.2 信息率失真函數(shù)
6.2.1 信息率失真函數(shù)的定義
6.2.2 R(D)函數(shù)的性質(zhì)
6.2.3 R(D)函數(shù)的計(jì)算
6.3 限失真信源編碼定理
習(xí)題
第7章 有噪信道編碼
7.1 有噪信道編碼定理
7.1.1 平均錯(cuò)誤概率
7.1.2 信道編碼的基本思想
7.1.3 有噪信道編碼定理
7.1.4 信道編碼的途徑
7.2 聯(lián)合信源信道編碼定理
7.3 信道編碼的基本原理
7.3.1 信道編碼的一般方法
7.3.2 信道編碼的檢錯(cuò)和糾錯(cuò)能力
7.3.3 小漢明距離譯碼
7.4 線性分組碼
7.4.1 線性分組碼的編碼
7.4.2 線性分組碼的譯碼
7.4.3 完備碼和漢明碼
7.4.4 循環(huán)碼
7.5 卷積碼
7.5.1 卷積碼的解析表示
7.5.2 卷積碼的圖形描述
7.5.3 卷積碼的譯碼方法
7.5.4 遞歸型系統(tǒng)卷積碼
7.6 Turbo碼
7.6.1 Turbo編碼
7.6.2 Turbo譯碼
習(xí)題
第8章 網(wǎng)絡(luò)信息論初步
8.1 多用戶信道
8.1.1 多址接入信道
8.1.2 廣播信道
8.1.3 相關(guān)信源的多用戶信道問題
8.2 無線信道
8.2.1 信道模型
8.2.2 圓對稱復(fù)數(shù)高斯隨機(jī)矢量
8.2.3 MIMO高斯信道容量
附錄 概率論基礎(chǔ)知識概要
參考文獻(xiàn)