本書重點介紹信息論與糾錯編碼的基礎內容,全文共9章,主要內容包括信息及信息的度量、離散信源及信源熵、離散信道及信道容量、信源編碼定理和信道編碼定理、平均失真測度和信息率失真函數、率失真編碼定理、線性分組碼、循環(huán)碼和卷積碼,對一些較難理解的概念,輔有較多的例題,并配套免費電子課件、習題解答等教輔資料。
本書凝聚數十年一線教學和科研經驗,對于信息論,編碼進行了詳細的論述,提供配套電子課件和習題參考答案等教輔資料。
孫麗華,女,南昌大學教授,在通信、計算機、信息系統(tǒng)與編碼領域擁有三十余年教學經驗,出版多部著作,教學、科研、寫作經驗豐富。
第1章 信息論基礎 (1)
1.1 信息的概念 (2)
1.2 數字通信系統(tǒng) (4)
1.3 信源及其數學模型 (6)
1.3.1 離散無記憶信源 (6)
1.3.2 離散有記憶信源 (8)
1.3.3 波形信源 (9)
1.4 信道及其數學模型 (10)
1.4.1 離散無記憶單符號信道 (10)
1.4.2 離散無記憶擴展信道 (12)
本章小結 (13)
思考題與習題 (14)
第2章 信息的度量 (15)
2.1 自信息量和互信息量 (16)
2.1.1 自信息量和條件自信息量 (17)
2.1.2 互信息量和條件互信息量 (19)
2.2 離散集的平均自信息量 (24)
2.2.1 信息熵 (24)
2.2.2 熵函數的性質 (27)
2.3 離散集的平均互信息量 (32)
2.3.1 平均互信息量 (32)
2.3.2 平均互信息量的性質 (35)
2.3.3 有關平均互信息量的兩條
定理 (37)
2.4 N維擴展信源的熵和平均互
信息量 (41)
2.4.1 N維擴展信源的熵 (41)
2.4.2 N維擴展信源的平均互
信息量 (42)
2.4.3 有關N維平均互信息量的
兩條定理 (43)
本章小結 (45)
思考題與習題 (45)
第3章 離散信源無失真編碼 (49)
3.1 概述 (50)
3.1.1 碼的分類 (51)
3.1.2 平均碼長的計算 (54)
3.1.3 信息傳輸速率 (55)
3.2 等長碼及等長編碼定理 (57)
3.3 變長碼及變長編碼定理 (60)
3.3.1 變長碼 (60)
3.3.2 克拉夫特不等式 (60)
3.3.3 變長編碼定理 (63)
3.4 變長碼的編碼方法 (67)
3.4.1 香農編碼法 (67)
3.4.2 費諾編碼法 (69)
3.4.3 霍夫曼編碼法 (70)
本章小結 (74)
思考題與習題 (75)
第4章 離散信道的信道容量 (79)
4.1 信道容量的定義 (80)
4.2 離散無記憶信道容量的
計算 (80)
4.2.1 達到信道容量的充要
條件 (81)
4.2.2 幾類特殊的信道 (85)
4.3 組合信道的容量 (92)
4.3.1 獨立并行信道 (92)
4.3.2 和信道 (93)
4.3.3 串行信道 (94)
本章小結 (96)
思考題與習題 (97)
第5章 有噪信道編碼 (99)
5.1 信道編碼的基本概念 (100)
5.2 譯碼規(guī)則及錯誤概率 (103)
5.3 信道編碼定理 (106)
5.4 費諾引理及信道編碼逆
定理 (109)
5.4.1 費諾不等式 (110)
5.4.2 信道編碼逆定理 (111)
本章小結 (112)
思考題與習題 (113)
第6章 率失真編碼 (116)
6.1 失真測度與平均失真 (117)
6.2 信息率失真函數R(D) (120)
6.2.1 率失真函數的定義 (120)
6.2.2 率失真函數的值域、
定義域 (121)
6.2.3 率失真函數的性質 (122)
6.3 率失真函數的計算 (125)
6.3.1 兩種特殊情況下的
求解 (125)
6.3.2 R(D)的參數表示法 (129)
6.4 率失真信源編碼定理 (133)
本章小結 (133)
思考題與習題 (134)
第7章 線性分組碼 (137)
7.1 糾錯碼的基本概念 (138)
7.1.1 信道糾錯編碼 (138)
7.1.2 差錯類型 (138)
7.1.3 差錯控制系統(tǒng)模型及分類 (139)
7.1.4 糾錯碼的分類 (140)
7.2 群與群陪集分解 (141)
7.2.1 群的概念 (141)
7.2.2 子群 (142)
7.2.3 群的陪集分解 (143)
7.3 線性分組碼的編碼 (143)
7.3.1 生成矩陣、校驗矩陣 (143)
7.3.2 系統(tǒng)碼 (147)
7.3.3 對偶碼 (149)
7.3.4 編碼的實現 (150)
7.4 線性碼的糾檢錯能力 (151)
7.4.1 碼的距離和重量 (151)
7.4.2 線性碼的糾錯、檢錯
能力 (152)
7.5 標準陣列和譯碼 (155)
7.5.1 標準陣列 (155)
7.5.2 陪集分解 (156)
7.5.3 譯碼 (159)
7.6 漢明碼 (160)
7.6.1 漢明碼的構造 (160)
7.6.2 漢明限與完備碼 (161)
本章小結 (162)
思考題與習題 (163)
第8章 循環(huán)碼 (166)
8.1 有限域及其結構 (167)
8.1.1 域的定義 (167)
8.1.2 有限域的本原元 (170)
8.1.3 有限域的結構 (171)
8.1.4 最小多項式的共軛
根組 (173)
8.1.5 有關有限域的小結 (175)
8.2 循環(huán)碼的一般概念 (176)
8.2.1 循環(huán)碼的定義 (176)
8.2.2 循環(huán)碼的多項式描述 (177)
8.3 循環(huán)碼的生成多項式和生成
矩陣 (177)
8.3.1 生成多項式 (177)
8.3.2 生成矩陣 (180)
8.4 循環(huán)碼的校驗多項式和校驗
矩陣 (181)
8.5 循環(huán)碼的編碼 (184)
8.5.1 利用g(x)實現編碼 (184)
8.5.2 利用h(x)實現編碼 (186)
8.6 循環(huán)碼的譯碼 (188)
8.6.1 伴隨式計算 (188)
8.6.2 循環(huán)碼的糾錯譯碼 (190)
8.6.3 Meggit譯碼器 (192)
8.7 一些重要的循環(huán)碼 (194)
8.7.1 循環(huán)Hamming碼 (194)
8.7.2 BCH碼 (195)
本章小結 (198)
思考題與習題 (198)
第9章 卷積碼 (200)
9.1 卷積碼基本概念 (201)
9.2 卷積碼的數學描述 (202)
9.2.1 卷積碼的矩陣描述 (202)
9.2.2 卷積碼的多項式描述 (204)
9.3 卷積碼的圖形表示方法 (206)
9.3.1 狀態(tài)圖 (206)
9.3.2 樹圖 (206)
9.3.3 網格圖 (208)
9.4 Viterbi譯碼 (208)
9.4.1 Viterbi譯碼步驟 (209)
9.4.2 Viterbi譯碼 (209)
本章小結 (210)
思考題與習題 (211)
附錄A GF(2m)中元素的最小多項式
和本原多項式(1<m≤8) (212)
附錄B 熵函數計算用簡明
對數表 (213)
參考文獻 (214)