信息论与编码基础教程PDF电子书下载

第1章　绪论 1

1.1　信息论发展简史 1

1.2　信息论研究的目的和本书主要内容 2

1.3　信息论的概念及常用术语 3

1.4　通信系统的模型 5

小结 7

习题 7

第2章　信源及信源熵 8

2.1　信源及分类 8

2.2　单符号离散信源 9

2.2.1　单符号离散信源的数学模型 9

2.2.2 自信息量 10

2.2.3　信源熵 13

2.2.4　信源熵的基本性质和定理 17

2.2.5　互信息量 19

2.2.6　数据处理中信息的变化 23

2.3　多符号离散信源 23

2.3.1　离散无记忆序列信源 24

2.3.2　离散有记忆平稳信源 26

2.3.3　马尔可夫信源 28

2.4　连续信源 32

2.4.1　连续信源熵 32

2.4.2　连续熵的性质 33

2.4.3　最大熵定理 34

2.5　冗余度 34

2.5.1　冗余度定义 34

2.5.2　冗余度来源 35

小结 36

习题 39

第3章　信息率失真函数 41

3.1　基本概念 41

3.1.1　失真函数（失真度） 41

3.1.2 平均失真度 42

3.1.3　信息率失真函数R（D） 45

3.1.4　信息率失真函数的性质 45

3.2　离散信源的R（D）计算 48

3.3　连续信源的R（D）计算 51

小结 54

习题 55

第4章　信源编码 57

4.1　数据压缩概述 57

4.2　无失真信源编码的基本原理 58

4.2.1　信源编码器 58

4.2.2　码的类型 59

4.2.3　基本概念 60

4.2.4　等长编码定理 63

4.2.5　变长编码定理 66

4.3　无失真信源编码方法 68

4.3.1　香农编码 68

4.3.2　费诺编码 69

4.3.3　哈夫曼编码 70

4.3.4　游程（Run-length）编码 76

4.3.5　算术编码 77

4.4　限失真信源编码定理 80

4.4.1　保真度准则下信源编码定理 80

4.4.2　信息、传输定理（联合有失真信源编码定理） 81

4.5　限失真信源编码方法 81

4.5.1　预测编码 81

4.5.2　变换编码 83

小结 86

习题 87

第5章　信道及信道容量 90

5.1　信道分类 90

5.2　离散单符号信道及容量 91

5.2.1　数学模型 91

5.2.2　信道容量 92

5.3　离散序列符号信道及容量 103

5.4　信源与信道的匹配 106

5.5　连续信道及其容量 107

5.5.1　连续单符号加性信道 107

5.5.2　多维无记忆加性连续信道 108

5.5.3　加性高斯白噪声波形信道 110

小结 112

习题 113

第6章　信道编码 115

6.1　信道编码概念 115

6.1.1　译码规则 115

6.1.2　编码规则 117

6.1.3　纠错编码的基本原理 118

6.2　线性分组码 120

6.2.1　线性分组码的编码 120

6.2.2　线性分组码的译码 122

6.2.3　汉明码 124

6.3　循环码 127

6.3.1　循环码的定义和结构 127

6.3.2　循环码的生成矩阵和校验矩阵 128

6.3.3　循环码的编码器 129

6.3.4　循环码的译码器 131

6.3.5　BCH码简介 132

6.4　卷积码 132

6.4.1　卷积码的基本概念 132

6.4.2　卷积码的生成矩阵与生成序列 133

6.4.3　卷积码的状态转移图与网格图 135

6.4.4　卷积码的译码概述 136

6.4.5　维特比译码算法 136

小结 138

习题 140

第7章　密码技术 143

7.1　密码的基本知识 143

7.1.1　密码学简介 143

7.1.2　理想的保密性 144

7.2　信息加密技术 147

7.2.1　对称密码体制 147

7.2.2　公钥（非对称）密码体制 154

7.3　信息认证技术 157

7.3.1　信息认证算法 157

7.3.2　数字签名 160

7.4　网络通信的信息安全技术 162

7.4.1　密钥管理和分配 162

7.4.2　Internet的信息安全 165

小结 168

习题 169

第8章　仿真实验 170

8.1　基础知识 170

8.1.1 MATLAB基本命令 170

8.1.2　Simulink的常用基本模块 171

8.2　实验 172

小结 181

附录A　相关知识 182

附录B　部分习题答案 185

参考文献 192