信息论与编码PDF电子书下载

第1章 绪论 1

1.1信息的基本概念 1

1.1.1信息的一般概念 1

1.1.2信息的特点和性质 2

1.1.3香农信息的定义 3

1.2信息论与编码理论的形成与发展 4

1.3信息论与编码理论研究的内容 8

1.3.1信息论与编码理论的研究对象 8

1.3.2信息论与编码理论的研究范畴 9

第2章 信源及信息测度 11

2.1信源的分类及数学模型 11

2.1.1信源的分类 11

2.1.2单符号离散信源的数学模型 12

2.1.3多符号离散信源 12

2.1.4连续信源及波形信源 13

2.2信息的度量——信息熵 13

2.2.1无条件概率、联合概率与条件概率 14

2.2.2自信息 15

2.2.3互信息 16

2.2.4信息熵 18

2.2.5各熵之间的关系 20

2.2.6信息熵的基本性质及定理 20

2.2.7平均互信息及其特性 22

2.3多符号离散平稳信源 32

2.3.1消息序列的熵 32

2.3.2离散平稳信源的数学模型 33

2.3.3离散平稳信源的信息熵和极限熵 34

2.3.4马尔可夫信源的信息熵 36

2.4信源的相关性与冗余度 39

2.4.1信源的相关性 39

2.4.2冗余度 39

2.5连续信源的熵和互信息 41

习题 43

第3章 离散信道及其信道容量 48

3.1信道的分类及其描述 48

3.2单符号离散信道的数学模型 49

3.2.1单符号离散信道的概念 49

3.2.2.般单符号离散信道的一些概率关系 50

3.3信道容量及其计算方法 52

3.3.1信道容量的定义 52

3.3.2无噪离散信道的信道容量 53

3.3.3对称离散信道的信道容量 53

3.3.4准对称离散信道的信道容量 56

3.3.5一般离散信道的信道容量 57

3.4多符号离散信道的数学模型 60

3.5离散无记忆扩展信道的信道容量 63

3.6组合信道及其信道容量 65

3.6.1独立并联信道及其信道容量 65

3.6.2串联信道及其信道容量 66

3.7信源与信道的匹配 67

习题 68

第4章 无失真信源编码 72

4.1信源编码的基本概念 72

4.1.1信源编码 72

4.1.2信源编码的码字类型及码树 72

4.2无失真变长信源编码的特点 75

4.2.1定长信源编码定理 75

4.2.2变长编码的特点 76

4.2.3变长编码存在的问题及应对措施 77

4.3信源编码定理 78

4.3.1无失真变长信源编码定理 78

4.3.2统计匹配码 80

4.3.3克拉夫特不等式 81

4.4变长编码方法 82

4.4.1香农-费诺-埃利斯码 82

4.4.2费诺编码 84

4.4.3霍夫曼码 86

4.4.4游程编码 90

4.4.5算术编码 92

4.4.6通用编码 104

习题 109

第5章 信道编码 112

5.1信道编码定理 112

5.1.1信道与差错 112

5.1.2差错概率与译码规则 112

5.1.3有噪信道编码定理 113

5.2信道编码及其基本原理 114

5.2.1信道编码的基本概念 114

5.2.2信道编码的基本原理 115

5.3线性分组码 116

5.3.1线性分组码的基本概念 116

5.3.2线性分组码生成矩阵和一致监督矩阵 117

5.3.3线性码的检错、纠错能力 121

5.3.4汉明码 123

5.3.5线性分组码的编码 126

5.3.6线性分组码的译码 127

5.4循环码 133

5.4.1循环码的基本概念 133

5.4.2循环码的生成矩阵和监督矩阵 134

5.4.3循环码的编码 138

5.4.4循环码的译码 139

5.4.5自动请求重传方式（ARQ） 141

5.4.6循环码的捕错译码和大数逻辑译码 141

5.4.7BCH码和RS码 145

5.5卷积码 147

5.5.1卷积码的编码原理 148

5.5.2卷积码的描述 149

5.5.3卷积码的编码 154

5.5.4维特比译码 158

5.6级联码、交织码及TCM码 161

5.6.1级联码 161

5.6.2交织码 162

5.6.3TCM码 164

5.6.4前向纠错方式 165

5.7 Turbo码 165

5.7.1 Turbo码编码器 165

5.7.2 Turbo码译码器 166

5.8 LDPC码 170

5.8.1 LDPC码的定义及其描述 170

5.8.2 LDPC码的Tanner图表示 171

5.8.3 LDPC码的构造 172

习题 173

第6章 保真度准则下的信源编码 176

6.1失真度和平均失真度 177

6.1.1失真度 177

6.1.2平均失真度 179

6.2信息率失真函数及其性质 181

6.2.1信息率失真函数 181

6.2.2信息率失真函数的性质 182

6.3信息率失真函数的参量表述及其计算 188

6.4二元信源和离散对称信源的R（D）函数 197

6.4.1二元对称信源的R（D）函数 197

6.4.2离散对称信源的R（D）函数 200

6.5连续信源的信息率失真函数 201

6.5.1连续信源的信息率失真函数 201

6.5.2高斯信源的信息率失真函数 202

6.5.3连续信源R（D）函数的参量表述及其计算 205

6.6保真度准则下的信源编码定理 211

6.6.1保真度准则下的信源编码定理 211

6.6.2限失真信源编码定理的应用 212

6.7标量量化编码与矢量量化编码 214

6.7.1均匀量化 214

6.7.2最优量化 215

6.7.3矢量量化编码 216

6.8语音压缩编码 217

6.8.1波形编码基本原理 218

6.8.2参量编码 218

6.8.3混合编码 219

6.9 图像压缩编码 220

6.9.1静止图像压缩编码及JPEG标准 220

6.9.2活动图像压缩编码 222

6.9.3H.26x建议 225

6.9.4MPEG标准 226

习题 230

第7章 网络信息论与网络编码初步 233

7.1网络信息论概述 233

7.1.1网络信息论研究的基本问题及内容 233

7.1.2网络信息论的应用 234

7.2网络的信道容量 236

7.2.1多址系统 236

7.2.2广播信道 240

7.2.3相关信源的多用户信道问题 241

7.3无线信道 244

7.3.1信道模型 244

7.3.2圆对称复数高斯随机矢量 244

7.3.3MIMO高斯信道容量 245

7.4网络编码技术 247

7.4.1网络编码的基本原理 247

7.4.2线性网络编码 252

习题 255

第8章 通信系统的保密与安全 257

8.1密码系统和密码体制 257

8.1.1密码体制的基本组成 257

8.1.2密码编码和密码分析 258

8.1.3经典密码体制 261

8.1.4安全保密性与随机性 262

8.2对称加密体制 265

8.2.1数据加密标准DES 265

8.2.2DES密码的演化设计 266

8.3公开密钥密码 271

8.3.1单钥密码体制存在的问题 271

8.3.2公开密钥的一般原理 272

8.3.3RSA体制 272

8.4认证技术 274

8.4.1消息认证系统 274

8.4.2消息认证码和消息认证 276

8.4.3身份认证 278

8.4.4数字签名 279

8.5认证鉴权与加密在通信系统中的应用 281

8.5.1GSM系统的认证鉴权与加密 281

8.5.2WCDMA系统的认证鉴权与加密 283

8.5.3CDMA2000系统的认证鉴权与加密 285

习题 288

参考文献 290