信息论与编码原理PDF电子书下载

第1章 概论 1

1.1 信息的概念及其分类 1

1.2 信息论研究的对象和内容 4

1.3 信息论的形成和发展 7

习题1 8

第2章 信源及其信息量 9

2.1 单符号离散信源 9

2.1.1 离散变量的自信息量 9

2.1.2 信息熵 11

2.1.3 信息熵的性质 14

2.1.4 互信息量 17

2.1.5 各种熵之间的关系 23

2.2 扩展信源 23

2.2.1 无记忆扩展信源的熵 23

2.2.2 离散平稳信源的熵 25

2.2.3 马尔可夫信源 28

2.2.4 信源的冗余度 31

2.3 连续信源 32

2.3.1 连续信源的信息熵 32

2.3.2 几种特殊连续信源的熵 33

2.3.3 连续熵的性质 34

2.3.4 最大熵和熵功率 35

2.4 离散无失真信源编码定理 36

小结 40

习题2 40

上机要求与Matlab源程序 44

第3章 信道及其容量 45

3.1 信道模型与分类 45

3.1.1 信道模型 45

3.1.2 信道的分类 45

3.2 离散无记忆信道 46

3.2.1 信道容量的定义 46

3.2.2 几种特殊离散信道的信道容量 47

3.2.3 离散信道容量的一般计算方法 53

3.3 离散无记忆扩展信道 56

3.3.1 N次扩展信道的数学模型 56

3.3.2 N次扩展信道的容量 57

3.4 连续信道 59

3.4.1 时间离散的连续信道 60

3.4.2 时间连续的连续信道 62

3.5 信道编码定理 63

小结 64

习题3 64

上机要求与Matlab源程序 67

第4章 信息率失真函数 71

4.1 失真度与信息率失真函数 71

4.1.1 失真度与平均失真度 71

4.1.2 信息率失真函数 74

4.1.3 信息率失真函数的性质 75

4.2 离散信源的信息率失真函数 80

4.2.1 信息率失真函数的计算 80

4.2.2 二元离散信源信息率失真函数的计算 83

4.3 连续信源的信息率失真函数 85

4.3.1 连续信源信息率失真函数的计算 85

4.3.2 高斯信源的信息率失真函数 87

4.3.3 信道容量与信息率失真函数的对偶关系 89

4.4 保真度准则下的信源编码定理 90

小结 90

习题4 91

上机要求与Matlab源程序 93

第5章 网络信息论初步 96

5.1 引言 96

5.1.1 网络信息论的发展概况 96

5.1.2 网络信息论研究的问题 96

5.2 相关信源编码 99

5.2.1 Slepian-Wolf定理 99

5.2.2 应用校正子的相关信源编码 100

5.3 多址接入信道 102

5.3.1 离散多址接入信道 102

5.3.2 多址接入高斯噪声信道 104

5.3.3 相关信源的多址接入信道 107

5.4 广播信道 108

5.4.1 离散无记忆广播信道 108

5.4.2 退化广播信道 109

小结 110

习题5 111

第6章 信源编码 112

6.1 信源编码概论 112

6.1.1 概述 112

6.1.2 信源编码及分类 112

6.2 变长编码方法 114

6.2.1 香农编码 114

6.2.2 费诺编码 115

6.2.3 霍夫曼编码 117

6.3 实用的无失真信源编码方法 119

6.3.1 游程编码 119

6.3.2 算术编码 121

6.3.3 通用信源编码 125

小结 129

习题6 129

上机要求与Matlab源程序 130

第7章 信道编码的基本概念 134

7.1 信道编码在数字通信系统中的地位和作用 134

7.1.1 数字通信系统工作原理 134

7.1.2 通信系统的主要技术指标 134

7.2 有关术语 135

7.3 信道编码的基本思想和分类 136

7.4 检错与纠错原理 138

7.5 差错控制的基本方式和能力 140

7.5.1 差错控制的基本方式 140

7.5.2 最大似然译码 141

7.6 有限域代数的基本知识 142

7.6.1 基本概念 142

7.6.2 群、环、域 143

7.6.3 有限域和有限域上的多项式 145

小结 151

习题7 151

第8章 线性分组码 153

8.1 线性分组码概念 153

8.2 线性分组码的监督矩阵和生成矩阵 153

8.2.1 线性分组码的监督矩阵 153

8.2.2 线性分组码的生成矩阵 155

8.3 线性分组码的编码 158

8.4 线性分组码的最小距离、检错和纠错能力 159

8.4.1 汉明距离、汉明重量和汉明球 159

8.4.2 线性码的检、纠错能力与最小距离的关系 160

8.4.3 线性码的最小距离与监督矩阵的关系 162

8.5 线性分组码的译码 162

8.5.1 伴随式和错误检测 162

8.5.2 纠错译码 164

8.6 汉明码 170

8.7 线性分组码的性能与码限 171

8.7.1 线性分组码的性能 171

8.7.2 线性分组码的码限 174

8.8 由已知码构造新码的方法 175

小结 177

习题8 178

上机要求与Matlab源程序 179

第9章 循环码 182

9.1 循环码的描述 182

9.1.1 循环码的定义与多项式描述 182

9.1.2 循环码的生成多项式和矩阵描述 183

9.1.3 循环码的监督多项式和监督矩阵 186

9.1.4 系统循环码 187

9.2 循环码的编码电路 188

9.2.1 多项式运算电路 188

9.2.2 循环码的编码电路 191

9.3 循环码的译码 194

9.3.1 接收矢量伴随式计算 194

9.3.2 循环码的通用译码法 196

9.4 常用的循环码 197

9.4.1 循环汉明码 197

9.4.2 缩短循环码 199

9.4.3 BCH码与RS码 201

小结 203

习题9 203

上机要求与Matlab源程序 204

第10章 卷积码 207

10.1 卷积码的代数结构 207

10.1.1 卷积码的构成 207

10.1.2 卷积码的矩阵描述 214

10.1.3 卷积码的多项式描述 221

10.2 卷积码的图描述 224

10.2.1 卷积码的树图描述 224

10.2.2 卷积码的网格图描述 225

10.2.3 卷积码的状态图描述 226

10.3 卷积码的译码 228

10.3.1 维特比译码的度量 228

10.3.2 维特比译码的基本原理 229

10.3.3 软判决维特比译码 234

10.3.4 维特比译码的性能 234

10.3.5 凿孔卷积码 235

10.4 卷积码的应用 236

小结 238

习题10 238

上机要求与Matlab源程序 240

第11章 TCM与Turbo码 244

11.1 TCM技术 244

11.1.1 TCM思想的由来 244

11.1.2 TCM系统模型 244

11.1.3 TCM的应用 245

11.2 Turbo码 245

11.2.1 引言 245

11.2.2 Turbo码编码器 246

11.2.3 Turbo码译码器 247

11.2.4 Turbo码的译码算法 248

11.2.5 Turbo码在移动通信中的应用 250

小结 251

习题11 251

参考文献 252