信息论与编码PDF电子书下载

第1章 概论 1

1.1 信息的概念及其分类 1

1.2 信息论研究的对象和内容 4

1.3 信息论的形成和发展 8

小结 9

习题1 10

第2章 信源及其信息量 11

2.1 单符号离散信源 11

2.1.1 离散信源的自信息量 11

2.1.2 信息熵 15

2.1.3 信息熵的性质 18

2.1.4 互信息量 22

2.1.5 平均互信息量 26

2.1.6 各种熵之间的关系 34

2.2 多符号离散平稳信源 35

2.2.1 无记忆扩展信源的熵 35

2.2.2 离散平稳信源的熵 37

2.2.3 马尔可夫信源 43

2.2.4 信源的冗余度 47

2.3 连续信源 50

2.3.1 连续信源的信息熵 50

2.3.2 几种特殊连续信源的熵 52

2.3.3 连续熵的性质 54

2.3.4 最大熵和熵功率 56

2.4 离散无失真信源编码定理 60

小结 66

习题2 67

上机要求与Matlab源程序 71

第3章 信道及其容量 72

3.1 信道模型与分类 72

3.1.1 信道的模型 72

3.1.2 信道的分类 72

3.2 单符号离散信道 73

3.2.1 信道容量的定义 73

3.2.2 几种特殊离散信道的信道容量 75

3.2.3 离散信道容量的一般计算方法 81

3.3 多符号离散信道 84

3.3.1 多符号离散信道的数学模型 84

3.3.2 多符号离散信道的信道容量 85

3.4 连续信道 88

3.4.1 时间离散的连续信道 88

3.4.2 时间连续的连续信道 90

3.5 信道编码定理 92

小结 92

习题3 92

上机要求与Matlab源程序 95

第4章 信息率失真函数 99

4.1 失真度与信息率失真函数 99

4.1.1 失真度与平均失真度 99

4.1.2 信息率失真函数 102

4.1.3 信息率失真函数的性质 103

4.2 离散信源的信息率失真函数 109

4.2.1 信息率失真函数的计算 109

4.2.2 二元离散信源信息率失真函数的计算 112

4.3 连续信源的信息率失真函数 115

4.3.1 连续信源信息率失真函数的计算 115

4.3.2 高斯信源的信息率失真函数 116

4.3.3 信道容量与信息率失真函数的对偶关系 119

4.4 保真度准则下的信源编码定理 119

小结 120

习题4 120

上机要求与Matlab源程序 123

第5章 网络信息论初步 126

5.1 引言 126

5.2 相关信源编码 128

5.2.1 Slepian-Wolf定理 129

5.2.2 应用校正子的相关信源编码 130

5.3 多址接入信道 132

5.3.1 离散多址接入信道 132

5.3.2 多址接入高斯噪声信道 135

5.3.3 相关信源的多址接入信道 138

5.4 广播信道 139

5.4.1 离散无记忆广播信道 139

5.4.2 退化广播信道 140

小结 141

习题5 141

第6章 信源编码 143

6.1 信源编码概论 143

6.1.1 概述 143

6.1.2 信源编码及分类 143

6.2 变长编码方法 145

6.2.1 香农编码 145

6.2.2 费诺编码 146

6.2.3 霍夫曼编码 147

6.3 实用的无失真信源编码方法 151

6.3.1 游程编码 151

6.3.2 算术编码 153

6.3.3 LZ编码和LZW编码 157

小结 161

习题6 161

上机要求与Matlab源程序 162

第7章 信道编码的基本概念 166

7.1 数字通信系统的工作原理与主要技术指标 166

7.1.1 数字通信系统的工作原理 166

7.1.2 数字通信系统的主要技术指标 166

7.2 有关术语 168

7.3 信道编码的基本思想和分类 168

7.4 检错与纠错原理 171

7.5 差错控制的基本方式和能力 173

7.5.1 差错控制的基本方式 173

7.5.2 最大似然译码 174

7.6 有限域代数的基本知识 175

7.6.1 基本概念 175

7.6.2 群、环和域 177

7.6.3 有限域和有限域上的多项式 179

小结 185

习题7 185

第8章 线性分组码 187

8.1 线性分组码的概念 187

8.2 线性分组码的监督矩阵和生成矩阵 187

8.2.1 线性分组码的监督矩阵 187

8.2.2 线性分组码的生成矩阵 190

8.3 线性分组码的编码 192

8.4 线性分组码的最小距离、检错和纠错能力 194

8.4.1 汉明距离、汉明重量和汉明球 194

8.4.2 线性码的检、纠错能力与最小距离的关系 195

8.4.3 线性码的最小距离与监督矩阵的关系 197

8.5 线性分组码的译码 198

8.5.1 伴随式和错误检测 198

8.5.2 纠错译码 200

8.6 汉明码 206

8.7 线性分组码的性能与码限 207

8.7.1 线性分组码的性能 207

8.7.2 线性分组码的码限 210

8.8 由已知码构造新码的方法 212

小结 215

习题8 215

上机要求与Matlab源程序 217

第9章 循环码 219

9.1 循环码的描述 219

9.1.1 循环码的定义与多项式描述 219

9.1.2 循环码的生成多项式和矩阵描述 220

9.1.3 循环码的监督多项式和监督矩阵 223

9.1.4 系统循环码 224

9.2 循环码的编码电路 225

9.2.1 多项式运算电路 225

9.2.2 循环码的编码电路 228

9.3 循环码的译码 232

9.3.1 接收矢量的伴随式计算 232

9.3.2 循环码的通用译码法 234

9.4 常用的循环码 235

9.4.1 循环汉明码 235

9.4.2 缩短循环码 237

9.4.3 BCH码与RS码 239

小结 241

习题9 242

上机要求与Matlab源程序 243

第10章 卷积码 245

10.1 卷积码的代数结构 245

10.1.1 卷积码的构成 245

10.1.2 卷积码的矩阵描述 254

10.1.3 卷积码的多项式描述 260

10.2 卷积码的图描述 264

10.2.1 卷积码的树图描述 264

10.2.2 卷积码的网格图描述 265

10.2.3 卷积码的状态转移图描述 266

10.3 卷积码的译码 268

10.3.1 维特比译码的度量 268

10.3.2 维特比译码的基本原理 269

10.3.3 软判决维特比译码 274

10.3.4 维特比译码的性能 275

10.3.5 凿孔卷积码 276

10.4 卷积码的应用 277

小结 279

习题10 280

上机要求与Matlab源程序 281

第11章 TCM与Turbo码 285

11.1 TCM技术 285

11.1.1 TCM思想的由来 285

11.1.2 TCM系统模型 285

11.1.3 TCM的应用 286

11.2 Turbo码 287

11.2.1 引言 287

11.2.2 Turbo码编码器 287

11.2.3 Turbo码译码器 288

11.2.4 Turbo码的译码算法 289

11.2.5 Turbo码在移动通信中的应用 292

小结 292

习题11 292

参考文献 293