第1章 概论 1
1.1 信息的概念及其分类 1
1.2 信息论研究的对象和内容 4
1.3 信息论的形成和发展 8
小结 9
习题1 10
第2章 信源及其信息量 11
2.1 单符号离散信源 11
2.1.1 离散信源的自信息量 11
2.1.2 信息熵 15
2.1.3 信息熵的性质 18
2.1.4 互信息量 22
2.1.5 平均互信息量 26
2.1.6 各种熵之间的关系 34
2.2 多符号离散平稳信源 35
2.2.1 无记忆扩展信源的熵 35
2.2.2 离散平稳信源的熵 37
2.2.3 马尔可夫信源 43
2.2.4 信源的冗余度 47
2.3 连续信源 50
2.3.1 连续信源的信息熵 50
2.3.2 几种特殊连续信源的熵 52
2.3.3 连续熵的性质 54
2.3.4 最大熵和熵功率 56
2.4 离散无失真信源编码定理 60
小结 66
习题2 67
上机要求与Matlab源程序 71
第3章 信道及其容量 72
3.1 信道模型与分类 72
3.1.1 信道的模型 72
3.1.2 信道的分类 72
3.2 单符号离散信道 73
3.2.1 信道容量的定义 73
3.2.2 几种特殊离散信道的信道容量 75
3.2.3 离散信道容量的一般计算方法 81
3.3 多符号离散信道 84
3.3.1 多符号离散信道的数学模型 84
3.3.2 多符号离散信道的信道容量 85
3.4 连续信道 88
3.4.1 时间离散的连续信道 88
3.4.2 时间连续的连续信道 90
3.5 信道编码定理 92
小结 92
习题3 92
上机要求与Matlab源程序 95
第4章 信息率失真函数 99
4.1 失真度与信息率失真函数 99
4.1.1 失真度与平均失真度 99
4.1.2 信息率失真函数 102
4.1.3 信息率失真函数的性质 103
4.2 离散信源的信息率失真函数 109
4.2.1 信息率失真函数的计算 109
4.2.2 二元离散信源信息率失真函数的计算 112
4.3 连续信源的信息率失真函数 115
4.3.1 连续信源信息率失真函数的计算 115
4.3.2 高斯信源的信息率失真函数 116
4.3.3 信道容量与信息率失真函数的对偶关系 119
4.4 保真度准则下的信源编码定理 119
小结 120
习题4 120
上机要求与Matlab源程序 123
第5章 网络信息论初步 126
5.1 引言 126
5.2 相关信源编码 128
5.2.1 Slepian-Wolf定理 129
5.2.2 应用校正子的相关信源编码 130
5.3 多址接入信道 132
5.3.1 离散多址接入信道 132
5.3.2 多址接入高斯噪声信道 135
5.3.3 相关信源的多址接入信道 138
5.4 广播信道 139
5.4.1 离散无记忆广播信道 139
5.4.2 退化广播信道 140
小结 141
习题5 141
第6章 信源编码 143
6.1 信源编码概论 143
6.1.1 概述 143
6.1.2 信源编码及分类 143
6.2 变长编码方法 145
6.2.1 香农编码 145
6.2.2 费诺编码 146
6.2.3 霍夫曼编码 147
6.3 实用的无失真信源编码方法 151
6.3.1 游程编码 151
6.3.2 算术编码 153
6.3.3 LZ编码和LZW编码 157
小结 161
习题6 161
上机要求与Matlab源程序 162
第7章 信道编码的基本概念 166
7.1 数字通信系统的工作原理与主要技术指标 166
7.1.1 数字通信系统的工作原理 166
7.1.2 数字通信系统的主要技术指标 166
7.2 有关术语 168
7.3 信道编码的基本思想和分类 168
7.4 检错与纠错原理 171
7.5 差错控制的基本方式和能力 173
7.5.1 差错控制的基本方式 173
7.5.2 最大似然译码 174
7.6 有限域代数的基本知识 175
7.6.1 基本概念 175
7.6.2 群、环和域 177
7.6.3 有限域和有限域上的多项式 179
小结 185
习题7 185
第8章 线性分组码 187
8.1 线性分组码的概念 187
8.2 线性分组码的监督矩阵和生成矩阵 187
8.2.1 线性分组码的监督矩阵 187
8.2.2 线性分组码的生成矩阵 190
8.3 线性分组码的编码 192
8.4 线性分组码的最小距离、检错和纠错能力 194
8.4.1 汉明距离、汉明重量和汉明球 194
8.4.2 线性码的检、纠错能力与最小距离的关系 195
8.4.3 线性码的最小距离与监督矩阵的关系 197
8.5 线性分组码的译码 198
8.5.1 伴随式和错误检测 198
8.5.2 纠错译码 200
8.6 汉明码 206
8.7 线性分组码的性能与码限 207
8.7.1 线性分组码的性能 207
8.7.2 线性分组码的码限 210
8.8 由已知码构造新码的方法 212
小结 215
习题8 215
上机要求与Matlab源程序 217
第9章 循环码 219
9.1 循环码的描述 219
9.1.1 循环码的定义与多项式描述 219
9.1.2 循环码的生成多项式和矩阵描述 220
9.1.3 循环码的监督多项式和监督矩阵 223
9.1.4 系统循环码 224
9.2 循环码的编码电路 225
9.2.1 多项式运算电路 225
9.2.2 循环码的编码电路 228
9.3 循环码的译码 232
9.3.1 接收矢量的伴随式计算 232
9.3.2 循环码的通用译码法 234
9.4 常用的循环码 235
9.4.1 循环汉明码 235
9.4.2 缩短循环码 237
9.4.3 BCH码与RS码 239
小结 241
习题9 242
上机要求与Matlab源程序 243
第10章 卷积码 245
10.1 卷积码的代数结构 245
10.1.1 卷积码的构成 245
10.1.2 卷积码的矩阵描述 254
10.1.3 卷积码的多项式描述 260
10.2 卷积码的图描述 264
10.2.1 卷积码的树图描述 264
10.2.2 卷积码的网格图描述 265
10.2.3 卷积码的状态转移图描述 266
10.3 卷积码的译码 268
10.3.1 维特比译码的度量 268
10.3.2 维特比译码的基本原理 269
10.3.3 软判决维特比译码 274
10.3.4 维特比译码的性能 275
10.3.5 凿孔卷积码 276
10.4 卷积码的应用 277
小结 279
习题10 280
上机要求与Matlab源程序 281
第11章 TCM与Turbo码 285
11.1 TCM技术 285
11.1.1 TCM思想的由来 285
11.1.2 TCM系统模型 285
11.1.3 TCM的应用 286
11.2 Turbo码 287
11.2.1 引言 287
11.2.2 Turbo码编码器 287
11.2.3 Turbo码译码器 288
11.2.4 Turbo码的译码算法 289
11.2.5 Turbo码在移动通信中的应用 292
小结 292
习题11 292
参考文献 293