第1章绪论 1
1.1信息的概念 1
1.2信息论研究的对象、目的和内容 8
1.3信息论发展简史与信息科学 12
第2章离散信源及其信息测度 17
2.1信源的数学模型及分类 17
2.2离散信源的信息熵 22
2.2.1自信息 22
2.2.2信息熵 25
2.3信息熵的基本性质 28
2.4信息熵的唯一性定理 35
2.5离散无记忆的扩展信源 38
2.6离散平稳信源 40
2.6.1离散平稳信源的数学定义 40
2.6.2二维离散平稳信源及其信息熵 41
2.6.3离散平稳信源的极限熵 45
2.7马尔可夫信源 48
2.7.1马尔可夫信源和m阶马尔可夫信源的定义 48
2.7.2马尔可夫信源和m阶马尔可夫信源的信息熵 51
2.8信源剩余度与自然语言的熵 57
2.9意义信息和加权熵 62
小结 65
习题 66
第3章离散信道及其信道容量 70
3.1信道的数学模型及分类 70
3.1.1信道的分类 70
3.1.2离散信道的数学模型 71
3.1.3单符号离散信道的数学模型 74
3.2平均互信息及平均条件互信息 76
3.2.1信道疑义度 76
3.2.2平均互信息 77
3.2.3平均条件互信息 80
3.3平均互信息的特性 82
3.4信道容量及其一般计算方法 86
3.4.1离散无噪信道的信道容量 87
3.4.2对称离散信道的信道容量 89
3.4.3准对称信道的信道容量 91
3.4.4一般离散信道的信道容量 92
3.5信道容量的迭代算法 98
3.5.1信道容量的迭代算法 99
3.5.2信道容量迭代算法的收敛性 103
3.6离散无记忆扩展信道及其信道容量 105
3.7独立并联信道及其信道容量 110
3.8串联信道的互信息和数据处理定理 111
3.9信源与信道的匹配 118
小结 119
习题 121
第4章波形信源和波形信道 125
4.1波形信源的统计特性和离散化 125
4.2连续信源和波形信源的信息测度 127
4.2.1连续信源的差熵 127
4.2.2连续平稳信源和波形信源的差熵 129
4.2.3两种特殊连续信源的差熵 130
4.3连续信源熵的性质及最大差熵定理 132
4.3.1差熵的性质 132
4.3.2具有最大差熵的连续信源 134
4.4连续信源熵的变换 136
4.4.1坐标变换后概率密度函数的变化 137
4.4.2坐标变换后差熵的变化 138
4.5熵功率 139
4.6连续信道和波形信道的分类 141
4.6.1按信道输入和输出的统计特性分类 141
4.6.2按噪声的统计特性分类 142
4.6.3按噪声对信号的作用功能分类 145
4.7连续信道和波形信道的信息传输率 146
4.7.1基本连续信道的平均互信息 146
4.7.2多维连续信道的平均互信息 147
4.7.3波形信道的信息传输率 147
4.7.4连续信道平均互信息的特性 148
4.8连续信道和波形信道的信道容量 151
4.8.1单符号高斯加性信道 152
4.8.2单符号非高斯加性信道 153
4.8.3多维无记忆高斯加性连续信道 154
4.8.4多维有记忆高斯加性连续信道 157
4.8.5限带高斯白噪声加性波形信道 159
4.8.6有色高斯加性波形信道 160
4.8.7香农公式的重要实际指导意义 161
小结 164
习题 167
第5章无失真信源编码定理 170
5.1编码器 170
5.2等长码 172
5.3渐近等分割性和ε典型序列 175
5.4等长信源编码定理 178
5.5变长码 181
5.5.1唯一可译变长码与即时码 181
5.5.2即时码的树图构造法 183
5.5.3克拉夫特（Kraft）不等式 184
5.5.4唯一可译变长码的判断法 187
5.6变长信源编码定理 188
小结 195
习题 196
第6章有噪信道编码定理 199
6.1错误概率和译码规则 199
6.2错误概率与编码方法 203
6.3联合ε典型序列 210
6.4有噪信道编码定理 215
6.5联合信源信道编码定理 219
小结 221
习题 223
第7章保真度准则下的信源编码 225
7.1失真度和平均失真度 226
7.1.1失真度 226
7.1.2平均失真度 228
7.2信息率失真函数及其性质 229
7.2.1信息率失真函数 229
7.2.2信息率失真函数的性质 231
7.3二元信源和离散对称信源的R（D）函数 236
7.3.1二元对称信源的R（D）函数 236
7.3.2离散对称信源的R（D）函数 238
7.4信息率失真函数的参量表述及其计算 240
7.5信息率失真函数的迭代算法 248
7.6连续信源的信息率失真函数 251
7.6.1连续信源的信息率失真函数 251
7.6.2高斯信源的信息率失真函数 252
7.6.3连续信源R（D）函数的参量表述及其计算 254
7.7保真度准则下的信源编码定理 259
7.7.1失真ε典型序列 259
7.7.2保真度准则下信源编码定理的证明 261
7.8联合有失真信源信道编码定理 263
7.9限失真信源编码定理的实用意义 265
小结 268
习题 269
第8章无失真的信源编码 273
8.1霍夫曼（Huffman）码 273
8.1.1二元霍夫曼码 274
8.1.2r元霍夫曼码 276
8.1.3霍夫曼码的最佳性 277
8.2费诺（Fano）码 279
8.3香农一费诺-埃利斯码 280
8.4游程编码和MH编码 282
8.4.1游程编码 282
8.4.2MH编码 286
8.5算术编码 290
8.6字典码 296
8.6.1LZ-77编码算法 296
8.6.2LZ-78编码算法 298
8.6.3LZW编码算法 299
8.6.4LZ码复杂度和性能分析 301
小结 303
习题 304
第9章信道的纠错编码 307
9.1差错控制的基本形式 307
9.2纠错码分类及基本概念 309
9.2.1纠错码分类 309
9.2.2纠错码的基本概念及其纠错能力 311
9.3线性分组码 314
9.3.1一致校验矩阵和生成矩阵 314
9.3.2伴随式及标准阵列译码 321
9.3.3汉明码 327
9.4循环码 329
9.4.1循环码结构及其多项式描述 330
9.4.2循环码的生成多项式和生成矩阵 332
9.4.3循环码的校验多项式和伴随式 338
9.4.4循环码的编、译码器 342
9.5卷积码 346
9.5.1卷积码的解析表示 346
9.5.2卷积码的图解表示 350
小结 352
习题 354
第10章网络信息论 357
10.1通信网信道的分类 357
10.2多个随机变量的联合典型序列 360
10.3相关信源编码 363
10.4多址接入信道 368
10.4.1离散多址接入信道 368
10.4.2多址接入高斯噪声信道 375
10.5相关信源和多址接入信道 378
10.5.1相关信源和多址接入信道的对偶性 378
10.5.2相关信源的多址接入信道 379
10.6广播信道 381
10.7中继信道 388
10.8具有边信息的信源编码 391
10.9具有边信息的数据压缩 395
小结 399
习题 400
第11章保密系统的基本信息理论 403
11.1保密学的基本概念 403
11.2保密系统的数学模型 404
11.3古典密码体制 406
11.3.1单表密码 406
11.3.2移位代换密码 406
11.3.3乘数密码 407
11.3.4固定周期d的位移置换 408
11.3.5多表代换密码 408
11.4完全保密性 410
11.5理论保密性 413
11.6实际保密性 415
小结 417
习题 418
第12章信息论与其他学科的关系和应用 419
12.1信息熵与热力学熵 419
12.2信息论与光学 422
12.2.1光学信息量 423
12.2.2光量子信道的信道容量 425
12.2.3最大熵光学图像恢复 427
12.3最大熵原理与谱估计 430
12.3.1高斯随机过程的熵率 431
12.3.2伯格的最大熵定理 432
12.4信息论与生命科学 434
12.4.1DNA到蛋白质的通信系统 434
12.4.2信息系数与信息分类 440
12.4.3医学中的信息分析 443
小结 445
附录 447
附录A凸函数和詹森不等式 447
附录B马尔可夫链 450
B.1马尔可夫链的定义 450
B.2转移概率和转移矩阵 450
B.3各态历经定理 452
附录C熵函数的函数表 455
附录D所用符号及编写说明 458
参考书目和文献 465