引言 1
第一章 单符号离散信源 5
第一节 信源的数学模型 5
第二节 信源符号的自信量 7
第三节 信源的信息熵 11
第四节 信息熵的代数性质 17
第五节 信息熵的解析性质 25
第六节最大离散熵定理 32
第七节 均值受限的最大离散熵 34
第八节 熵函数的唯一性定理 38
第九节 加权熵及其数学特性 42
第十节 加权熵的唯一性定理 52
第十一节 效用信息熵 66
习题 74
第二章 单符号离散信道 76
第一节 信道的数学模型 76
第二节 信道的交互信息量 80
第三节 条件交互信息量 90
第四节 平均交互信息量 96
第五节 平均交互信息量的非负性 106
第六节 平均交互信息量的极值性 109
第七节 平均交互信息量的不增性 119
第八节 平均交互信息量的上凸性 132
第九节 信道容量及其一般算法 135
第十节 信道容量的等量平衡定理 143
第十一节 几种无噪信道的信道容量 150
第十二节 几种对称信道的信道容量 154
第十三节 可逆矩阵信道的信道容量 168
第十四节 信道容量的迭代计算 173
习题 182
第三章 多符号离散信源与信道 188
第一节 离散平稳信源的数学模型 188
第二节 离散平稳无记忆信源的信息熵 193
第三节 离散平稳有记忆信源的信息熵 197
第四节 离散平稳有记忆信源的极限熵 209
第五节 马尔柯夫（Markov）信源的极限熵 212
第六节 信源的剩余度与结构信息 238
第七节 扩展信道及其数学模型 241
第八节 无记忆扩展信道 244
第九节 扩展信道的平均交互信息量 250
第十节 无记忆扩展信道的信道容量 259
第十一节 独立并列信道的信道容量 263
习题 273
第四章 单维连续信源与信道 276
第一节 连续信源的相对熵 277
第二节 连续信道和平均交互信息量 279
第三节 几种连续信源的相对熵 288
第四节 相对熵的数学特性 291
第五节 最大相对熵定理 295
第六节 熵功率与信息变差 300
第七节 相对熵的变换 303
第八节 平均交互信息量的不变性 306
第九节 连续信道的数据处理定理 308
第十节 连续信源的信息测量 314
第十一节 连续信道的信道容量 321
第十二节 高斯加性信道的信道容量 326
习题 332
第五章 多维连续信源与信道 336
第一节 随机过程的离散化 336
第二节 多维连续信源的相对熵 352
第三节 最大多维相对熵定理 360
第四节 多维相对熵的变换 365
第五节 无记忆信道的平均交互信息量 370
第六节 高斯白噪声加性信道的容量 377
第七节 独立并列高斯加性信道容量的最大化 389
习题 396
第六章 无失真信源编码 399
第一节 单义可译码 400
第二节 非延长码及其构成 402
第三节 单义可译定理 405
第四节 平均码长与码率 409
第五节 信源扩展与数据压缩 420
第六节 无失真信源编码定理 424
第七节 霍夫曼（Huffman）码 427
习题 444
第七章 抗干扰信道编码 447
第一节 译码规则和错误概率 447
第二节 最小错误概率译码准则 454
第三节 简单重复编码 462
第四节 信道编码的一般概念 467
第五节 汉明（Hamming）距离与最小误码率 471
第六节 抗干扰信道编码定理 486
习题 503
第八章 线性分组码 506
第一节 线性分组码的一般概念 506
第二节 线性分组码的代数结构 516
第三节 线性分组码的构成 537
第四节 一致校验矩阵 548
第五节 错误图样与伴随式 557
第六节 标准阵列与译码表 560
第七节 检纠能力与一致校验矩阵的关系 575
第八节 完备码 580
第九节 汉明（Hamming）码与扩展汉明码 588
习题 596
第九章 信息率—失真函数 600
第一节 平均交互信息量的下凸性 600
第二节 平均失真度 605
第三节 信息率—失真函数的定义 610
第四节R（D）函数的定义域 613
第五节R（D）函数的数学特性 629
第六节 二元离散信源的R（D）函数 633
第七节 等概离散信源的R（D）函数 641
第八节 离散信源R（D）函数的参量表述 656
第九节 二元离散信源R（D）函数的参量计算 662
第十节 高斯连续信源的R（D）函数 671
第十一节 连续信源R（D）函数的参量表述 680
第十二节 高斯连续信源R（D）函数的参量计算 684
第十三节R（D）函数的迭代计算 695
第十四节R（D）函数与信息价值 699
第十五节 广义信息率—失真函数 708
习题 716
第十章 限失真信源编码 719
第一节 离散无记忆扩展信源的R（D）函数 719
第二节 数据压缩的一般概念 732
第三节 限失真信源编码定理 745
习题 756
第十一章 信源—信道编码 757
第一节 信息传输速率的上界 757
第二节 信源—信道编码定理 760
习题 765
第十二章 网络信息理论 767
第一节 双输入单输出信道的信道容量 767
第二节 离散二址接入信道的容量计算 771
第三节 高斯加性二址接入信道的容量计算 780
第四节 单输入双输出信道的信道容量 783
第五节 高斯链式接续信道的容量计算 786
习题 792
附录《供熵函数计算用的几种函数表》 794
参考文献 797