引言 1
第一章 单符号离散信源 1
第一节 信源的数学模型 1
第二节 信源符号的自信量 2
第三节 信源的信息熵 6
第四节 信息熵的代数性质 10
第五节 信息熵的解析性质 18
第六节 信息熵的最大值 23
第七节 熵函数的公理构成 27
第八节 加权熵及其数学特性 31
第九节 加权熵的公理构成 40
第十节 效用信息熵 54
习题 61
第一节 信道的数学模型 63
第二章 单符号离散信道 63
第二节 交互信息量 66
第三节 条件交互信息量 71
第四节 平均交互信息量 77
第五节 平均交互信息量的非负性 83
第六节 平均交互信息量的极值性 85
第七节 平均交互信息量的不增性 91
第八节 平均交互信息量的上凸性 102
第九节 信道容量及其一般算法 105
第十节 几种无噪信道的信道容量 117
第十一节 几种对称信道的信道容量 121
第十二节 可逆矩阵信道的信道容量 131
第十三节 信道容量的迭代计算 135
习题 143
第一节 离散平稳信源的数学模型 149
第三章 多符号离散信源与信道 149
第二节 离散平稳无记忆信源的信息熵 151
第三节 离散平稳有记忆信源的信息熵 155
第四节 离散平稳有记忆信源的极限熵 165
第五节 马尔柯夫(Markov)信源的极限熵 168
第六节 信源的剩余度与结构信息 186
第七节 离散无记忆信道的数学模型 188
第八节 离散无记忆信道的信道容量 194
第九节 独立并列信道的信道容量 198
习题 201
第四章 单维连续信源与信道 204
第一节 相对熵与平均交互信息量 204
第二节 几种单维连续信源的相对熵 212
第三节 相对熵的极值性 215
第四节 相对熵的上凸性 218
第五节 最大相对熵定理 220
第六节 信息变差与熵功率 225
第七节 连续熵的变换 227
第八节 平均交互信息量的不变性 230
第九节 数据处理定理 232
第十节 连续信源的信息测量 238
第十一节 连续信道的信道容量 243
第十二节 高斯加性信道的容量 247
习题 252
第五章 多维连续信源与信道 255
第一节 随机过程的离散化 255
第二节 多维连续信源的熵 271
第三节 多维熵的最大值 280
第四节 多维熵的变换 283
第五节 多维连续信道的传输特性 287
第六节 高斯白噪声 291
第七节 高斯白噪声加性信道的容量 294
第八节 独立并列信道的最大容量 299
习题 305
第六章 无失真信源编码 307
第一节 单义可译码 308
第二节 非延长码及其构成 310
第三节 单义可译定理 312
第四节 平均码长与有效性 316
第五节 平均码长的界限定理 320
第六节 信源扩展与数据压缩 325
第七节 无失真信源编码定理 330
第八节 霍夫曼(Huffman)有效码 333
习题 349
第七章 抗干扰信道编码 351
第一节 译码规则 351
第二节 译码规则的选择准则 354
第三节 信道编码的编码原则 359
第四节 抗干扰信道编码定理 366
第五节 纠错码及其检纠能力 375
第六节 线性分组码的代数结构 384
第七节 线性分组码及其生成矩阵 402
第八节 一致校验矩阵与伴随式 410
第九节 标准阵列与译码表 420
第十节 检纠能力与一致校验矩阵的关系 435
第十一节 完备码 439
第十二节 汉明码与扩展汉明码 446
习题 453
第八章 限失真信源编码 458
第一节 信息传输率与信道的关系 458
第二节 平均失真度 461
第三节 信息率失真函数R(D)与数据压缩 465
第四节 R(D)函数的数学特性 479
第五节 离散信源的R(D)函数 483
第六节 离散信源R(D)函数的参量表述 492
第七节 二元离散信源R(D)函数的参量计算 497
第八节 前向与反向试验信道的转换 502
第九节 R(D)函数的迭代计算 506
第十节 高斯连续信源的R(D)函数 509
第十一节 连续信源R(D)函数的参量表述 516
第十二节 高斯连续信源R(D)函数的参量计算 519
第十三节 前向与反向高斯加性试验信道的转换 525
第十四节 限失真信源编码定理 531
第十五节 R(D)函数与信息价值 544
第十六节 广义信息率失真函数 552
习题 560
第九章 网络信息理论 563
第一节 双输入单输出信道的信道容量 563
第二节 离散二址接入信道的容量界限 566
第三节 高斯加性二址接入信道的容量界限 574
第四节 单输入双输出信道的信道容量 580
第五节 高斯链式接续信道的容量界限 583
第六节 相关信源的边信息与公信息 589
习题 592
附录 《供熵函数计算用的几种函数表》 593
参考文献 596