引言 1
第一章 单符号离散信源 1
第一节 信源的数学模型 1
第二节 信源符号的自信量 3
第三节 信源的信息熵 7
第四节 信息熵的代数性质 12
第五节 信息熵的解析性质 20
第六节 信息熵的最大值 26
第七节 熵函数的公理构成 31
第八节 加权熵及其数学特性 36
第九节 加权熵的公理构成 46
第十节 效用信息熵 62
习题 70
第一节 信道的数学模型 72
第二章 单符号离散信道 72
第二节 信道的交互信息量 76
第三节 条件交互信息量 82
第四节 平均交互信息量 89
第五节 平均交互信息量的非负性 95
第六节 平均交互信息量的极值性 98
第七节 平均交互信息量的不增性 105
第八节 平均交互信息量的上凸性 117
第九节 信道容量及其一般算法 121
第十节 几种无噪信道的信道容量 136
第十一节 几种对称信道的信道容量 140
第十二节 可逆矩阵信道的信道容量 152
第十三节 信道容量的迭代计算 156
习题 166
第一节 离散平稳信源的数学模型 171
第三章 多符号离散信源与信道 171
第二节 离散平稳无记忆信源的信息熵 174
第三节 离散平稳有记忆信源的信息熵 178
第四节 离散平稳有记忆信源的极限熵 189
第五节 马尔柯夫(Markov)信源的极限熵 192
第六节 信源的剩余度与结构信息 215
第七节 离散无记忆信道的数学模型 217
第八节 离散无记忆信道的信道容量 224
第九节 独立并列信道的信道容量 230
习题 234
第四章 单维连续信源与信道 237
第一节 相对熵与平均交互信息量 237
第二节 几种单维连续信源的相对熵 246
第三节 相对熵的极值性 249
第四节 相对熵的上凸性 253
第五节 最大相对熵定理 255
第六节 信息变差与熵功率 261
第七节 连续熵的变换 263
第八节 平均交互信息量的不变性 267
第九节 数据处理定理 269
第十节 连续信源的信息测量 275
第十一节 连续信道的信道容量 281
第十二节 高斯加性信道的容量 286
习题 291
第五章 多维连续信源与信道 295
第一节 随机过程的离散化 295
第二节 多维连续信源的熵 314
第三节 多维熵的最大值 324
第四节 多维熵的变换 329
第五节 多维连续信道的传输特性 334
第六节 高斯白噪声 339
第七节 高斯白噪声加性信道的容量 342
第八节 独立并列信道的最大容量 350
习题 358
第六章 无失真信源编码 360
第一节 单义可译码 361
第二节 非延长码及其构成 363
第三节 单义可译定理 366
第四节 平均码长与有效性 371
第五节 平均码长的界限定理 375
第六节 信源扩展与数据压缩 382
第七节 无失真信源编码定理 387
第八节 霍夫曼(Huffman)有效码 390
习题 408
第七章 抗干扰信道编码 411
第一节 译码规则 411
第二节 译码规则的选择准则 415
第三节 信道编码的编码原则 420
第四节 抗干扰信道编码定理 429
第五节 分组码及其检纠能力 439
第六节 线性分组码的代数结构 451
第七节 线性分组码及其生成矩阵 472
第八节 一致校验矩阵与伴随式 481
第九节 标准阵列与译码表 493
第十节 检纠能力与一致校验矩阵的关系 509
第十一节 完备码 515
第十二节 汉明码与扩展汉明码 522
习题 531
第八章 限失真信源编码 537
第一节 平均交互信息量的下凸性 537
第二节 平均失真度 543
第三节 信息率失真函数R(D)与数据压缩 548
第四节 R(D)函数的数学特性 564
第五节 离散信源的R(D)函数 569
第六节 离散信源R(D)函数的参量表述 580
第七节 二元离散信源R(D)函数的参量计算 587
第八节 正向与反向试验信道的转换 592
第九节 R(D)函数的迭代计算 597
第十节 高斯连续信源的R(D)函数 601
第十一节 连续信源R(D)函数的参量表述 610
第十二节 高斯连续信源R(D)函数的参量计算 613
第十三节 正向与反向高斯加性试验信道的转换 619
第十四节 限失真信源编码定理 627
第十五节 R(D)函数与信息价值 642
第十六节 广义信息率失真函数 652
习题 661
第九章 网络信息理论 665
第一节 双输入单输出信道的信道容量 665
第二节 离散二址接入信道的容量界限 669
第三节 高斯加性二址接入信道的容量界限 678
第四节 单输入双输出信道的信道容量 685
第五节 高斯链式接续信道的容量界限 688
第六节 相关信源的边信息与公信息 694
习题 697
附录《供熵函数计算用的几种函数表》 699
参考文献 702