第1章 绪论 1
第2章 离散信息的度量 4
2.1知识要点 4
2.1.1自信息和互信息 4
2.1.2信息熵 6
2.1.3平均互信息 9
2.2例题精解 11
2.3习题解答 15
第3章 离散信源 34
3.1知识要点 34
3.1.1离散信源的分类与数学模型 34
3.1.2离散无记忆信源的扩展 35
3.1.3离散平稳信源的熵 35
3.1.4有限状态马尔可夫链 36
3.1.5马尔可夫信源 37
3.1.6信源的相关性与剩余度 38
3.2例题精解 38
3.3习题解答 42
第4章 连续信息与连续信源 64
4.1知识要点 64
4.1.1连续随机变量的熵 64
4.1.2离散时间高斯随机变量的熵 65
4.1.3连续最大熵定理 66
4.1.4连续随机变量之间的平均互信息 67
4.1.5离散集与连续随机变量之间的互信息 67
4.1.6几种重要的连续信源 68
4.2例题精解 68
4.3习题解答 74
4.4补充题解 89
第5章 无失真信源编码 92
5.1知识要点 92
5.1.1概述 92
5.1.2定长码 93
5.1.3变长码 94
5.1.4最优编码 95
5.1.5几种实用的信源编码方法 96
5.2例题精解 97
5.3习题解答 103
5.4补充题解 119
第6章 离散信道及其容量 124
6.1知识要点 124
6.1.1基本概念 124
6.1.2单符号离散信道及其容量 125
6.1.3级联信道及其容量 126
6.1.4多维矢量信道及其容量 127
6.1.5信道容量的迭代算法 129
6.1.6有约束信道的容量 129
6.2例题精解 130
6.3习题解答 136
第7章 有噪信道编码 155
7.1知识要点 155
7.1.1基本概念 155
7.1.2最佳判判决与译码准则 156
7.1.3信道编码与最佳译码 157
7.1.4费诺不等式 157
7.1.5有噪信道编码定理 158
7.1.6纠错编码技术简介 159
7.2例题精解 160
7.3习题解答 166
7.4补充题解 181
第8章 波形信道 182
8.1知识要点 182
8.1.1离散时间连续信道 182
8.1.2加性噪声信道与容量 183
8.1.3 AWGN信道的容量 184
8.1.4有色高斯噪声信道 185
8.1.5数字调制系统的信道容量 186
8.2例题精解 186
8.3习题解答 190
第9章 信息率失真函数 204
9.1知识要点 204
9.1.1基本概念 204
9.1.2信息率失真函数定义 205
9.1.3限失真信源编码定理 205
9.1.4离散R（D）函数的性质与计算 205
9.1.5连续R（D）函数的性质与计算 206
9.1.6高斯信源的R（D）函数 207
9.1.7一般连续信源的R（D）函数 207
9.1.8有损数据压缩技术简介 207
9.2例题精解 207
9.3习题解答 213
9.4补充题解 232
第10章 网络信息论初步 235
10.1知识要点 235
10.1.1基本概念 235
10.1.2多址接入信道 236
10.1.3广播信道 237
10.1.4中继信道 237
10.1.5分布信源编码 237
10.2习题解答 238
第11章 信息理论方法及其应用 262
11.1知识要点 262
11.1.1离散信源熵的估计 262
11.1.2最大熵原理 262
11.1.3最小交叉熵原理 264
11.1.4信息理论方法的应用 265
11.2例题精解 265
11.3习题解答 267
期末考试模拟试题 277
期末考试模拟试题标准答案 279
参考文献 285