第1章 绪论 1
1.1 信息论的形成和发展 1
1.2 信息理论研究的内容 2
1.3 通信系统的模型 4
1.4 信息论的应用 7
思考题 10
第2章 信源与信息熵 11
2.1 信源的描述与分类 11
2.1.1 无记忆信源 11
2.1.2 有记忆信源 13
2.1.3 马尔可夫信源 14
2.2 离散信源熵和互信息 20
2.2.1 自信息量 20
2.2.2 离散信源熵 22
2.2.3 互信息 26
2.2.4 数据处理中信息的变化 30
2.2.5 相对熵 32
2.2.6 熵的性质 32
2.3 离散序列信源的熵 35
2.3.1 离散无记忆信源的序列熵 35
2.3.2 离散有记忆信源的序列熵 36
2.4 连续信源的熵和互信息 40
2.4.1 幅度连续的单个符号信源熵 40
2.4.2 波形信源的熵 42
2.4.3 最大熵定理 42
2.5 信源的冗余度 43
本章小结 45
习题 47
第3章 信道与信道容量 52
3.1 信道的基本概念 52
3.1.1 信道的分类 52
3.1.2 信道的数学模型 53
3.1.3 信道容量的定义 56
3.2 离散单个符号信道及其容量 57
3.2.1 无干扰离散信道 57
3.2.2 对称离散无记忆信道 58
3.2.3 准对称离散无记忆信道 61
3.2.4 一般离散无记忆信道 63
3.3 离散序列信道及其容量 64
3.4 连续信道及其容量 66
3.4.1 连续单符号加性信道 66
3.4.2 多维无记忆加性连续信道 67
3.4.3 限时限频限功率加性高斯白噪声信道 70
3.5 多输入多输出信道及其容量 72
3.5.1 MIMO信道模型 72
3.5.2 MIMO信道容量 73
3.6 信源与信道的匹配 74
本章小结 75
习题 76
第4章 信息率失真函数 79
4.1 信息率失真函数的概念和性质 79
4.1.1 失真函数和平均失真 79
4.1.2 信息率失真函数R（D） 81
4.1.3 信息率失真函数的性质 83
4.1.4 信息率失真函数与信道容量 87
4.2 离散信源和连续信源的R（D）计算 87
本章小结 90
习题 90
第5章 信源编码 92
5.1 编码的概念 93
5.2 无失真信源编码定理 95
5.2.1 定长编码 96
5.2.2 变长编码 98
5.3 限失真信源编码定理 102
5.4 常用信源编码方法简介 103
5.4.1 哈夫曼编码 103
5.4.2 算术编码 108
5.4.3 LZ编码 111
5.4.4 游程编码 112
5.4.5 矢量量化编码 114
5.4.6 预测编码 115
5.4.7 变换编码 117
本章小结 120
习题 121
第6章 信道编码 124
6.1 有扰离散信道的编码定理 124
6.1.1 差错和差错控制系统分类 124
6.1.2 矢量空间与码空间 128
6.1.3 随机编码 130
6.1.4 信道编码定理 132
6.1.5 联合信源信道编码定理 134
6.2 纠错编译码的基本原理与分析方法 137
6.2.1 纠错编码的基本思路 137
6.2.2 译码方法——最优译码与最大似然译码 140
6.3 线性分组码 142
6.3.1 线性分组码的生成矩阵和校验矩阵 142
6.3.2 伴随式与标准阵列译码 145
6.3.3 码距、纠错能力、MDC码及重量谱 149
6.3.4 完备码 151
6.3.5 循环码 153
6.4 卷积码 157
6.4.1 卷积码的基本概念和描述方法 157
6.4.2 卷积码的最大似然译码——维特比算法 163
6.4.3 卷积码的性能限与距离特点 170
本章小结 173
习题 173
第7章 加密编码 176
7.1 加密编码的基础知识 176
7.1.1 加密编码中的基本概念 176
7.1.2 加密编码中的熵概念 179
7.2 数据加密标准（DES） 181
7.2.1 换位和替代密码 181
7.2.2 DES密码算法 183
7.2.3 DES密码的安全性 186
7.2.4 DES密码的改进 188
7.3 国际数据加密算法 189
7.3.1 算法原理 190
7.3.2 加密解密过程 190
7.3.3 算法的安全性 192
7.4 公开密钥加密法 192
7.4.1 公开密钥密码体制 193
7.4.2 RSA密码体制 194
7.4.3 报文摘要 196
7.4.4 公开密码体制的优缺点 199
7.5 通信网络中的加密 200
7.5.1 模拟通信加密 200
7.5.2 数字通信加密 200
7.6 信息安全和确认技术 202
7.6.1 信息安全的基本概念 202
7.6.2 数字签名 203
7.6.3 防火墙 205
7.6.4 密码学的应用实例 206
本章小结 209
习题 209
第8章 网络信息理论简介 211
8.1 概论 211
8.2 网络信道的分类 212
8.3 网络信道的信道容量域 214
8.3.1 离散多址接入信道 214
8.3.2 高斯多址接入信道 218
8.3.3 广播信道 220
8.4 网络中相关信源的信源编码 221
8.4.1 相关信源编码 221
8.4.2 具有边信息的信源编码 224
本章小结 227
习题 227
附录 本书所用主要符号及含义 230
部分习题参考答案 232
参考文献 241