第一章绪论 1
1.1信息的基本概念 1
1.1.1 信息概念的复杂性 1
目录 1
1.1.2信息的定义 3
1.2信息论的研究目的和内容 4
1.2.1 信息传输基本模型 4
1.2.2 信息论研究的内容 6
1.2.3 目前信息论的主要研究成果 7
1.3.1 信息论发展简史 9
1.3信息论的发展历程与应用概述 9
1.3.2信息论的应用 12
习题 15
第二章信息的度量 16
2.1信源模型 16
2.2信息的描述 17
2.3不确定性与信息 18
2.3.1 自信息量 19
2.3.2联合自信息量 19
2.3.3条件自信息量 20
2.3.4 自信息量的性质和相互关系 21
2.3.5 互信息量及其性质 22
2.4离散随机变量的（统计）平均不确定性度量——离散熵 25
2.4.1 离散熵 25
2.4.2 离散熵的性质 27
2.5联合熵和条件熵 29
2.5.1 联合熵 30
2.5.2 条件熵 30
2.5.3 各类熵之间的关系 30
2.6平均互信息量及其性质 31
2.7离散无记忆信源的扩展 32
2.8离散有记忆信源的熵 34
2.9马尔可夫信源的信息熵 34
2.9.1 马尔可夫链 35
2.9.2马尔可夫信源 36
2.9.3 马尔可夫信源的信息熵 38
2.10离散信源的信息（速）率和信息含量效率 40
2.11连续随机变量的熵和平均互信息量 40
2.11.1连续随机变量的熵 41
2.11.2连续随机变量的联合熵、条件熵以及平均互信息量 43
2.11.3微分熵的极大化问题 44
2.11.4连续信源的熵功率 47
本章主要概念 47
习题 49
第三章信道模型和信道容量 53
3.1信道模型与信道分类 53
3.2离散无记忆信道的数学模型 54
3.3概率的计算问题 55
3.4信道的疑义度、散布度和平均互信息 57
3.4.1信道的疑义度 57
3.4.2信道的散布度 59
3.4.3信道的平均互信息 60
3.5信道容量 63
3.5.1信道容量的定义 63
3.5.2 离散无噪信道的信道容量 64
3.5.3 离散对称信道 67
3.5.4 一般DMC达到信道容量的充要条件 72
3.5.5信道容量的迭代算法 75
3.6扩展信道及其信道容量 76
3.6.1 扩展信道的数学模型 77
3.6.2扩展信道的平均互信息量和信道容量 78
3.7信道的组合 80
3.7.1 串联信道 80
3.7.2独立并联信道 81
3.8信源与信道的匹配 82
3.9连续信道及其信道容量 82
3.9.1连续信道的数学模型 83
3.9.2加性高斯噪声信道的信道容量 84
3.9.3 一般加性噪声信道的信道容量的界 86
3.10波形信道及其信道容量 88
本章主要概念 91
习题 94
第四章离散无记忆信源无失真编码 97
4.1信源编码概论 98
4.2码的惟一可译性 100
4.2.1 常见码及其惟一可译性 100
4.2.2码树和Kraft不等式 101
4.3定长编码定理和定长编码方法 103
4.4变长编码定理 106
4.5变长编码方法 107
4.5.1霍夫曼编码 107
4.5.2 费诺编码 113
4.5.3香农编码 114
4.6几种实用的无失真信源编码 115
4.6.1 游程编码 115
4.6.2算术编码 119
4.6.3基于字典的编码 122
本章主要概念 124
习题 125
5.1译码规则与错误概率 128
第五章有噪信道编码 128
5.2两种典型的译码规则 130
5.3平均差错率与信道编码 133
5.3.1“简单重复”编码 133
5.3.2对符号串编码 135
5.4汉明距离 137
5.5有噪信道编码定理 140
5.5.1联合典型序列 140
5.5.2有噪信道编码定理的证明 142
5.6 Fano不等式和有噪信道编码逆定理 144
5.7.1 线性分组码的生成矩阵和校验矩阵 146
5.7线性分组码 146
5.7.2 汉明距离和码的纠、检错能力 148
5.7.3线性码的伴随式与伴随式译码 150
本章主要概念 151
习题 153
第六章限失真信源编码 154
6.1失真测度 154
6.2信息率失真函数及其性质 156
6.2.1 信息率失真函数的定义 156
6.2.2信息率失真函数的性质 157
6.3限失真信源编码定理 159
6.4信息率失真函数的计算 160
6.4.1 离散信源信息率失真函数的参量表示计算方法 160
6.4.2 离散信源信息率失真函数的迭代计算方法 167
本章主要概念 170
习题 171
第七章网络信息论基础 173
7.1概论 173
7.2网络信道的分类 174
7.3典型信源编码模型 176
7.4多随机变量联合典型序列 177
7.5相关信源编码 180
7.6多址接入信道 183
7.7高斯多址接入信道 187
7.8广播信道 190
7.9 中继信道 194
7.10具有边信息的信源编码和数据压缩 195
本章主要概念 197
习题 199
第八章信息安全与密码学基础 201
8.1信息安全概述 201
8.2.1开放系统互联OSI模型 202
8.2网络模型与安全服务功能 202
8.2.2 安全分层原则 203
8.2.3 安全服务功能 203
8.2.4 网络安全对策 205
8.3密码学基础知识 207
8.3.1基本术语 207
8.3.2代替密码 209
8.4密码算法的数学背景 212
8.4.1 信息论 212
8.4.2复杂性理论 214
8.4.3 数论基础 215
8.5.1 数据加密标准的开发 218
8.5.2DES算法概要 218
8.5数据加密标准（DES） 218
8.5.3 初始置换 219
8.5.4 密码运算函数f（R,K） 219
8.5.5 密钥置换 219
8.5.6 扩展置换 221
8.5.7 S盒替代 221
8.5.8 P盒置换 222
8.5.10 DES的安全性 223
8.5.9逆初始置换 223
8.5.11 DES的硬件实现 225
8.6公开密钥算法 225
8.6.1 公开密钥密码体制 225
8.6.2 背包公钥密码 225
8.6.3RSA公钥加密 227
8.6.4 数字签名 230
本章主要概念 232
习题 234
参考书目 236