第1章 概论 1
1.1 信息的概念和分类 1
1.1.1 信息的概念 1
1.1.2 信息的分类 4
1.2 信息论的起源和发展 4
1.2.1 信息论创立的理论基础和技术条件 4
1.2.2 信息论的诞生和发展现状 5
1.2.3 信息论的未来发展趋势 6
1.3 信息论的研究内容 7
1.3.1 通信系统模型 7
1.3.2 信息论研究内容 7
思考题 8
第2章 离散信源熵 9
2.1 基本概念 9
2.2 离散信源熵的基本概念和性质 9
2.2.1 单符号离散信源的数学模型 10
2.2.2 自信息量及其性质 10
2.2.3 信源熵及其性质 13
2.3 多符号离散平稳信源熵 19
2.3.1 多符号离散平稳信源的数学模型 19
2.3.2 离散平稳无记忆信源熵 20
2.3.3 离散平稳有记忆信源熵 22
2.3.4 马尔可夫信源的极限熵 25
2.3.5 冗余度、自然语信源及信息变差 29
习题 31
第3章 无失真离散信源编码 33
3.1 基本概念 33
3.2 离散无失真信源编码定理 33
3.2.1 定长编码定理 34
3.2.2 变长编码定理 35
3.2.3 码字唯一可译条件 36
3.3 香农编码 38
3.4 费诺编码 39
3.5 赫夫曼编码 40
3.6 游程组合编码 44
习题 47
第4章 离散信道容量 49
4.1 互信息量和平均互信息量 49
4.1.1 单符号离散信道的数学模型 49
4.1.2 互信息量及其性质 49
4.1.3 平均互信息量及其性质 52
4.1.4 各种熵之间的关系 62
4.2 单符号离散信道的信道容量 63
4.2.1 单符号离散信道容量定义 63
4.2.2 几种特殊离散信道的信道容量 64
4.2.3 离散信道容量的一般计算方法 69
4.3 多符号离散信道的信道容量 71
4.3.1 多符号离散信道的数学模型 71
4.3.2 多符号离散信道容量定义 72
4.3.3 离散无记忆扩展信道的信道容量 73
4.3.4 独立并联信道的信道容量 75
4.4 网络信息论 76
4.4.1 多址接入信道的信道容量 77
4.4.2 广播信道的信道容量 79
4.4.3 相关信源的边信息和公信息 80
习题 82
第5章 纠错编码 85
5.1 纠错编码的基本概念 85
5.1.1 差错控制系统模型及分类 85
5.1.2 纠错编码分类 86
5.1.3 译码准则 87
5.1.4 信道编码定理 88
5.2 线性分组码 88
5.2.1 线性分组码的基本概念 88
5.2.2 线性分组码的编码 88
5.2.3 线性分组码的译码 89
5.2.4 典型码例 92
5.3 循环码 95
5.3.1 循环码的基本概念 95
5.3.2 循环码的描述 96
5.3.3 循环码的伴随多项式与检错 101
5.3.4 BCH码与RS码 102
5.4 卷积码 104
5.4.1 卷积码的矩阵描述 104
5.4.2 卷积码的多项式描述 107
5.4.3 卷积码的状态转移图与栅格描述 109
5.4.4 维特比（Viterbi）译码算法 112
习题 117
第6章 连续信源熵和信道容量 121
6.1 连续信源熵 121
6.1.1 连续信源熵的定义 121
6.1.2 几种特殊连续信源的信源熵 123
6.1.3 连续信源熵的性质和定理 125
6.2 熵功率 129
6.3 连续信道的信道容量 131
6.3.1 连续信道的数学模型及信道容量定义 131
6.3.2 加性连续信道容量计算和香农公式 131
习题 133
第7章 信息率失真函数 135
7.1 基本概念 135
7.1.1 失真函数与平均失真度 136
7.1.2 信息率失真函数的定义 139
7.1.3 信息率失真函数的性质 140
7.2 离散信源信息率失真函数 143
7.2.1 离散信源信息率失真函数的参量表达式 144
7.2.2 二元及等概率离散信源的信息率失真函数 146
7.3 连续信源信息率失真函数 150
7.3.1 连续信源信息率失真函数的参量表达式 150
7.3.2 高斯信源的信息率失真函数 151
7.4 信息价值 154
7.5 信道容量与信息率失真函数的比较 157
习题 157
第8章 限失真信源编码 159
8.1 基本概念 159
8.2 保真度准则下的信源编码定理 159
8.3 量化编码 160
8.3.1 最佳标量量化编码 160
8.3.2 矢量量化编码 164
8.4 相关信源编码 167
8.4.1 预测编码 167
8.4.2 差值编码 169
8.5 变换编码 172
8.5.1 子带编码 172
8.5.2 小波变换 173
习题 175
第9章 密码安全性的信息论测度方法 177
9.1 基本知识 177
9.1.1 保密通信系统模型 177
9.1.2 密码基本概念 178
9.2 密码算法的安全性测度 178
9.2.1 完善保密性 179
9.2.2 唯一解距离 180
9.3 古典代替密码的安全性分析 180
9.3.1 加法密码的安全性分析 181
9.3.2 乘法密码的安全性分析 183
9.3.3 仿射密码的安全性分析 185
9.4 边信息泄露的互信息分析 186
9.4.1 数据加密标准简介 186
9.4.2 DES算法的边信道安全性分析 188
习题 191
参考文献 192