第1章 绪论 1
1.1 信息论的形成与发展 1
1.2 通信系统的模型 2
1.3 信息论研究的内容 4
第2章 信源与信源熵 6
2.1 信源的数学模型和分类 6
2.1.1 信源输出的消息由随机变量描述 7
2.1.2 信源输出的消息由随机矢量描述 8
2.2 离散信源的熵与互信息 10
2.2.1 非平均信息量 10
2.2.2 平均信息量 16
2.3 熵的性质 26
2.4 离散信源序列的熵 29
2.4.1 消息序列信息量的一般表达式 29
2.4.2 离散无记忆信源的熵 31
2.4.3 离散有记忆信源的熵 31
2.4.4 马尔可夫信源的熵 38
2.5 连续信源的熵与互信息量 41
2.5.1 幅度连续单个符号信源 42
2.5.2 波形信源 43
2.5.3 最大熵定理 44
2.6 信源相关性与冗余度 45
小结 47
习题 47
第3章 信道与信道容量 50
3.1 信道分类 50
3.2 单符号离散信道及其容量 51
3.2.1 数学模型 51
3.2.2 信道容量 53
3.2.3 离散信道容量的迭代算法 64
3.3 离散序列信道及其容量 68
3.4 信源与信道的匹配 71
3.5 连续信道及其容量 72
3.5.1 连续单符号加性信道 72
3.5.2 多维无记忆加性连续信道 74
3.5.3 加性高斯白噪声波形信道 76
小结 78
习题 78
第4章 离散信源编码理论 81
4.1 信源编码的基本概念 81
4.2 渐近等同分割性 83
4.3 信源无失真编码 86
4.4 信息率失真函数及性质 95
4.4.1 失真测度 95
4.4.2 信息率失真函数的定义 99
4.4.3 信息率失真函数的性质 100
4.5 信息率失真函数的计算 105
4.6 信息率失真函数的迭代算法 112
4.7 香农第三定理 113
小结 115
习题 116
第5章 信源编码技术 118
5.1 最佳变长编码 118
5.1.1 香农码 118
5.1.2 费诺码 120
5.1.3 哈夫曼码 121
5.2 编码的实现 124
5.3 编码方法简介 127
5.3.1 游程编码 127
5.3.2 算术编码 129
5.4 变换编码 133
5.4.1 变换基本原理 133
5.4.2 常用变换 134
5.5 现代静态图像编码技术 141
5.5.1 编码原理 141
5.5.2 编码效率 142
5.5.3 一般框架 142
5.5.4 EZW算法 143
5.5.5 SPIHT算法 145
5.5.6 图像压缩国际标准JPEG2000 147
5.6 星载图像压缩系统设计 152
5.6.1 小波变换的硬件实现 153
5.6.2 SPIHT的硬件实现 154
5.6.3 JPEG2000的硬件实现 155
小结 157
习题 157
第6章 有噪离散信道编码 160
6.1 差错、差错控制系统分类 160
6.2 纠错码的基本概念 163
6.3 译码规则 166
6.3.1 两种译码规则 166
6.3.2 错误译码概率 168
6.3.3 费诺不等式 171
6.4 联合典型序列与联合渐进等分割定理 173
6.5 香农第二定理 175
6.5.1 有噪信道编码定理 175
6.5.2 错误概率的上界 178
小结 179
习题 179
第7章 信道编码技术 181
7.1 线性分组码 181
7.1.1 生成矩阵和校验矩阵 183
7.1.2 一些特殊的线性分组码 186
7.1.3 循环码 188
7.1.4 BCH码与RS码 195
7.1.5 线性分组码的硬判决译码 196
7.2 卷积码 200
7.2.1 卷积码编码及描述方式 201
7.2.2 维特比译码 204
7.2.3 卷积码译码错误概率分析 209
7.2.4 删余卷积码 213
7.2.5 码率匹配删余卷积码（RCPC） 214
7.3 TCM码与级联码 215
7.3.1 TCM码 215
7.3.2 级联码 217
7.4 Turbo码和LDPC码 219
7.4.1 Turbo码 219
7.4.2 LDPC码 223
小结 225
习题 226
参考文献 228