第一篇 信息论基础 2
第1章 无失真信源与信息熵 2
1.1信源特性与分类 2
1.1.1信源的统计特性 2
1.1.2信源的描述与分类 2
1.2离散信源的信息熵 6
1.2.1信息熵和信息量的基本概念 6
1.2.2熵的数学性质 8
1.2.3熵的公理化结构 12
1.3离散序列信源的熵 13
1.3.1离散无记忆信源的序列熵H（U）与消息熵HL（U） 14
1.3.2离散有记忆信源的序列熵H（U）与消息熵HL（U） 14
1.4互信息 18
1.4.1单个消息的互信息 18
1.4.2消息序列的互信息I（U；V） 20
1.4.3信息不增性原理 22
1.5冗余度 23
1.6连续信源的熵与互信息 25
习题 33
第2章 限失真信源与信息率失真函数 38
2.1引言 38
2.2 R（D）函数的性质 41
2.3离散信源R（D）函数的计算 43
2.3.1等概率对称性失真信源 R（D）函数的计算 43
2.3.2一般情况下的参量表达式 46
2.3.3 R（D）函数的迭代算法 49
2.4连续（模拟）信源的信息率失真函数R（D） 51
习题 58
第3章 信道与信道容量 61
3.1信道的分类与描述 61
3.1.1信道的分类 61
3.1.2信道描述 62
3.2无干扰离散信道 63
3.3离散单个消息（符号）信道及其容量 67
3.4离散消息序列信道及其容量 73
3.4.1无记忆离散消息序列信道 73
3.4.2有记忆离散消息序列信道 74
3.5连续信道及其容量 75
3.5.1连续单个消息信道及其容量 75
3.5.2一般迭加性干扰的单消息连续信道 76
3.5.3限时限频限功率的白色高斯噪声信道 77
3.5.4有公共约束的连续消息序列信道 80
3.6信道容量代价函数C（F）及信道冗余度 82
3.6.1信道容量代价函数C（F） 82
3.6.2信道冗余度 83
3.7多用户信道 83
3.7.1引言 83
3.7.2多址信道 85
3.7.3广播信道 89
3.7.4相关信源的多用户信道 92
习题 93
第二篇 信息处理的实现方法 98
第4章 信息与通信系统的优化 98
4.1信息与通信系统的物理和数学模型 98
4.2信息与通信系统的单指标优化 102
习题 106
第5章 信源编码 107
5.1无失真信源编码 108
5.1.1等长编码定理 109
5.1.2变长编码定理 112
5.1.3最佳变长编码—哈夫曼编码 116
5.1.4算术编码 121
5.2限失真信源编码定理 124
5.3矢量量化编码 128
5.3.1最佳标量量化编码 128
5.3.2矢量量化编码 129
5.4预测编码 132
5.4.1预测编码的基本原理 132
5.4.2预测编码的基本类型 134
5.5变换编码 137
5.5.1正交变换的基本数学知识 137
5.5.2几种主要变换编码 138
5.5.3小波变换编码 147
5.6传真编码 148
5.6.1文件传真的基本特性 149
5.6.2三、四类传真机的实用化压缩编码 152
5.7语音压缩编码 158
5.7.1波形编码ADPCM基本原理 160
5.7.2参量编码的线性预测编码器LPC 162
5.7.3混合编码的各类方法 163
5.7.4低延迟码激励线性预测（LD-CELP）编码器 164
5.7.5共轭结构——代数码激励线性预测编码器 166
5.7.6第三代移动通信中的语音编码 167
5.7.7宽带语言编码 169
5.8图像编码 172
5.8.1第一代视频压缩编码 174
5.8.2第二代视频压缩编码 179
5.8.3新一代视频编码标准 185
习题 185
第6章 密码 189
6.1密码学的基本概念 189
6.2保密学的理论基础 193
6.3序列（流）密码 201
6.4分组（块）密码 210
6.5公开密钥密码 224
6.6认证系统 229
6.7模拟消息加密体制 236
6.8 GSM的鉴权与加密 242
习题 245
第7章 信道编码 249
7.1信道编码的基本概念 249
7.2线性分组码 254
7.2.1线性分组码的基本概念 254
7.2.2生成矩阵和监督矩阵 255
7.2.3对偶码 259
7.2.4系统码的编码与译码 260
7.2.5汉明码 264
7.3循环码 264
7.3.1循环码的基本概念 264
7.3.2循环码的生成多项式和生成矩阵 266
7.3.3循环码的监督多项式和监督矩阵 268
7.3.4编码与译码电路 268
7.3.5循环码的增长与缩短 272
7.3.6循环冗余校验 272
7.4 BCH码 273
7.5卷积码 280
7.5.1卷积码编码 281
7.5.2卷积码的译码 286
7.5.3卷积码的距离特性 294
7.6纠正突发错误码 294
7.7交织码 299
7.8级连码 302
7.9信道编码的性能界限 305
7.9.1信道编码定理 305
7.9.2信道编码的构造性能界限 309
7.10近仙农限的信道编码 313
7.10.1产生背景 313
7.10.2 Turbo码编、译码结构 315
7.10.3 LDPC码 317
7.11高效率信道编码TCM 319
7.11.1 TCM提出的背景 319
7.11.2两类距离的概念 321
7.11.3 Ungerboeck子集划分理论 322
7.11.4 TCM的实现 324
7.11.5 TCM的应用 325
习题 327
附录 习题参考答案 330