信息论与编码PDF电子书下载

第1章 绪论 1

1.1 信息的概念 1

1.1.1 信息的定义、特征与性质 1

1.1.2 信息的分类 3

1.1.3 信息、消息和信号的区别与联系 4

1.2 信息传输系统的组成及各部分的功能 4

1.2.1 模拟信息传输系统 4

1.2.2 数字信息传输系统 5

1.3 信息论研究的对象和内容 7

1.4 信息论发展的历史和趋势 9

第2章 信息的量度及离散信源 13

2.1 自信息量和条件自信息量 13

2.1.1 自信息量 13

2.1.2 条件自信息量 16

2.2 互信息量和条件互信息量 17

2.2.1 互信息量 17

2.2.2 互信息量的性质 18

2.2.3 条件互信息量 19

2.3 离散信源的信息量 19

2.3.1 信源的数学模型 19

2.3.2 信源的分类 20

2.3.3 平均信息量 22

2.4 熵的基本性质 33

2.5 消息序列的熵 38

2.5.1 离散无记忆信源 38

2.5.2 离散无记忆的扩展信源 39

2.5.3 离散平稳信源 42

2.5.4 马尔可夫信源 46

2.6 信源的相关性和剩余度 50

习题 53

第3章 信源编码 57

3.1 无失真信源编码 57

3.1.1 编码器 57

3.1.2 分组码 59

3.1.3 等长码和等长编码定理 61

3.1.4 变长码和变长编码定理 68

3.1.5 变长码的编码方法 75

3.2 限失真信源编码 85

3.2.1 失真测度 86

3.2.2 信息率失真函数 88

3.2.3 离散信源的信息率失真函数 91

3.2.4 限失真信源编码定理 98

3.2.5 连续信源的信息率失真函数 100

3.3 常用信源编码 102

3.3.1 矢量量化编码 102

3.3.2 预测编码 108

3.3.3 变换编码 113

3.3.4 传真编码 117

3.3.5 语音压缩编码 121

3.3.6 图像编码 126

习题 131

第4章 离散信道及信道容量 133

4.1 信道分类与描述 133

4.1.1 信道的分类 133

4.1.2 信道的描述 135

4.2 离散无记忆信道 136

4.2.1 离散信道的数学模型 136

4.2.2 单符号离散信道 137

4.3 信道传输的平均互信息 139

4.3.1 信道疑义度 139

4.3.2 平均互信息 140

4.4 平均互信息的特性 140

4.5 信道容量的概念及其计算方法 145

4.5.1 信道容量的定义 145

4.5.2 几种典型离散信道的信道容量 146

4.5.3 对称离散信道的信道容量 147

4.5.4 一般离散信道的信道容量 151

4.5.5 离散无记忆的扩展信道及其信道容量 154

4.5.6 串联信道和并联信道及其信道容量 160

4.6 信源与信道的匹配 165

习题 166

第5章 信道编码 168

5.1 信道编码的基本概念 168

5.1.1 信道编码在数字通信系统的地位和作用 168

5.1.2 信道编码的基本思想和分类 169

5.1.3 差错控制的基本方式 172

5.1.4 信道编码基本数学知识 174

5.2 有噪信道编码 175

5.2.1 噪声信道的编码问题 175

5.2.2 错误概率与编码方法 180

5.2.3 有噪信道编码定理 186

5.3 线性分组码 191

5.3.1 分组码的性质 191

5.3.2 生成矩阵与奇偶校验矩阵 192

5.3.3 几种典型的分组码 194

5.4 卷积码 204

5.4.1 卷积码的编码 204

5.4.2 卷积码的译码 210

5.5 纠正突发错误码 214

5.5.1 突发差错与纠突发差错的基本概念 214

5.5.2 法尔码 215

5.6 交织码 218

习题 222

第6章 信息工程中的数据保密 224

6.1 信息保密通信的模型 224

6.2 传统密码体制 225

6.2.1 单表代换密码 225

6.2.2 多表代换密码 227

6.2.3 多字母代换 231

6.2.4 转置密码 232

6.3 分组（块）密码 234

6.3.1 分组加密的基本概念 234

6.3.2 数据加密标准（DES） 236

6.4 公钥密码体制 243

6.4.1 公钥密钥的一般原理 243

6.4.2 RSA体制 244

习题 245

参考文献 247