信息论导引 第2版PDF电子书下载

第一章 引论 1

1.1 信息论的起源和发展史 1

1.2 信息的定义 2

1.3 信息的特征和性质 3

1.3.1 信息的特征 3

1.3.2 信息的性质 5

1.4 现代信息技术的含义和基本内容 6

1.4.1 现代信息技术的含义 6

1.4.2 信息技术的基本内容 6

1.4.3 在通信领域中信息技术的基本内容 7

1.5 预备知识 8

1.5.1 概率论的基本知识 8

1.5.2 随机变量及其统计特征简介 13

习题一 19

第二章 信息论的基本概念 20

2.1 信源的分类 20

2.2 自信息量 21

2.2.1 自信息量 21

2.2.2 联合自信息量 22

2.2.3 条件自信息量 22

2.3 互信息量 24

2.3.1 互信息量 24

2.3.2 互信息量的性质 24

2.3.3 条件互信息量 26

2.4 平均自信息量——熵 26

2.4.1 熵的定义 26

2.4.2 条件熵 28

2.4.3 共熵 29

2.4.4 熵函数的性质 30

2.5 平均互信息量 34

2.5.1 平均互信息量的定义 34

2.5.2 平均互信息量的性质 35

2.5.3 数据处理定理 37

2.5.4 平均互信息量的物理意义 38

2.6 离散信源的熵 39

2.6.1 各种离散信源的熵 39

2.6.2 各种离散信源的时间熵 44

2.7 连续信源的熵 45

2.7.1 连续信源的熵 45

2.7.2 几种特殊连续信源的熵 47

2.7.3 连续随机变量的联合熵、条件熵以及平均互信息量 49

习题二 51

第三章 无失真信源编码 55

3.1 信源编码概述 55

3.1.1 信源最佳化 56

3.1.2 概率均匀化——最佳编码 56

3.1.3 编码器的描述 57

3.1.4 码的唯一可译性 59

3.2 消息的冗余度 62

3.2.1 相对熵 62

3.2.2 冗余度 62

3.2.3 内熵 62

3.3 定长编码定理和定长编码方法 63

3.3.1 定长无失真编码定理 63

3.3.2 定长编码的效率 64

3.4 变长编码定理 66

3.5 变长编码方法 67

3.5.1 霍夫曼编码 68

3.5.2 费诺编码 73

3.5.3 香农编码 74

3.6 一种实用的无失真信源编码——游程编码 75

3.6.1 游程编码的基本原理 76

3.6.2 MH码及其应用 77

习题三 80

第四章 信道 82

4.1 信道的分类 82

4.2 无扰离散信道 83

4.2.1 无扰离散信道上的信息传输速率 83

4.2.2 无扰离散信道上的信道容量 83

4.3 有扰离散信道 87

4.3.1 有扰离散信道的统计特性 87

4.3.2 消息在有扰离散信道上的信息传输速率 92

4.3.3 有扰离散信道上的信道容量 95

4.3.4 译码方案 105

4.3.5 有扰离散信道的编码定理 107

4.4 多用户信道 111

4.4.1 多址接入信道 112

4.4.2 广播信道 117

4.4.3 相关信源的多用户信道 120

习题四 123

第五章 离散信源的限失真信源编码 126

5.1 引言 126

5.2 失真函数和信息率失真函数 127

5.2.1 失真函数 127

5.2.2 信息率失真函数 130

5.2.3 信息率失真函数与信息价值 135

5.2.4 信息率失真函数与信道容量 138

5.2.5 限失真信源编码定理 139

5.3 信息率失真函数的性质 139

5.4 信息率失真函数的计算 141

5.4.1 具有等概率、对称失真信源的信息率失真函数R（D）计算 142

5.4.2 信息率失真函数的参量表达式计算 145

5.4.3 信息率失真函数的迭代计算 148

5.5 连续信源的信息率失真函数 150

习题五 154

第六章 信道编码 155

6.1 概述 155

6.1.1 信道编码的基本概念 155

6.1.2 信道编码的基本原理 156

6.1.3 纠错码分类 157

6.2 线性分组码 159

6.2.1 线性分组码简述 159

6.2.2 线性分组码及其检错、纠错能力的获得 163

6.2.3 线性分组码的检错、纠错能力 166

6.2.4 汉明码 168

6.3 循环码 172

6.3.1 循环码的基本概念 172

6.3.2 循环码的生成矩阵和校验矩阵 174

6.4 卷积码 176

习题六 179

第七章 信息加密技术 180

7.1 概述 180

7.2 密码通信的基本模型 180

7.2.1 通信模型 180

7.2.2 密码体制的基本要求 182

7.2.3 常见威胁 184

7.2.4 保密系统的保密性与随机性 185

7.3 古典密码 189

7.3.1 单表密码 189

7.3.2 多表密码 193

7.3.3 换位密码 195

7.3.4 线性反馈移位寄存器密码 199

7.3.5 序列密码和分组密码 202

7.4 数据加密标准（DES） 204

7.4.1 DES算法的基本原理 204

7.4.2 DES算法的运算过程 205

7.4.3 DES算法运用应注意的问题 210

7.5 现代密码学研究的趋势 210

7.5.1 公钥密码 211

7.5.2 分组密码 211

7.5.3 序列密码 212

7.5.4 Hash函数 213

7.5.5 密钥管理 213

7.5.6 PKI和VPN 214

7.5.7 量子密码 214

习题七 215

参考文献 216