信息理论与编码学习指导PDF电子书下载

第1章 绪论 1

1.1基本要求 1

1.2学习要点 1

1.2.1信息的基本概念 1

1.2.2信息论的研究对象 2

1.2.3信息论的发展历程 3

1.2.4信息论的主要研究内容 4

1.3教材习题及参考答案 5

1.4测验题及参考答案 7

1.4.1 测验题 7

1.4.2测验题参考答案 8

第2章 信息的度量 9

2.1基本要求 9

2.2学习要点 9

2.2.1信源的分类 9

2.2.2信源的数学模型 10

2.2.3离散信源的自信息 11

2.2.4离散信源的互信息量及其性质 12

2.2.5离散信源熵 12

2.2.6联合嫡和条件嫡 14

2.2.7各类嫡之间的关系 14

2.2.8平均互信息量及其性质 14

2.2.9离散无记忆扩展信源的嫡 15

2.2.10离散有记忆信源的嫡 15

2.2.11马尔可夫信源的信息嫡 16

2.2.12离散信源的信息率和信息含量效率 16

2.2.13连续信源的微分嫡和平均互信息量 17

2.3教材习题及参考答案 18

2.4测验题及参考答案 46

2.4.1 测验题 46

2.4.2测验题参考答案 48

2.5实验题及参考程序 54

2.5.1实验题 54

2.5.2实验题参考程序 54

第3章 信道模型和信道容量 58

3.1基本要求 58

3.2学习要点 58

3.2.1信道的分类 58

3.2.2信道的数学模型 59

3.2.3信道的疑义度、散布度和平均互信息 60

3.2.4信道容量 61

3.2.5信道的组合 64

3.2.6信道绝对剩余度 65

3.2.7连续信道的信道容量 65

3.2.8波形信道及其信道容量 66

3.3教材习题及参考答案 67

3.4测验题及参考答案 86

3.4.1 测验题 86

3.4.2测验题参考答案 89

3.5实验题及参考程序 95

3.5.1实验题 95

3.5.2实验题参考程序 95

第4章 离散无记忆信源无失真编码 98

4.1基本要求 98

4.2学习要点 98

4.2.1信源编码的基本术语 98

4.2.2信源编码的基本概念 99

4.2.3定长无失真编码定理 99

4.2.4无失真变长编码定理（香农第一定理） 100

4.2.5变长编码方法 100

4.2.6几种实用的无失真信源编码 101

4.3教材习题及参考答案 105

4.4测验题及参考答案 119

4.4.1测验题 119

4.4.2测验题参考答案 122

4.5实验题及参考程序 133

4.5.1实验题 133

4.5.2实验题参考程序 133

第5章 有噪信道编码 137

5.1基本要求 137

5.2学习要点 137

5.2.1信道译码函数与平均差错率 137

5.2.2两种典型的译码规则 138

5.2.3信道编码对平均差错率和信息率的影响 139

5.2.4最小汉明距离译码规则 141

5.2.5有噪信道编码定理（香农第二定理） 142

5.2.6线性分组码 142

5.3教材习题及参考答案 143

5.4测验题及参考答案 152

5.4.1测验题 152

5.4.2测验题参考答案 154

5.5实验题及参考程序 158

5.5.1实验题 158

5.5.2实验题参考程序 158

第6章 限失真信源编码 162

6.1基本要求 162

6.2学习要点 162

6.2.1失真测度 162

6.2.2信息率失真函数及其性质 163

6.2.3限失真信源编码定理 165

6.2.4信息率失真函数的计算 166

6.3教材习题及参考答案 168

6.4测验题及参考答案 176

6.4.1测验题 176

6.4.2测验题参考答案 178

6.5实验题及参考程序 182

6.5.1实验题 182

6.5.2实验题参考程序 183

第7章 网络信息论基础 185

7.1基本要求 185

7.2学习要点 185

7.2.1网络信道的分类 185

7.2.2网络信源编码模型 186

7.2.3多随机变量联合典型序列 187

7.2.4相关信源编码定理 187

7.2.5多址接入信道 187

7.2.6高斯多址接入信道 188

7.2.7广播信道 188

7.2.8中继信道 189

7.2.9具有边信息的信源编码定理 189

7.3教材习题及参考答案 190

7.4测验题及参考答案 196

7.4.1测验题 196

7.4.2测验题参考答案 198

第8章 信息安全与密码学基础 203

8.1基本要求 203

8.2学习要点 203

8.2.1信息安全的要素 203

8.2.2安全服务功能 203

8.2.3网络安全对策 204

8.2.4密码学基本术语 204

8.2.5代替密码 204

8.2.6密码学中的信息理论 205

8.2.7数据加密标准DES 206

8.2.8 RSA公开密钥算法 206

8.2.9数字签名 207

8.3教材习题及参考答案 207

8.4测验题及参考答案 211

8.4.1测验题 211

8.4.2测验题参考答案 12

参考文献 214