信息论基础习题解答PDF电子书下载

第1章　绪论 1

第2章　离散信息的度量 4

2.1　知识要点 4

2.1.1 自信息和互信息 4

2.1.2　信息熵 6

2.1.3　平均互信息 9

2.2　例题精解 10

2.3 习题解答 15

2.4　补充题解 24

第3章　离散信源 32

3.1 知识要点 32

3.1.1 离散信源的分类与数学模型 32

3.1.2 离散无记忆信源的熵 33

3.1.3 离散平稳信源的熵 33

3.1.4　有限状态马尔可夫链 34

3.1.5　马尔可夫信源 35

3.1.6　信源的相关性与剩余度 35

3.2　例题精解 36

3.3　习题解答 40

3.4　补充题解 53

第4章　连续信息与连续信源 58

4.1 知识要点 58

4.1.1　连续随机变量集合的熵 58

4.1.2 离散时间高斯信源的熵 60

4.1.3　连续最大熵定理 60

4.1.4　连续随机变量集的平均互信息 60

4.1.5 离散集与连续集之间的互信息 61

4.2　例题精解 61

4.3　习题解答 68

4.4　补充题解 73

第5章　无失真信源编码 79

5.1 知识要点 79

5.1.1　基本概念 79

5.1.2　定长码 80

5.1.3 变长码 81

5.1.4　哈夫曼编码 82

5.1.5　几种实用的编码方法 83

5.2　例题精解 83

5.3　习题解答 88

5.4　补充题解 96

第6章　离散信道及其容量 100

6.1　知识要点 100

6.1.1　基本概念 100

6.1.2　单符号离散信道及其容量 101

6.1.3　级联信道及其容量 102

6.1.4　多维矢量信道及其容量 103

6.2　例题精解 105

6.3　习题解答 111

6.4　补充题解 119

第7章　有噪信道编码 123

7.1 知识要点 123

7.1.1　基本概念 123

7.1.2　最佳判决与译码准则 124

7.1.3　信道编码与最佳译码 125

7.1.4　费诺不等式 125

7.1.5　有噪信道编码定理 125

7.1.6　纠错编码技术简介 126

7.1.7　信道编码性能界限 127

7.2　例题精解 127

7.3 习题解答 133

7.4　补充题解 146

第8章　波形信道 149

8.1　知识要点 149

8.1.1 离散时间连续信道 149

8.1.2　加性噪声信道与容量 150

8.1.3　AWGN信道的容量 151

8.1.4　有色高斯噪声信道 152

8.1.5　数字调制系统的信道容量 153

8.2　例题精解 153

8.3　习题解答 158

8.4　补充题解 166

第9章　信息率失真函数 170

9.1 知识要点 170

9.1.1　基本概念 170

9.1.2 离散信源信息率失真函数 171

9.1.3 限失真信源编码定理 171

9.1.4 离散信源信息率失真函数的计算 171

9.1.5　连续信源信息率失真函数 172

9.1.6　重要的R（D）函数 172

9.1.7　一般连续信源R（D）函数 173

9.2　例题精解 173

9.3 习题解答 179

9.4　补充题解 189

第10章　有约束信道及其编码 194

10.1 知识要点 194

10.1.1　标号图的性质 194

10.1.2　有约束信道容量 195

10.1.3　有约束序列的性质 196

10.1.4　有约束信道编码定理 197

10.1.5　有约束序列编码与应用 198

10.2　例题精解 199

10.3 习题解答 201

第11章　网络信息论初步 210

11.1 知识要点 210

11.1.1　基本概念 210

11.1.2　多址接入信道 211

11.1.3 广播信道 212

11.1.4　相关信源编码 212

11.2　习题解答 213

11.3　补充题解 217

第12章　信息理论方法及其应用 219

12.1 知识要点 219

12.1.1 离散信源熵的估计 219

12.1.2　最大熵原理 219

12.1.3　最小交叉熵原理 221

12.1.4　信息理论方法的应用 222

12.2　例题精解 222

12.3 习题解答 224

期末考试模拟试题 234

期末考试模拟试题标准答案 236

参考文献 242