信息理论与编码学习辅导及精选题解PDF电子书下载

第1章 绪论 1

1.1 基本内容和学习要点 1

1.1.1 信息的概念及常用术语 1

1.1.2 通信系统的统一模型 2

1.1.3 信息传输系统的模型 3

第2章 离散信源及其信息测度 4

2.1 基本内容和学习要点 4

2.1.1 信源的分类 4

2.1.2 基本信源的数学模型 4

2.1.3 离散信源的信息熵 5

2.1.4 信息熵的基本性质 5

2.1.6 离散平稳信源的信息熵 7

2.1.5 离散无记忆扩展信源的信息熵 7

2.1.7 马尔可夫信源及其信息熵 9

2.1.8 信源剩余度 11

2.1.9 加权熵 11

2.2 习题详解 12

2.3 精选习题解答 24

第3章 离散信道及其信道容量 52

3.1 基本内容和学习要点 52

3.1.1 信道的分类 52

3.1.2 离散信道的数字模型 52

3.1.3 离散信道的平均互信息及其特性 54

3.1.4 多个随机变量之间的平均互信息 57

3.1.5 离散信道的信道容量及其计算方法 58

3.1.6 常见信道的平均互信息和信道容量 59

3.1.8 独立并联信道的互信息和信道容量 60

3.1.9 串接信道互信息和信道容量 60

3.1.10 信道剩余度 60

3.2 习题详解 60

3.1.7 无记忆N次扩展信道的I(X；Y)和容量CN 60

3.3 精选习题解答 85

第4章 波形信源和波形信道 108

4.1 基本内容和学习要点 108

4.1.1 连续信源的差熵 108

4.1.2 多维连续平稳信源的信息熵 108

4.1.3 波形信源的差熵 110

4.1.4 差熵的性质 110

4.1.6 连续信源熵的变换 111

4.1.5 最大差熵定理 111

4.1.7 熵功率和熵功率不等式 112

4.1.8 波形信道和连续信道的分类和数学模型 112

4.1.9 连续信道和波形信道的平均互信息及其特性 113

4.1.10 连续信道和波形信道的信道容量 115

4.1.11 连续信道与信息传输的匹配 116

4.2 习题详解 117

4.3 精选习题解答 141

第5章 无失真信源编码 164

5.1 基本内容和学习要点 164

5.1.1 信源编码和码的类型 164

5.1.2 即时码及其树图构造法 164

5.1.5 渐近等分割性和ε典型序列 165

5.1.3 惟一可译码存在的充要条件 165

5.1.4 惟一可译码的判断法 165

5.1.6 无失真等长信源编码定理 166

5.1.7 无失真变长信源编码定理(香农第一定理) 167

5.1.8 无失真信源编码定理和数据压缩 167

5.1.9 最佳二元码 168

5.1.10 霍夫曼码和其他编码方法 168

5.1.11 几种实用的无失真信源编码方法 170

5.2 习题详解 171

5.3 精选习题解答 191

6.1 基本内容和学习要点 204

6.1.1 译码准则 204

第6章 有噪信道编码 204

6.1.2 平均错误概率 205

6.1.3 费诺不等式 205

6.1.4 信道编码的编、译基本原则 206

6.1.5 联合ε典型序列 206

6.1.6 有噪信道编码定理及其逆定理 207

6.1.7 信源—信道编码定理 207

6.1.8 纠错码的分类 208

6.1.9 线性分组码的基本概念 208

6.1.10 线性分组码 209

6.1.11 汉明码及其扩展码 210

6.1.12 循环码 211

6.2 习题详解 212

6.3 精选习题解答 220

7.1 基本内容和学习要点 237

7.1.1 失真度(失真函数)与平均失真度 237

第7章 保真度准则下的信源编码 237

7.1.2 信息率失真函数 240

7.1.3 信息率失真函数的特性 240

7.1.4 R(D)函数的参量表述及其计算 241

7.1.5 常见信源的R(D)函数 244

7.1.6 保真度准则下信源编码定理(香农第三定理) 245

7.1.7 信息—传输定理(联合有失真信源信道编码定理) 245

7.2 习题详解 246

7.3 精选习题解答 271

8.1.1 通信网信道的分类 284

8.1.2 多个随机变量的联合典型序列 284

8.1 基本内容和学习要点 284

第8章 网络信息论 284

8.1.3 多址接入信道 285

8.1.4 广播信道 287

8.1.5 中继信道 288

8.1.6 反馈信道 289

8.1.7 相关信源无失真编码 289

8.1.8 相关信源的多址接入信道 290

8.1.9 具有边信息的无失真信源编码 290

8.1.10 具有边信息的率失真信源编码 291

8.2 习题详解 291

参考书目 328