信息论与编码学习辅导及习题详解PDF电子书下载

第1章　绪论 1

1.1　基本内容和学习要点 1

1.1.1　信息的概念及常用术语 1

1.1.2　通信系统的统一模型 1

1.1.3　信息传输系统的模型 2

第2章　离散信源及其信息测度 3

2.1　基本内容和学习要点 3

2.1.1　信源的分类 3

2.1.2　基本信源的数学模型 3

2.1.3　离散信源的信息熵 4

2.1.4　信息熵的基本性质 4

2.1.5　离散无记忆扩展信源的信息熵 5

2.1.6　离散平稳信源的信息熵 6

2.1.7　马尔可夫信源及其信息熵 8

2.1.8　信源剩余度 9

2.2　习题详解 9

2.3　精选习题解答 36

第3章　离散信道及其信道容量 62

3.1　基本内容和学习要点 62

3.1.1　信道的分类 62

3.1.2　离散信道的数字模型 62

3.1.3　离散信道的平均互信息及其特性 64

3.1.4　多个随机变量之间的平均互信息 66

3.1.5　离散信道的信道容量及其计算方法 67

3.1.6　常见信道的平均互信息和信道容量 68

3.1.7　无记忆N次扩展信道的I（X;Y）和容量CN 68

3.1.8　独立并联信道的互信息和信道容量 68

3.1.9　串接信道互信息及信道容量 69

3.1.10　信道剩余度 69

3.2　习题详解 69

3.3　精选习题解答 108

第4章　波形信源和波形信道 139

4.1　基本内容和学习要点 139

4.1.1　连续信源的差熵 139

4.1.2　多维连续平稳信源的信息熵 139

4.1.3　波形信源的差熵 140

4.1.4　差熵的性质 141

4.1.5　最大差熵定理 141

4.1.6　连续信源熵的变换 142

4.1.7　熵功率和熵功率不等式 142

4.1.8　波形信道和连续信道的分类和数学模型 142

4.1.9　连续信道和波形信道的平均互信息及其特性 143

4.1.10　连续信道和波形信道的信道容量 145

4.1.11　香农公式的重要实际指导意义 146

4.2　习题详解 146

4.3　精选习题解答 175

第5章　无失真信源编码定理与编码 199

5.1　基本内容和学习要点 199

5.1.1　信源编码和码的类型 199

5.1.2　即时码及其树图构造法 199

5.1.3　唯一可译码存在的充要条件 200

5.1.4　唯一可译码的判断法 200

5.1.5　渐近等分割性和ε典型序列 200

5.1.6　无失真等长信源编码定理 201

5.1.7　无失真变长信源编码定理（香农第一定理） 201

5.1.8　无失真信源编码定理和数据压缩 202

5.1.9　最佳二元码 202

5.1.10　香农（Shannon）码 203

5.1.11　费诺（Fano）码 203

5.1.12　霍夫曼（Huffman）码 203

5.1.13　香农-费诺-埃利斯码 204

5.1.14　游程编码和MH编码 204

5.1.15　算术编码 205

5.1.16　字典码 206

5.2　习题详解 206

5.3　精选习题解答 238

第6章　有噪信道编码定理与纠错码 255

6.1　基本内容和学习要点 255

6.1.1　译码准则 255

6.1.2　平均错误概率 256

6.1.3　费诺不等式 256

6.1.4　信道编码的编、译基本原则 256

6.1.5　联合ε典型序列 257

6.1.6　有噪信道编码定理及其逆定理 257

6.1.7　信源信道编码定理 258

6.1.8　纠错码的分类 258

6.1.9　线性分组码的基本概念 259

6.1.10　线性分组码 259

6.1.11　汉明码及其扩展码 261

6.1.12　循环码 261

6.1.13　卷积码 263

6.2　习题详解 264

6.3　精选习题解答 295

第7章　保真度准则下的信源编码 309

7.1　基本内容和学习要点 309

7.1.1　失真度（失真函数）与平均失真度 309

7.1.2　信息率失真函数 311

7.1.3　信息率失真函数的特性 312

7.1.4　R（D）函数的参量表述及其计算 313

7.1.5　常见信源的R（D）函数 315

7.1.6　保真度准则下信源编码定理（香农第三定理） 315

7.1.7　信息—传输定理（联合有失真信源信道编码定理） 316

7.2　习题详解 316

7.3　精选习题解答 347

第8章　网络信息论 358

8.1　基本内容和学习要点 358

8.1.1　通信网信道的分类 358

8.1.2　多个随机变量的联合典型序列 358

8.1.3　多址接入信道 359

8.1.4　广播信道 360

8.1.5　中继信道 361

8.1.6　反馈信道 362

8.1.7　相关信源无失真编码 362

8.1.8　相关信源的多址接入信道 363

8.1.9　具有边信息的无失真信源编码 363

8.1.10　具有边信息的率失真信源编码 364

8.2　习题详解 364