信息论与编码PDF电子书下载

第1章 绪论 1

1.1基本概念 1

1.1.1信息的一般概念 1

1.1.2香农信息定义 4

1.1.3信息论与编码技术发展简史 6

1.2数字通信系统模型 8

1.3信息论与编码理论研究的主要内容和意义 9

1.3.1信息论研究的主要内容 9

1.3.2香农信息论对信道编码的指导意义 9

1.3.3香农信息论对信源编码的指导意义 9

思考题与习题 10

第2章 信源及其熵 11

2.1信源的数学模型和分类 11

2.1.1信源的数学模型 11

2.1.2信源的分类 12

2.2离散信源的信息熵及其性质 16

2.2.1自信息 16

2.2.2信源的信息熵 17

2.2.3熵的基本性质 19

2.3离散无记忆信源的扩展信源 22

2.4离散平稳信源 24

2.4.1平稳信源的概念 24

2.4.2二维平稳信源 25

2.4.3一般离散平稳信源 28

2.5连续信源的信息熵 29

2.5.1单符号连续信源的熵 29

2.5.2波形信源的熵 32

2.5.3最大熵定理 32

2.6信源的冗余度 33

2.6.1信源效率 34

2.6.2信源冗余度 34

思考题与习题 35

第3章 信道及其容量 38

3.1信道的数学模型与分类 38

3.1.1信道的分类 39

3.1.2信道的数学模型 40

3.1.3单符号离散信道 41

3.2信道疑义度与平均互信息 43

3.2.1信道疑义度 43

3.2.2平均互信息 44

3.2.3平均互信息的性质 47

3.3离散无记忆的扩展信道 49

3.4离散信道的信道容量 51

3.4.1信道容量的定义 51

3.4.2简单离散信道的信道容量 52

3.4.3对称离散信道的信道容量 54

3.4.4离散无记忆N次扩展信道的信道容量 56

3.5连续信道的信道容量 57

3.5.1连续单符号加性高斯噪声信道的信道容量 57

3.5.2多维无记忆加性连续信道的信道容量 58

3.5.3限频限时限功率的加性高斯白噪声信道的信道容量 62

3.6信源与信道的匹配 64

3.7信道编码定理（香农第二定理） 65

思考题与习题 66

第4章 信道编码 69

4.1信道编码的概念 69

4.1.1信道编码的分类 69

4.1.2与纠错编码有关的基本概念 71

4.1.3检错与纠错原理 76

4.1.4检错与纠错方式和能力 77

4.2线性分组码 79

4.2.1线性分组码的基本概念 79

4.2.2生成矩阵和一致校验矩阵 81

4.2.3线性分组码的译码 87

4.2.4线性分组码的纠错能力 90

4.2.5汉明码 92

4.3循环码 94

4.3.1循环码的多项式描述 95

4.3.2循环码的生成矩阵 96

4.3.3系统循环码 99

4.3.4多项式运算电路 99

4.3.5循环码的编码电路 101

4.3.6循环码的译码电路 103

4.4常用的循环码 106

4.4.1循环冗余校验码 106

4.4.2 BCH码 108

4.4.3 RS码 111

4.5卷积码 113

4.5.1卷积码的编码 113

4.5.2卷积码的译码 121

思考题与习题 126

第5章 信源编码 129

5.1信源编码器和无失真信源编码定理 129

5.1.1码的分类 131

5.1.2码树 133

5.1.3 Kraft不等式 135

5.1.4无失真信源编码定理（香农第一定理） 136

5.2变长编码 137

5.2.1香农码 138

5.2.2费诺码 139

5.2.3霍夫曼码 141

5.3实用信源编码方法 146

5.3.1游程编码 146

5.3.2算术编码 149

5.3.3预测编码 155

5.3.4变换编码 157

思考题与习题 164

第6章 信息率失真函数 169

6.1失真测度 170

6.1.1系统模型 170

6.1.2失真度和平均失真度 170

6.2信息率失真函数及其性质 172

6.2.1信息率失真函数的定义 172

6.2.2信息率失真函数的性质 172

6.3等概率、对称失真信源的信息速率失真函数 175

6.4保真度准则下的信源编码定理 177

6.5限失真信源编码（香农第三定理） 178

思考题与习题 178

第7章 现代信道编码技术 180

7.1 Turbo码 180

7.1.1 Turbo码的提出 180

7.1.2 Turbo码编码器 181

7.1.3 Turbo码译码器 181

7.2 LDPC码 183

7.2.1 LDPC码的提出 183

7.2.2 LDPC码基本概念 183

7.2.3规则LDPC码 185

7.2.4非规则LDPC码 186

7.2.5准循环LDPC码 187

7.2.6重复累积LDPC码 189

7.2.7 LDPC码译码算法 192

思考题与习题 195

第8章 MATLAB在信息论与编码分析中的应用 196

8.1 MATLAB基础 196

8.1.1 MATLAB语言特点 197

8.1.2 MATLAB运行环境简介 198

8.1.3 MATLAB基础 210

8.2 MATLAB在信息理论分析中的应用 225

8.2.1离散信源的MATLAB分析 225

8.2.2离散信道的MATLAB分析 225

8.2.3应用MATLAB进行信息理论分析的实例 226

8.3 MATLAB在编码技术分析中的应用 227

8.3.1信源编码技术的MATLAB分析 227

8.3.2信道编码技术的MATLAB仿真 228

8.3.3应用MATLAB进行编码技术分析的实例 245

思考题与习题 249

参考文献 250