信息论与编码PDF电子书下载

第1章 绪论 1

引言 2

1.1 信息的定义与性质 2

1.2 信息的分类 3

1.3 信息论与编码研究的内容 4

1.4 信息论的建立、发展与应用 7

1.4.1 信息论的建立与发展 7

1.4.2 信息论的应用 8

小结 10

习题 10

第2章 基本信息论 11

引言 12

2.1 信息度量 12

2.1.1 信源的不肯定性 12

2.1.2 信息量 14

2.2 离散信源的熵 16

2.2.1 信源的分类 16

2.2.2 熵 17

2.2.3 熵函数的性质 19

2.3 二元联合信源的共熵与条件熵 19

2.3.1 共熵 19

2.3.2 条件熵 20

2.3.3 共熵、条件熵与信源熵三者之间的关系 20

2.4 信源冗余度 22

2.4.1 冗余度相关概念 22

2.4.2 冗余度利用 23

2.5 连续信源的熵 24

2.5.1 连续信源熵的定义 24

2.5.2 连续信源的最大熵 26

2.5.3 二元联合信源的共熵与条件熵 27

2.6 熵速率和信道容量 28

2.6.1 熵速率 28

2.6.2 信道容量 28

2.7 离散有噪信道中的熵速率和信道容量 30

2.7.1 平均互信息量 30

2.7.2 接收熵速率 31

2.7.3 可疑度的物理解释 32

2.7.4 信道容量 33

2.8 连续有噪信道中的熵速率和信道容量 33

2.8.1 接收熵速率 33

2.8.2 信道容量 34

小结 36

自我检测题 36

习题 38

第3章 伪噪声编码 42

引言 43

3.1 伪噪声编码概述 44

3.2 伪噪声编码信号 45

3.2.1 基本概念 45

3.2.2 特性 46

3.3 狭义伪噪声码 47

3.3.1 L序列码 47

3.3.2 TP序列码 50

3.3.3 m序列码 51

3.4 二元正交码 54

3.5 案例实现：m序列发生器的设计与实现 57

小结 60

自我检测题 60

习题 61

第4章 无失真信源编码 62

引言 63

4.1 信源编码概论 63

4.2 定长编码 66

4.3 变长编码 69

4.4 最佳编码 71

4.4.1 信源最佳化 71

4.4.2 码的相关定义 74

4.4.3 香农-范诺编码 76

4.4.4 霍夫曼编码 78

4.5 实用的无失真信源编码 81

4.5.1 游程编码 81

4.5.2 算术编码 83

小结 86

自我检测题 86

习题 87

第5章 限失真信源编码 89

引言 90

5.1 失真测度 90

5.1.1 失真函数 91

5.1.2 平均失真度 92

5.2 信息率失真函数 93

5.2.1 信息率失真函数的一般概念 93

5.2.2 R（D）函数的性质 94

5.2.3 信息率失真函数的计算 98

5.3 限失真信源编码定理 106

5.4 限失真信源编码的具体方法 108

5.4.1 最佳标量量化 108

5.4.2 矢量量化 109

5.4.3 预测编码 110

5.4.4 变换编码 113

小结 118

自我检测题 118

习题 119

第6章 信道编码 121

引言 122

6.1 信道编码的基本概念 123

6.1.1 编码和检纠错能力的关系 123

6.1.2 信道编码的基本原理 125

6.1.3 信道编码的基本数学知识 127

6.1.4 信道编码的分类 128

6.2 检错码 129

6.2.1 奇／偶检（校）验码 129

6.2.2 定比码 130

6.2.3 漏检概率 132

6.3 用于单向信道的简单纠错码 133

6.3.1 简单重复码 133

6.3.2 正反码 134

6.4 汉明码 137

6.4.1 监督矩阵 137

6.4.2 校验矩阵 138

6.4.3 校验子、信息码元和监督码元之间的关系 140

6.4.4 增余汉明码 142

6.4.5 生成矩阵 143

6.5 循环码 146

6.5.1 循环码的码字和多项式 146

6.5.2 生成多项式 147

6.5.3 利用g（x）进行循环码编码 149

6.5.4 循环码的校验子 150

6.5.5 循环码的编译码电路 152

6.5.6 截短循环码 156

6.5.7 BCH码 158

6.6 卷积码 161

6.6.1 卷积码的基本监督矩阵 161

6.6.2 卷积码的一致监督矩阵 163

6.6.3 卷积码的生成矩阵 165

6.6.4 卷积码编码器 167

6.6.5 卷积码的译码方法 170

6.7 纠正突发错误的编码 170

6.7.1 纠正突发错误的必要性 170

6.7.2 分组交织法 171

6.7.3 哈格伯尔格码 172

6.8 案例实现：卷积码译码器的设计 174

小结 176

自我检测题 176

习题 177

第7章 多用户信息论 180

引言 181

7.1 多用户信道 182

7.1.1 多用户通信 182

7.1.2 多用户信道的分类 182

7.2 多址接入信道 186

7.3 广播信道 188

7.4 多用户信道的编码定理 190

小结 191

习题 192

参考文献 193