工程应用编码与信息理论PDF电子书下载

目录 1

出版说明 1

译者的话 1

前言 1

第1章 离散信源和熵 1

1.1 数字通信和存储系统概述 1

1.2 离散信源和熵 2

1.2.1 信源符号集和熵 2

1.2.2 联合熵和条件熵 4

1.2.3 符号块的熵和链准则 6

1.3.1 映射函数和效率 8

1.3 信源编码 8

1.3.2 互信息 9

1.3.3 短暂的离题——关于加密 11

1.3.4 本节小结 13

1.4 霍夫曼（Huffman）编码 13

1.4.1 前置码和即时译码 13

1.4.2 霍夫曼码的构造 14

1.4.3 硬件实现方法 16

1.4.4 霍夫曼编码效率的稳健性 17

1.5 词典码和莱姆培尔-兹夫（Lempel-Ziv）编码 18

1.5.1 动态词典编码的基本原理 18

1.5.2 链接表LZ算法 19

1.5.3 译码过程 21

1.5.4 LZ压缩的大数据块要求 22

1.6 算术编码 23

1.6.1 码字长度和渐近均分性质 23

1.6.2 算术编码方法 25

1.6.3 算术码的译码 27

1.6.4 算术编码的其他问题 28

1.7 信源模型和自适应信源编码 28

1.8 小结 29

1.9 习题 30

参考文献 32

第2章 信道和信道容量 34

2.1 离散无记忆信道模型 34

2.1.1 转移概率矩阵 34

2.1.2 输出熵和互信息 35

2.2 信道容量和二进制对称信道 37

2.2.1 互信息的最大化和信道容量 37

2.2.2 对称信道 39

2.3 分组编码和仙农（Shannon）第二定理 41

2.3.1 疑义度（Equivocation） 41

2.3.2 熵率（Entropy Rate）和信道编码定理 42

2.4 马尔可夫（Markov）过程和有记忆信源 43

2.4.1 马尔可夫过程 43

2.4.2 稳态概率和熵率 46

2.5 马尔可夫链和数据处理 47

2.6 受限信道 49

2.6.1 调制理论和信道约束 49

2.6.2 线性时不变信道 50

2.7 序列的自相关和功率谱 52

2.7.1 时间序列的统计特性 52

2.7.2 功率谱 54

2.8 数据变换码 56

2.8.1 对数据序列的限制 56

2.8.2 码的状态空间和网格图描述 58

2.8.3 数据变换码的容量 60

2.9 （d,k）序列 61

2.9.1 游程长度受限码和最大熵序列 61

2.9.2 最大熵序列的功率谱 63

2.10 小结 67

2.11 习题 68

参考文献 72

第3章 游程长度受限码 73

3.1 数据变换码的一般考虑 73

3.2 前缀码和分组码 74

3.2.1 固定长度分组码 74

3.2.2 可变长度分组码 75

3.2.3 前缀码和克拉夫特（Kraft）不等式 78

3.3 状态依赖固定长度分组码 79

3.4 可变长度固定码率码 82

3.5 前视（look-ahead）码 85

3.5.1 码字的级联 85

3.5.3 非规范和规范的设计方法 87

3.5.2 k的限制 87

3.6 无直流码 90

3.6.1 连续数字和（Running Digital Sum）与数字和偏差 90

3.6.2 状态分裂和谱零点匹配码 91

3.7 小结 96

3.8 习题 97

参考文献 97

第4章 线性分组纠错码 99

4.1 一般考虑 99

4.1.1 用于纠错的信道编码 99

4.1.2 二进制对称信道中的差错率和错误分布 100

4.1.3 错误检测和纠错 102

4.1.4 最大似然译码原理 104

4.1.5 汉明距离和码的能力 105

4.2 二元域和二元矢量空间 107

4.2.1 二元域 107

4.2.2 矢量空间中线性码的表示 110

4.3 线性分组码 111

4.3.1 矢量空间的基本性质 111

4.3.2 汉明重量、汉明距离和汉明立方体 112

4.3.3 汉明球和冗余度要求的界 113

4.4 线性分组码的译码 114

4 4.1 完备译码器和限定距离译码器 114

4.4.2 伴随式译码器和一致校验定理 116

4.5 汉明码 117

4.5.1 汉明码的设计 117

4.5.3 扩展汉明码 120

4.5.2 汉明码的对偶码 120

4.6 线性分组纠错码的差错率性能界 122

4.6.1 分组差错率 122

4.6.2 比特差错率 124

4.7 采用请求重传的限定距离译码器的性能 127

4.7.1 近似差错性能 127

4.7.2 ARQ系统的有效码率 128

4.7.3 ARQ协议 129

4.8 小结 130

4.9 习题 131

参考文献 132

5.1 循环码的定义和性质 133

第5章 循环码 133

5.2 循环码的多项式表示 134

5.3 多项式模运算 136

5.3.1 多项式环 136

5.3.2 一些重要的代数恒等式 137

5.4 循环码的生成和译码 140

5.4.1 生成式、奇偶校验和伴随多项式 140

5.4.2 系统循环码 140

5.4.3 系统循环码编码器的硬件实现 142

5.4.4 循环码译码器的硬件实现 144

5.4.5 梅吉特译码器 145

5.5.1 纠错过程中伴随式的更新 148

5.5 错误捕获（Error-Trapping）译码器 148

5.5.2 突发错误图样和错误捕获 149

5.6 一些标准循环分组码 153

5.6.1 汉明码 153

5.6.2 BCH码 154

5.6.3 纠突发差错码 155

5 6.4 循环冗余校验码 156

5.7 循环码的简单改进 157

5.7.1 码的扩展 158

5.7.2 码的截短 158

5.7.3 截短码的非循环性 161

5.7.4 交织 161

5.9 习题 164

5.8 小结 164

参考文献 166

第6章 卷积码 167

6.1 卷积码的定义 167

6.2 卷积码的结构特性 170

6.2.1 状态图和网格图表示 170

6.2.2 卷积码的传递函数 172

6.3 维特比（Viterbi）算法 174

6.4 维特比算法的工作原理Ⅰ——硬判决译码 178

6.4.1 采用硬判决的最大似然译码 178

6.4.2 错误事件概率 180

6.4.3 比特差错率的界 181

6.5 一些已知的好卷积码 183

6.6.1 欧几里德（Euclidean）距离与最大似然 185

6.6 维特比算法的工作原理Ⅱ——软判决译码 185

6.6.2 结（tie）的消除与信息量损失 187

6.6.3 似然度量的计算 188

6.7 维特比译码的回溯（Traceback）方法 189

6.8 凿孔（Punctured）卷积码 193

6.8.1 凿孔 193

6.8.2 好的凿孔卷积码 194

6.9 小结 196

6.10 习题 197

参考文献 198

7.1 多幅度／多相位离散无记忆信道 200

7.1.1 I-Q调制 200

第7章 网格编码调制 200

7.1.2 n进制PSK信号星座 201

7.1.3 PSK的差错率 202

7.1.4 正交幅度调制 203

7.2 系统递归卷积编码器 205

7.3 信号映射与集合分割 206

7.4 已知PSK和QAM的好网格码 209

7.5 小结 212

7.6 习题 212

参考文献 213

第8章 信息论与密码学 215

8.1 密码系统 215

8.1.1 密码系统的基本组成 215

8.1.2 一些简单的密码体制 216

8.2 对密码系统的攻击 220

8.3 完善保密性 220

8.4 语言熵和成功密文攻击 222

8.4.1 密钥疑义度定理 222

8.4.2 虚假密钥和密钥疑义度 223

8.4.3 语言冗余和惟一解（Unicity）距离 224

8.5 计算安全性 225

8.6 扩散与混淆 226

8.7 乘积加密系统 228

8.7.1 可交换、不可交换和幂等乘积加密 228

8.7.2 混合变换与好的乘积加密 229

8.9 公共密钥系统 231

8.8 编码 231

8.10 其他问题 232

8.11 小结 232

8.12 习题 233

参考文献 234

第9章 仙农编码定理 236

9.1 随机编码 236

9.2 平均随机码 237

9.3 对仙农第二定理的讨论 239

9.4 仙农-费诺编码 240

9.5 仙农无噪声编码定理 241

9.6 最后的话 242

参考文献 243

附录 部分习题答案 244