信息论理论基础PDF电子书下载

目录 1

第一章　引论 1

§1—1　通信系统基本概念 1

1—1—1　通信基本模型 1

1—1—2　对通信的基本要求 5

1—1—3　通信理论的研究方法 5

§1—2　信息论的研究范畴 6

1—2—1　信息论的研究内容 6

1—2—2　信息论的发展简史 9

第二章　基本信息论 11

§2—1　信息度量 11

2—1—1　研究信息度量的必要性 11

2—1—2　信源的不肯定性 11

2—1—3　信息量 17

§2—2　离散信源的熵 23

2—2—1　定义 23

2—2—2 离散信源提供的平均信息量—熵 23

§2—3　二元联合信源的共熵 27

2—3—1 二元联合信源的共熵 27

2—2—3　熵函数H（x）的性质 27

2—3—2　条件熵 29

2—3—3　H（x,y）≤H（x）＋H（y）的证明 31

2—3—4 消息的剩余度 40

§2—4　连续信源的熵 44

2—4—1　连续信源熵的定义 44

2—4—2　连续信源的最大熵 49

2—4—3　熵功率 56

2—4—4　二元联合信源的共熵 56

2—5—1　信源熵速率 58

§2—5　熵速率与信道容量 58

2—5—2　信道容量 59

§2—6　离散有噪信道中的熵速率和信道容量 61

2—6—1　接收熵速率 61

2—6—2　可疑度 66

2—6—3　信道容量 69

§2—7　连续有噪信道的熵速率与信道容量 70

2—7—1　接收熵速率 70

2—7—2　信道容量 71

2—8—1　编码定理 73

§2—8　使信源与信道匹配的编码 73

2—8—2　信源最佳化 75

2—8—3　符号独立化 76

2—8—4　概率均匀化—最佳编码 80

习题 94

第三章　理想通信系统 99

§3—1 多维空间 99

3—1—1 物体的多维空间模型 99

3—1—2　多维空间的两个重要公式 100

3—2—1　信号的多维模型 102

§3—2　通信系统的多维模型 102

3—2—2　信号平均功率p与多维模型中原 103

点到信号点距离d的关系 103

3—2—3　所有高维球的体积都集中在它的 104

表面上 104

§3—3　理想通信系统的最大传信率和错误 105

概率 105

3—3—1　理想通信系统 105

3—3—2　编码定理的证明 106

3—4—1　互换关系式 110

§3—4　理想通信系统的信噪比、带宽和时 110

间的互换 110

3—4—2　信噪比改善与信道对消息带宽比 112

的关系 112

3—4—3　信道临界带宽 114

§3—5　理想通信系统的实现方法 115

3—5—1 理想通信系统模型 115

3—5—2　现实系统的潜力 117

3—6—1 相关接收机 119

§3—6　理想接收机 119

3—6—2　匹配滤波器 123

§3—7　伪噪声编码通信 124

3—7—1 引言 124

3—7—2　伪噪声编码信号 125

3—7—3　伪噪声编码通信的基本原理 144

§3—8　扩频通信 148

3—8—1 引言 148

3—8—2　扩频系统的基本原理 149

习题 152

第四章　抗干扰二元编码 154

§4—1　抗干扰编码基本概念 154

4—1—1　抗干扰编码基本思想 154

4—1—2　几个定义 156

4—1—3　码距dmin与纠错能力的关系 157

4—1—4　抗干扰编码的基本原理 158

§4—2　检错码 162

4—2—1 一致监督检错码 162

4—2—2　定比码 165

4—2—3　ARQ系统 170

§4—3 用于单向信道的简单纠错码 172

4—3—1 简单重复码 172

4—3—2　正反码 173

§4—4　纠一位错误的汉明码 176

4—4—1 编码原理和监督矩阵 176

4—4—2　译码和检验矩阵 179

4—4—3　汉明码举例 181

4—4—4　汉明码的错误概率 186

4—4—6　增余汉明码 187

4—4—5　汉明码效率 187

4—4—7　生成矩阵 191

§4—5　循环码 194

4—5—1　定义 194

4—5—2　生成多项式 195

4—5—3　校验子 200

4—5—4　编译法方法 203

4—5—5　截短循环码 210

4—5—6　BCH码 212

4—6—1 卷积码的基本监督矩阵 220

§4—6　纠正独立错误的卷积码 220

4—6—2　卷积码的一致监督矩阵 224

4—6—3　卷积码的生成矩阵 228

4—6—4　卷积码的编码方法 231

4—6—5　卷积码的译码方法 235

4—6—6　序列译码 236

4—6—7　维特比译码 243

§4—7　纠正突发错误的编码 244

4—7—1 纠正突发错误的必要性 244

4—7—2　交织法 245

4—7—3 纠正突发错误的卷积码 246

§4—8　有限域的基本知识 249

4—8—1 有限域的基本概念 250

4—8—2　有限域举例 252

4—8—3　有限域的乘法群 254

4—8—4　多项式域GF（2n）中元素间关系 256

4—8—5　一个有关多项式的定理 259

4—8—6　最小多项式（或称极小多项式） 259

习题 263

5—1—1　假设检验 266

第五章　信号的统计检测与参量估计 266

§5—1　基本检测理论 266

5—1—2　最佳检测的基本原理 268

§5—2　贝叶斯检测准则 269

§5—3　最大后验概率检测准则 276

§5—4　最大似然检测准则 277

§5—5　奈曼——皮尔逊准则 278

§5—6　极小极大检测准则 279

§5—7　高斯噪声信道的最佳检测器 282

§5—8　连续参量的估计 285

§5—9　贝叶斯估计 288

§5—10　其他估计算子 291

5—10—1　最大似然估计 291

5—10—2　条件最大似然估计 292

习题 292

第六章　信息率失真函数与多用户信道 294

§6—1　信息率失真函数 294

6—1—1　信息率失真函数的一般概念 294

6—1—2　R（D）函数性质 301

§6—2　信息价值 307

§6—3　通信系统性能指标的界 311

§6—4　一般化信息函数和信息率失真函数 313

§6—5　多用户信道 319

6—5—1 多用户信道的信道容量 321

6—5—2　多用户信道的编码定理 332

主要参考文献 333

附录1 336

附录2 337

附录3 338