近代信息论PDF电子书下载

第一章 信息论的体系和历史 1

1.1 信息论的发展经过 1

1.2 信息论的体系 3

第二章 信息量和互信息量(离散值) 6

2.1 信息量的定义 6

2.2 仙农熵的代数性质 7

2.3 仙农熵的解析性质 11

2.4 条件熵、互信息量 14

2.5 实验、观察和数据处理 17

2.6 熵函数公理的构成 23

2.7 平稳信源和熵 29

2.8 马尔可夫信源和熵 33

2.9 等长信源编码定理 38

第三章 互信息量(连续值) 47

3.1 互信息量的定义 47

3.2 最大熵定理 52

3.3 正态随机变量的互信息量 55

3.4 有正态白噪声输入的加性信道 57

3.5 并列信道的互信息量和容量 63

3.6 连续时间信道的互信息量和容量 66

第四章 信源编码定理(无噪声的情况) 70

4.1 信源编码问题 70

4.2 树形编码法 72

4.3 单义可译码 75

4.4 变长信源编码定理 77

4.5 最优编码法 80

4.6 平稳信源和马尔可夫信源的编码定理 86

第五章 信道编码定理(有噪声的情况) 89

5.1 可靠的信息传输和编码 89

5.2 随机编码和错误概率的上界 96

5.3 编码第二基本定理 100

5.4 编码的逆定理 106

5.5 错误概率上界的改善 114

5.6 二元对称信道和高噪声信道 118

5.7 错误概率的下界 127

5.8 错误概率下界的改善 137

第六章 连续信道 144

6.1 加性高斯白噪声的数字信道模型 144

6.2 数字信道模型的编码和错误概率的上界 150

6.3 数字信道模型的正交编码 156

6.4 数字信道模型的等能量编码 160

6.5 连续信道的编码定理 168

6.6 有输入约束的连续信道 174

6.7 无记忆加性高斯噪声信道 180

6.8 有频带限制的时间连续信道 185

第七章 率失真理论 188

7.1 信源编码和失真 188

7.2 信源编码定理 191

7.3 率失真函数的基本性质 199

7.4 率失真函数的参数表述 203

7.5 二元信源和对称信源 209

7.6 模拟信源 212

第八章 信道容量、可靠性函数和率失真函数的计算法 220

8.1 互信息量和信道容量 220

8.2 简单信道的信道容量 224

8.3 任意信道的信道容量的计算法 230

8.4 可靠性函数的计算法 235

8.5 率失真函数的计算法 238

附录 244

A.凸函数的性质 244

B.概率论基础 248

C.随机过程的基础 269

文献指南 280

参考文献 283

索引 292