情报理论基础PDF电子书下载

1．绪论 1

2．情报量 4

2·1 事象和记号 4

2·2 概率模型 6

2·2·1 事象和概率 6

2·2·2 条件概率 9

2·2·3 完全事象系 13

2·3 情报的定量化 14

2·3·1 情报量 14

2·3·2 情报量的意义 17

2·4 熵 20

2·4·1 完全事象系的熵 20

2·4·2 熵的性质 23

2·4·3 有序和无序 29

2·4·4 二个完全事象系 30

2·4·5 各种熵 36

3．情报的产生和传递 40

3·1 情报的种类 40

3·2 情报源 42

3·2·1 情报源的模型化 42

3·2·2 约束记号系列 45

3·2·3 英文的统计性质 51

3·3 马尔克夫情报源 56

3·3·1 定义 56

3·3·2 马尔克夫情报源的各种性质 61

3·3·3 马尔克夫情报源的熵 68

3·4 信道 72

3·4·1 情报传递的模型化 72

3·4·2 信道容量 79

3·4·3 无噪声的信道 81

3·4·4 有噪声的信道 88

4．符号化 95

4·1 效率与冗余度 95

4·1·1 记号系列的效率和冗余度 95

4·1·2 符号化和效率 97

4·2 符号化和信道 101

4·2·1 情报传送和符号化 101

4·2·2 香农第1定理 103

4·2·3 香农第2定理 104

4·3 高效率符号化法 111

4·3·1 香农一法奴符号化法 111

4·3·2 哈夫曼符号化法 115

4·4 具有冗余度的符号化法 120

4·4·1 具有冗余度的符号 120

4·4·2 汉明距离 122

4·4·3 奇偶检验 127

4·4·4 线形符号 129

5．连续信号 136

5·1 熵 136

5·1·1 概率变数和概率密度 136

5·1·2 连续信号的熵 141

5·1·3 最大熵 146

5·1·4 信道容量 150

5·2 频谱 155

5·2·1 付立叶级数 155

5·2·2 付立叶变换 163

5·2·3 不确定性原理 171

5·3 典型化定理 177

5·3·1 频带限制 177

5·3·2 典型化定理 179

5·3·3 信号空间 186

练习题 193

参考文献 197