资讯理伦与编码PDF电子书下载

第一章　绪论 1

1-1　什麽不是资讯理论 1

1-2　什麽是资讯理论 2

1-3　编译资讯 3

1-4　资讯传送上的一个问题 5

1-5 一些问题 8

第二章　资讯与来源 10

2-1 资讯的定义 10

2-2　无记忆资讯来源 12

2-3　熵的一些性质 14

2-4　一个无记忆来源的推广 19

2-5　马可夫资讯来源 22

2-6　伴随来源 27

2-7　一个马可夫来源的推广 30

2-8　语言的结构 35

第三章　讯码的一些性质 48

3-1　绪论 48

3-2　唯一可译解讯码 49

3-3　瞬时讯码 52

3-4　一套瞬时讯码的构建 55

3-5　克拉夫特不等式—叙述与讨论 56

3-6 克拉夫特不等式—证明 60

3-7　麦克米兰的不等式 62

3-8　一些例子 64

第四章　编译资讯来源 69

4-1　一套讯码的平均长度 69

4-2　一种编译特殊来源的方法 72

4-3　夏农的第一定理 76

4-4　马可夫来源情况下的夏农第一定理 78

4-5　没有加以推广的编码 80

4-6　找出二元紧致讯码—哈夫曼讯码 82

4-7　完成证明 87

4-8 r元紧致讯码 89

4-9　编码效率与冗余 91

第五章　频道与共同资讯 100

5-1　绪论 100

5-2　资讯频道 101

5-3　一条频道中的机率关系 104

5-4　事前与事後熵 107

5-5　夏农第一定理的一般化 109

5-6　共同资讯 113

5-7　共同资讯的性质 115

5-8 无噪音频道与确定频道 120

5-9 接续频道 123

5-10　简化的频道与充分简化 128

5-11　共同资讯的可加性 133

5-12　许多个字母集的共同资讯 138

5-13　频道容量 142

5-14　条件共同资讯 146

第六章　经由不可靠频道而传送的可靠讯息 161

6-1 绪论 161

6-2 错误机率与决策规则 162

6-3 范诺界限值 167

6-4 可靠的讯息与不可靠的频道 169

6-5 一个校正错误的编码例子 173

6-6 韩明距离 177

6-7 BSC情况下的夏农第二定理—第一步 179

6-8 随机编码—第二步 184

6-9 夏农的第二定理—讨论 187

6-10　夏农的？定理—一般情况 190

6-11　结语 197

附录 200

参考书目 204

索引 208