第一章 绪论 1
1-1 什麽不是资讯理论 1
1-2 什麽是资讯理论 2
1-3 编译资讯 3
1-4 资讯传送上的一个问题 5
1-5 一些问题 8
第二章 资讯与来源 10
2-1 资讯的定义 10
2-2 无记忆资讯来源 12
2-3 熵的一些性质 14
2-4 一个无记忆来源的推广 19
2-5 马可夫资讯来源 22
2-6 伴随来源 27
2-7 一个马可夫来源的推广 30
2-8 语言的结构 35
第三章 讯码的一些性质 48
3-1 绪论 48
3-2 唯一可译解讯码 49
3-3 瞬时讯码 52
3-4 一套瞬时讯码的构建 55
3-5 克拉夫特不等式—叙述与讨论 56
3-6 克拉夫特不等式—证明 60
3-7 麦克米兰的不等式 62
3-8 一些例子 64
第四章 编译资讯来源 69
4-1 一套讯码的平均长度 69
4-2 一种编译特殊来源的方法 72
4-3 夏农的第一定理 76
4-4 马可夫来源情况下的夏农第一定理 78
4-5 没有加以推广的编码 80
4-6 找出二元紧致讯码—哈夫曼讯码 82
4-7 完成证明 87
4-8 r元紧致讯码 89
4-9 编码效率与冗余 91
第五章 频道与共同资讯 100
5-1 绪论 100
5-2 资讯频道 101
5-3 一条频道中的机率关系 104
5-4 事前与事後熵 107
5-5 夏农第一定理的一般化 109
5-6 共同资讯 113
5-7 共同资讯的性质 115
5-8 无噪音频道与确定频道 120
5-9 接续频道 123
5-10 简化的频道与充分简化 128
5-11 共同资讯的可加性 133
5-12 许多个字母集的共同资讯 138
5-13 频道容量 142
5-14 条件共同资讯 146
第六章 经由不可靠频道而传送的可靠讯息 161
6-1 绪论 161
6-2 错误机率与决策规则 162
6-3 范诺界限值 167
6-4 可靠的讯息与不可靠的频道 169
6-5 一个校正错误的编码例子 173
6-6 韩明距离 177
6-7 BSC情况下的夏农第二定理—第一步 179
6-8 随机编码—第二步 184
6-9 夏农的第二定理—讨论 187
6-10 夏农的？定理—一般情况 190
6-11 结语 197
附录 200
参考书目 204
索引 208