1信息论概述 1
1.1信息 1
1.2信息论 3
1.3信息论的形成和发展 6
1.4信息论的主要研究成果 10
本章重点及小结 12
2信息的度量 14
2.1信息量 14
2.2信息熵 20
2.3离散集的平均互信息量 30
本章重点及小结 35
习题 39
3离散信源 42
3.1信源的数学模型及分类 42
3.2离散无记忆的扩展信源 44
3.3离散平稳信源 47
3.4马尔可夫信源 50
3.5信源的相关性和剩余度 55
本章重点及小结 56
习题 59
4离散信道及其容量 63
4.1信道的数学模型及其分类 63
4.2离散无记忆信道 64
4.3信道的组合 69
4.4信道容量 71
4.5信源和信道的匹配 81
本章重点及小结 81
习题 84
5无失真信源编码 88
5.1编码的定义 88
5.2定长编码定理 92
5.3变长码定理 94
5.4最佳编码 97
本章重点及小结 102
习题 104
6有噪信道编码定理 107
6.1错误概率和译码规则 107
6.2错误概率与编码方法 110
6.3有噪信道编码定理 116
本章重点及小结 117
习题 118
7限失真信源编码 120
7.1失真测度 120
7.2信息失真函数 123
7.3限失真信源编码定理和逆定理 127
7.4信息率失真的函数的计算 132
本章重点及小结 141
习题 142
8纠错编码 143
8.1纠错编码的基本概念 143
8.2纠错编码分类 144
8.3线性分组码 145
8.4循环码 149
本章重点及小结 152
习题 153
参考文献 156