信息论理论基础教程PDF电子书下载

1信息论概述 1

1.1信息 1

1.2信息论 3

1.3信息论的形成和发展 6

1.4信息论的主要研究成果 10

本章重点及小结 12

2信息的度量 14

2.1信息量 14

2.2信息熵 20

2.3离散集的平均互信息量 30

本章重点及小结 35

习题 39

3离散信源 42

3.1信源的数学模型及分类 42

3.2离散无记忆的扩展信源 44

3.3离散平稳信源 47

3.4马尔可夫信源 50

3.5信源的相关性和剩余度 55

本章重点及小结 56

习题 59

4离散信道及其容量 63

4.1信道的数学模型及其分类 63

4.2离散无记忆信道 64

4.3信道的组合 69

4.4信道容量 71

4.5信源和信道的匹配 81

本章重点及小结 81

习题 84

5无失真信源编码 88

5.1编码的定义 88

5.2定长编码定理 92

5.3变长码定理 94

5.4最佳编码 97

本章重点及小结 102

习题 104

6有噪信道编码定理 107

6.1错误概率和译码规则 107

6.2错误概率与编码方法 110

6.3有噪信道编码定理 116

本章重点及小结 117

习题 118

7限失真信源编码 120

7.1失真测度 120

7.2信息失真函数 123

7.3限失真信源编码定理和逆定理 127

7.4信息率失真的函数的计算 132

本章重点及小结 141

习题 142

8纠错编码 143

8.1纠错编码的基本概念 143

8.2纠错编码分类 144

8.3线性分组码 145

8.4循环码 149

本章重点及小结 152

习题 153

参考文献 156