信息论基础PDF电子书下载

第一章 绪论 1

1.1 信息的概念 1

1.2 信息论研究的对象、目的和内容 7

1.3 信息论发展简史和现状 9

第二章 离散信源 13

2.1 信源的数学模型及分类 13

2.2 离散信源的信息熵 15

2.3 熵的基本性质 20

2.4 离散无记忆的扩展信源 24

2.5 离散平稳信源 26

2.6 马尔可夫信源 34

2.7 信源的相关性和剩余度 44

2.8 信息熵与热力学熵；意义信息和加权熵 47

习题 50

第三章 离散信道 54

3.1 信道的数学模型和分类 54

3.2 信道疑义度及平均互信息 59

3.3 平均互信息的特性 63

3.4 离散无记忆的扩展信道 68

3.5 串联信道的互信息 73

3.6 信道容量及其迭代算法 78

3.7 信源与信道的匹配 96

习题 98

第四章 无失真信源编码 101

4.1 编码器 101

4.2 等长码和等长信源编码定理 103

4.3 变长码 110

4.4 变长信源编码定理 116

4.5 变长码的编码方法 123

习题 130

第五章 有噪信道编码 134

5.1 错误概率和译码规则 134

5.2 错误概率与编码方法 140

5.3 有噪信道编码定理 146

习题 152

第六章 保真度准则下的信源编码 155

6.1 引言 155

6.2 信息率失真函数的定义和性质 156

6.3 信息率失真函数的参量表述及其计算 168

6.4 保真度准则下的信源编码定理 181

习题 191

第七章 连续信源和波形信道 194

7.1 连续信源的统计特性和离散化 194

7.2 连续信源的熵 196

7.3 具有最大熵的连续信源 203

7.4 熵功率 206

7.5 连续信源熵的变换 206

7.6 噪声 211

7.7 波形信道的信息传输率和信道容量 213

7.8 连续信源的信息率失真函数 220

习题 224

第八章 多用户信息论 227

8.1 多用户信道的分类 227

8.2 联合典型序列 230

8.3 相关信源编码 238

8.4 多元接入信道 242

8.5 相关信源的多元接入信道 250

8.6 广播信道 252

附录 259

附录A 凸函数和詹森不等式 259

附录B 马尔可夫链 263

附录C 熵函数计算用的函数表 270

附录D 计算离散信道容量的实用程序 272

参考书目及文献 276