信息论与最优编码PDF电子书下载

第一章 绪论 1

第二章 熵与交互信息 7

2.1 熵与信息的度量 7

2.2 熵的基本性质 9

2.3 交互信息 13

2.4 交互信息的基本性质 18

2.5 连续随机变量的熵与交互信息 26

本章有关文献注释 32

3.1 离散信源的定义 34

第三章 离散信源的无错编码 34

3.2 离散无记忆信源的等长编码 37

3.3 不等长编码 42

3.4 霍夫曼（Huffman）最优编码 51

本章有关文献注释 56

第四章 离散无记忆信道的信道容量 58

4.1 离散无记忆信道的定义和例 58

4.2 离散无记忆信道的信道容量 65

4.3 信息散度的交替极小序列 72

4.4 信道容量的计算 77

本章有关文献注释 84

第五章 离散无记忆信道的编码定理 85

5.1 信道的分组编码和译码 85

5.2 最优码的错误概率的上界 93

5.3 离散无记忆信道的编码定理及错误界指数的性质 98

5.4 错误界指数E（R）的计算 109

5.5 离散无记忆信道的编码逆定理 112

5.6 香农（Shannon）编码定理 119

本章有关文献注释 121

第六章 线性分组码 123

6.1 线性分组编码的定义及其矩阵表示 123

6.2 系统编码与校验矩阵 125

6.3 在二进对称信道上系统编码及其最优译码的实现 131

6.4 线性码的错误概率及纠错能力 136

6.5 最优线性码的错误概率界 143

本章有关文献注释 149

7.1 线性卷积编码的定义及其数学表示 150

第七章 线性卷积码 150

7.2 线性卷积码的图表示 157

7.3 卷积码的最大似然译码——维特比（Viterbi）译码算法 162

7.4 卷积码的错误概率界和数重函数 169

7.5 错误的无限扩散性与恶性卷积码 176

7.6 最优时变卷积码的比特错误概率界 180

本章有关文献注释 189

8.1 卷积码的序贯译码 190

第八章 卷积码的序贯译码及搜索最优卷积码的方法 190

8.2 序贯译码的计算及其分布 196

8.3 序贯译码的错误概率和溢出概率 200

8.4 卷积码的距离及其计算 204

8.5 选出最优或接近最优卷积码的计算方法 211

本章有关文献注释 218

第九章 信源编码的率失真理论 220

9.1 信源的保真度编码 220

9.2 率失真函数 224

9.3 最优码的失真的上界 227

9.4 离散无记忆信源的保真度编码定理 232

9.5 率失真函数的计算 236

9.6 连续无记忆信源的保真度编码定理 244

本章有关文献注释 252

第十章 多用户信息论初步 254

10.1 多用户信息传输系统模型 254

10.2 离散无记忆相关信源的渐近等同分割性 259

10.3 离散无记忆相关信源的编码定理 263

10.4 多接入信道的编码定理 271

10.5 相关信源通过2接入信道的传输定理 280

10.6 广播信道的编码定理 286

本章有关文献注释 294

第十一章 密码学引论 296

11.1 基于信息论的密码学理论 296

11.2 序列密码与移位寄存器序列 305

11.3 分组密码与DES 316

11.4 公开钥密码系统 322

11.5 确证、数字签名和密钥分配 329

本章有关文献注释 332

参考文献 334