信息论导引PDF电子书下载

第一章 引论 1

信息论的起源和发展史 1

信息的定义 2

信息的特征和性质 3

信息的特征 3

信息的性质 5

现代信息技术的含义和基本内容 6

现代信息技术的含义 6

信息技术的基本内容 6

在通信领域中信息技术的基本内容 7

预备知识 8

概率论的基本知识 8

随机变量及其统计特征简介 13

习题一 19

第二章 信息论的基本概念 20

信源的分类 20

自信息量 20

自信息量 21

联合自信息量 22

条件自信息量 22

互信息量 23

互信息量 23

互信息量的性质 24

条件互信息量 25

平均自信息量——熵 26

熵的定义 26

条件熵 28

共熵 28

熵函数的性质 29

平均互信息量 33

平均互信息量的定义 34

平均互信息量的性质 34

数据处理定理 36

平均互信息量的物理意义 37

离散信源的熵 38

各种离散信源的熵 38

各种离散信源的时间熵 42

连续信源的熵 44

连续信源的熵 44

几种特殊连续信源的熵 45

连续随机变量的联合熵、条件熵以及平均互信息量 48

习题二 49

第三章 无失真信源编码 54

信源编码概述 54

信源最佳化 55

概率均匀化——最佳编码 55

编码器的描述 56

码的唯一可译性 58

消息的冗余度 60

相对熵 60

冗余度 61

内熵 61

定长编码定理和定长编码方法 62

定长无失真编码定理 62

定长编码的效率 63

变长编码定理 65

变长编码方法 66

霍夫曼编码 66

费诺编码 72

香农编码 73

一种实用的无失真信源编码——游程编码 74

游程编码的基本原理 74

MH码及其应用 75

习题三 78

第四章 信道 80

信道的分类 80

无扰离散信道 81

无扰离散信道上的信息传输速率 81

无扰离散信道上的信道容量 81

有扰离散信道 85

有扰离散信道的统计特性 85

消息在有扰离散信道上的信息传输速率 90

有扰离散信上道的信道容量 93

译码方案 102

有扰离散信道的编码定理 104

多用户信道 108

多址接入信道 109

广播信道 114

相关信源的多用户信道 118

习题四 120

第五章 离散信源的限失真信源编码 123

引言 123

失真函数和信息率失真函数 124

失真函数 124

信息率失真函数 127

信息率失真函数与信息价值 131

信息率失真函数与信道容量 135

限失真信源编码定理 135

信息率失真函数的性质 136

信息率失真函数的计算 138

具有等概率、对称失真信源的信息率失真函数R（D）计算 138

信息率失真函数的参量表达式计算 142

信息率失真函数的迭代计算 144

连续信源的信息率失真函数 146

习题五 150

第六章 信道编码 151

概述 151

信道编码的基本概念 151

信道编码的基本原理 152

纠错码分类 153

线性分组码 155

线性分组码简述 155

线性分组码及其检错、纠错能力的获得 159

线性分组码的检错、纠错能力 162

汉明码 164

循环码 167

循环码的基本概念 167

循环码的生成矩阵和校验矩阵 169

卷积码 171

习题六 174

第七章 信息加密技术 176

概述 176

密码通信的基本模型 176

通信模型 176

密码体制的基本要求 178

常见威胁 179

保密系统的保密性与随机性 181

古典密码 184

单表密码 184

多表密码 188

换位密码 191

线性反馈移位寄存器密码 194

序列密码和分组密码 197

数据加密标准（DES） 199

DES算法的基本原理 199

DES算法的运算过程 200

DES算法运用应注意的问题 205

现代密码学研究的趋势 205

公钥密码 206

分组密码 206

序列密码 207

Hash函数 207

密钥管理 208

PKI和VPN 209

量子密码 209

习题七 209

参考文献 211