信息论与编码PDF电子书下载

第1章 概论 1

1．1信息的一般概念 1

1．2信息的分类 5

1．3信息论的起源、发展及研究内容 6

第2章 信源熵 10

2．1单符号离散信源 10

2．1．1单符号离散信源的数学模型 10

2．1．2自信息和信源熵 11

2．1．3信源熵的基本性质和定理 23

2．1．4加权熵的概念及基本性质 29

2．1．5平均互信息量 34

2．1．6各种熵之间的关系 48

2．2多符号离散平稳信源 49

2．2．1序列信息的熵 49

2．2．2离散平稳信源的数学模型 52

2．2．3离散平稳信源的信源熵和极限熵 53

2．2．4马尔可夫信源 58

2．2．5信源冗余度及信息变差 64

2．3连续信源 68

2．3．1连续信源的熵 68

2．3．2几种特殊连续信源的熵 72

2．3．3连续熵的性质及最大连续熵定理 75

2．3．4熵功率 81

2．4离散无失真信源编码定理 83

习题 89

第3章 信道容量 93

3．1信道的数学模型和分类 93

3．2单符号离散信道的信道容量 94

3．2．1信道容量的定义 94

3．2．2几种特殊离散信道的信道容量 96

3．2．3离散信道容量的一般计算方法 105

3．3．1多符号离散信道的数学模型 109

3．3多符号离散信道 109

3．3．2离散先记忆信道和独立并联信道的信道容量 110

3．4多用户信道 115

3．4．1多址接入信道 116

3．4．2广播信道 119

3．4．3相关信源的多用户信道问题 121

3．5连续信道 124

3．6信道编码定理 128

习题 128

第4章 信息率失真函数 133

4．1基本概念 133

4．1．1失真函数与平均失真度 134

4．1．2信息率失真函数的定义 138

4．1．3信息率失真函数的性质 140

4．2离散信源的信息率失真函数 145

4．2．1离散信源信息率失真函数的参量表达式 146

4．2．2二元及等概率离散信源的信息率失真函数 149

4．3连续信源的信息率失真函数 155

4．3．1连续信源信息率失真函数的参量表达式 155

4．3．2高斯信源的信息率失真函数 156

4．3．3信息率失真函数与信息价值 160

4．3．4信道容量与信息率失真函数的比较 164

4．4保真度准则下的信源编码定理 165

习题 165

第5章 信源编码 168

5．1香农编码 169

5．2费诺编码 170

5．3哈夫曼编码 172

5．4游程编码 180

5．5冗余位编码 184

习题 186

6．1．2编码信道 188

6．1．1信道编码的作用与分类 188

6．1信道编码的概念 188

第6章 信道编码 188

6．1．3检错与纠错原理 190

6．1．4检错与纠错方式和能力 193

6．2线性分组码 195

6．2．1线性分组码的描述 195

6．2．2线性分组码的译码 199

6．2．3码例与码的重构 205

6．3循环码 213

6．3．1循环码的多项式描述 213

6．3．2循环码的生成矩阵 217

6．3．3系统循环码 220

6．3．4多项式运算电路 221

6．3．5循环码的编码电路 225

6．3．6循环码的伴随多项式与检错 228

6．3．7 BCH码与RS码 230

6．4卷积码 233

6．4．1卷积码的矩阵描述 233

6．4．2卷积码的多项式描述 238

6．4．3卷积码的状态转移图与棚格描述 241

6．4．4维特比（Viterbi）译码算法 247

习题 255

参考文献 260