信息论与编码PDF电子书下载

引言 1

第一章 单符号离散信源 1

第一节 信源的数学模型 1

第二节 信源符号的自信量 2

第三节 信源的信息熵 6

第四节 信息熵的代数性质 10

第五节 信息熵的解析性质 18

第六节 信息熵的最大值 23

第七节 熵函数的公理构成 27

第八节 加权熵及其数学特性 31

第九节 加权熵的公理构成 40

第十节 效用信息熵 54

习题 61

第一节 信道的数学模型 63

第二章 单符号离散信道 63

第二节 交互信息量 66

第三节 条件交互信息量 71

第四节 平均交互信息量 77

第五节 平均交互信息量的非负性 83

第六节 平均交互信息量的极值性 85

第七节 平均交互信息量的不增性 91

第八节 平均交互信息量的上凸性 102

第九节 信道容量及其一般算法 105

第十节 几种无噪信道的信道容量 117

第十一节 几种对称信道的信道容量 121

第十二节 可逆矩阵信道的信道容量 131

第十三节 信道容量的迭代计算 135

习题 143

第一节 离散平稳信源的数学模型 149

第三章 多符号离散信源与信道 149

第二节 离散平稳无记忆信源的信息熵 151

第三节 离散平稳有记忆信源的信息熵 155

第四节 离散平稳有记忆信源的极限熵 165

第五节 马尔柯夫(Markov)信源的极限熵 168

第六节 信源的剩余度与结构信息 186

第七节 离散无记忆信道的数学模型 188

第八节 离散无记忆信道的信道容量 194

第九节 独立并列信道的信道容量 198

习题 201

第四章 单维连续信源与信道 204

第一节 相对熵与平均交互信息量 204

第二节 几种单维连续信源的相对熵 212

第三节 相对熵的极值性 215

第四节 相对熵的上凸性 218

第五节 最大相对熵定理 220

第六节 信息变差与熵功率 225

第七节 连续熵的变换 227

第八节 平均交互信息量的不变性 230

第九节 数据处理定理 232

第十节 连续信源的信息测量 238

第十一节 连续信道的信道容量 243

第十二节 高斯加性信道的容量 247

习题 252

第五章 多维连续信源与信道 255

第一节 随机过程的离散化 255

第二节 多维连续信源的熵 271

第三节 多维熵的最大值 280

第四节 多维熵的变换 283

第五节 多维连续信道的传输特性 287

第六节 高斯白噪声 291

第七节 高斯白噪声加性信道的容量 294

第八节 独立并列信道的最大容量 299

习题 305

第六章 无失真信源编码 307

第一节 单义可译码 308

第二节 非延长码及其构成 310

第三节 单义可译定理 312

第四节 平均码长与有效性 316

第五节 平均码长的界限定理 320

第六节 信源扩展与数据压缩 325

第七节 无失真信源编码定理 330

第八节 霍夫曼(Huffman)有效码 333

习题 349

第七章 抗干扰信道编码 351

第一节 译码规则 351

第二节 译码规则的选择准则 354

第三节 信道编码的编码原则 359

第四节 抗干扰信道编码定理 366

第五节 纠错码及其检纠能力 375

第六节 线性分组码的代数结构 384

第七节 线性分组码及其生成矩阵 402

第八节 一致校验矩阵与伴随式 410

第九节 标准阵列与译码表 420

第十节 检纠能力与一致校验矩阵的关系 435

第十一节 完备码 439

第十二节 汉明码与扩展汉明码 446

习题 453

第八章 限失真信源编码 458

第一节 信息传输率与信道的关系 458

第二节 平均失真度 461

第三节 信息率失真函数R(D)与数据压缩 465

第四节 R(D)函数的数学特性 479

第五节 离散信源的R(D)函数 483

第六节 离散信源R(D)函数的参量表述 492

第七节 二元离散信源R(D)函数的参量计算 497

第八节 前向与反向试验信道的转换 502

第九节 R(D)函数的迭代计算 506

第十节 高斯连续信源的R(D)函数 509

第十一节 连续信源R(D)函数的参量表述 516

第十二节 高斯连续信源R(D)函数的参量计算 519

第十三节 前向与反向高斯加性试验信道的转换 525

第十四节 限失真信源编码定理 531

第十五节 R(D)函数与信息价值 544

第十六节 广义信息率失真函数 552

习题 560

第九章 网络信息理论 563

第一节 双输入单输出信道的信道容量 563

第二节 离散二址接入信道的容量界限 566

第三节 高斯加性二址接入信道的容量界限 574

第四节 单输入双输出信道的信道容量 580

第五节 高斯链式接续信道的容量界限 583

第六节 相关信源的边信息与公信息 589

习题 592

附录 《供熵函数计算用的几种函数表》 593

参考文献 596