信息论与编码PDF电子书下载

引言 1

第一章 单符号离散信源 5

第一节 信源的数学模型 5

第二节 信源符号的自信量 7

第三节 信源的信息熵 11

第四节 信息熵的代数性质 17

第五节 信息熵的解析性质 25

第六节最大离散熵定理 32

第七节 均值受限的最大离散熵 34

第八节 熵函数的唯一性定理 38

第九节 加权熵及其数学特性 42

第十节 加权熵的唯一性定理 52

第十一节 效用信息熵 66

习题 74

第二章 单符号离散信道 76

第一节 信道的数学模型 76

第二节 信道的交互信息量 80

第三节 条件交互信息量 90

第四节 平均交互信息量 96

第五节 平均交互信息量的非负性 106

第六节 平均交互信息量的极值性 109

第七节 平均交互信息量的不增性 119

第八节 平均交互信息量的上凸性 132

第九节 信道容量及其一般算法 135

第十节 信道容量的等量平衡定理 143

第十一节 几种无噪信道的信道容量 150

第十二节 几种对称信道的信道容量 154

第十三节 可逆矩阵信道的信道容量 168

第十四节 信道容量的迭代计算 173

习题 182

第三章 多符号离散信源与信道 188

第一节 离散平稳信源的数学模型 188

第二节 离散平稳无记忆信源的信息熵 193

第三节 离散平稳有记忆信源的信息熵 197

第四节 离散平稳有记忆信源的极限熵 209

第五节 马尔柯夫（Markov）信源的极限熵 212

第六节 信源的剩余度与结构信息 238

第七节 扩展信道及其数学模型 241

第八节 无记忆扩展信道 244

第九节 扩展信道的平均交互信息量 250

第十节 无记忆扩展信道的信道容量 259

第十一节 独立并列信道的信道容量 263

习题 273

第四章 单维连续信源与信道 276

第一节 连续信源的相对熵 277

第二节 连续信道和平均交互信息量 279

第三节 几种连续信源的相对熵 288

第四节 相对熵的数学特性 291

第五节 最大相对熵定理 295

第六节 熵功率与信息变差 300

第七节 相对熵的变换 303

第八节 平均交互信息量的不变性 306

第九节 连续信道的数据处理定理 308

第十节 连续信源的信息测量 314

第十一节 连续信道的信道容量 321

第十二节 高斯加性信道的信道容量 326

习题 332

第五章 多维连续信源与信道 336

第一节 随机过程的离散化 336

第二节 多维连续信源的相对熵 352

第三节 最大多维相对熵定理 360

第四节 多维相对熵的变换 365

第五节 无记忆信道的平均交互信息量 370

第六节 高斯白噪声加性信道的容量 377

第七节 独立并列高斯加性信道容量的最大化 389

习题 396

第六章 无失真信源编码 399

第一节 单义可译码 400

第二节 非延长码及其构成 402

第三节 单义可译定理 405

第四节 平均码长与码率 409

第五节 信源扩展与数据压缩 420

第六节 无失真信源编码定理 424

第七节 霍夫曼（Huffman）码 427

习题 444

第七章 抗干扰信道编码 447

第一节 译码规则和错误概率 447

第二节 最小错误概率译码准则 454

第三节 简单重复编码 462

第四节 信道编码的一般概念 467

第五节 汉明（Hamming）距离与最小误码率 471

第六节 抗干扰信道编码定理 486

习题 503

第八章 线性分组码 506

第一节 线性分组码的一般概念 506

第二节 线性分组码的代数结构 516

第三节 线性分组码的构成 537

第四节 一致校验矩阵 548

第五节 错误图样与伴随式 557

第六节 标准阵列与译码表 560

第七节 检纠能力与一致校验矩阵的关系 575

第八节 完备码 580

第九节 汉明（Hamming）码与扩展汉明码 588

习题 596

第九章 信息率—失真函数 600

第一节 平均交互信息量的下凸性 600

第二节 平均失真度 605

第三节 信息率—失真函数的定义 610

第四节R（D）函数的定义域 613

第五节R（D）函数的数学特性 629

第六节 二元离散信源的R（D）函数 633

第七节 等概离散信源的R（D）函数 641

第八节 离散信源R（D）函数的参量表述 656

第九节 二元离散信源R（D）函数的参量计算 662

第十节 高斯连续信源的R（D）函数 671

第十一节 连续信源R（D）函数的参量表述 680

第十二节 高斯连续信源R（D）函数的参量计算 684

第十三节R（D）函数的迭代计算 695

第十四节R（D）函数与信息价值 699

第十五节 广义信息率—失真函数 708

习题 716

第十章 限失真信源编码 719

第一节 离散无记忆扩展信源的R（D）函数 719

第二节 数据压缩的一般概念 732

第三节 限失真信源编码定理 745

习题 756

第十一章 信源—信道编码 757

第一节 信息传输速率的上界 757

第二节 信源—信道编码定理 760

习题 765

第十二章 网络信息理论 767

第一节 双输入单输出信道的信道容量 767

第二节 离散二址接入信道的容量计算 771

第三节 高斯加性二址接入信道的容量计算 780

第四节 单输入双输出信道的信道容量 783

第五节 高斯链式接续信道的容量计算 786

习题 792

附录《供熵函数计算用的几种函数表》 794

参考文献 797