信息理论与编码 上PDF电子书下载

目次 1

（上册） 1

序……………………………………………………………（i）前言…………………………………………………………（iii）第一章 引言 1

第一节 信息的一般含义 1

第二节 信息论的基本思路 7

第二章 单符号离散信源 14

第一节 单符号离散信源的数学模型 14

第二节 自信息和信息函数 17

第三节 信息熵 23

第四节 信息熵的代数性质 31

第五节 信息熵的解析性质 45

第六节 离散信源的最大熵值 59

第七节 熵函数的公理构成 65

第八节 加权熵及其数学特性 73

第九节 加权熵的公理构成 88

习题 108

第三章 单符号离散信道 111

第一节 单符号离散信道的数学模型 111

第二节 交互信息量 119

第三节 后验概率与交互信息量的关系 123

第四节 自信息量两种含意的由来 127

第五节 条件交互信息量 131

第六节 平均交互信息量 140

第七节 平均交互信息量的物理意义 143

习题 149

第四章 平均交互信息量的特性 152

第一节 平均交互信息量的非负性 152

第二节 平均交互信息量的交互性 155

第三节 平均交互信息量的极值性 158

第四节 平均交互信息量的凸函数性 169

第五节 平均交互信息量的不增性 179

习题 202

第五章 单符号离散信道的信道容量 205

第一节 信道容量的定义 205

第二节 信道容量的一般计算方法 207

第三节 离散无噪信道的信道容量 219

第四节 强对称离散信道的信道容量 223

第五节 对称离散信道的信道容量 230

第六节 准对称离散信道的信道容量 233

第七节 可逆矩阵信道的信道容量 238

第八节 信道容量的迭代计算 243

习题 256

第六章 多符号离散平稳信源 259

第一节 离散无记忆信源的扩展信源 260

第二节 离散平稳信源的数学模型 268

第三节 二维平稳信源的信息熵 273

第四节 离散平稳信源的极限熵 281

第五节 马尔柯夫（Markov）链 292

第六节 马尔柯夫信源 313

第七节 信源的剩余度与结构信息 322

习题 325

第一节 多符号离散信道的数学模型 328

第七章 多符号离散信道 328

第二节 离散无记忆信道的扩展信道 331

第三节 扩展信道的信息传输特性 337

第四节 独立并列信道的容量 346

习题 351

第八章 连续信源与连续信道 353

第一节 连续随机变量的离散化及其熵 353

第二节 几种特殊连续信源的熵 363

第三节 连续熵的极值性 377

第四节 连续熵的∩型凸函数性 381

第五节 最大连续熵定理 385

第六节 信息变差与熵功率 396

第七节 连续熵的变换 399

第八节 连续信道的平均交互信息量 411

第九节 平均交互信息量的不变性 417

第十节 连续信源的信息测量 420

第十一节 高斯加性连续信道的容量 431

习题 440

第九章 随机过程的熵与信道的信息率 446

第一节 富里埃（Fourier）分析的基本概念 446

第二节 限时和限频随机过程的离散化 460

第三节 随机过程的解相关 472

第四节 随机过程熵的变换 482

第五节 噪声 487

第六节 多维连续信道的传输特性 492

第七节 加性高斯白噪声信道的容量 499

第八节 输入平均功率受限时的信道容量 505

习题 514

第十章 多用户信道 516

第一节 双输入单输出信道 517

第二节 单输入双输出信道 540

第三节 边信息与公信息 551

习题 555