信息论 基础理论与应用PDF电子书下载
- 电子书积分:14 积分如何计算积分?
- 作 者:傅祖芸编著
- 出 版 社:北京:电子工业出版社
- 出版年份:2001
- ISBN:7505368508
- 页数:436 页
第1章 绪论 1
1.1 信息的概念 1
1.2 信息论研究的对象、目的和内容 8
1.3 信息论发展简史与现状 11
第2章 离散信源及其信息测度 15
2.1 信源的数学模型及分类 15
2.2 离散信源的信息熵 20
2.2.1 自信息 20
2.2.2 信息熵 24
2.3 信息熵的基本性质 27
2.4 信息熵的惟一性定理 34
2.5 离散无记忆的扩展信源 38
2.6 离散平稳信源 40
2.6.1 离散平稳信源的数学定义 40
2.6.2 二维平稳信源及其信息熵 42
2.6.3 离散平稳信源的极限熵 45
2.7 马尔可夫信源 49
2.7.1 马尔可夫信源的定义 49
2.7.2 马尔可夫信源的信息熵 53
2.8 信源剩余度与自然语言的熵 59
2.9 意义信息和加权熵 64
小结 68
习题 69
第3章 离散信道及其信道容量 73
3.1 信道的数学模型及分类 73
3.1.1 信道的分类 73
3.1.2 离散信道的数学模型 74
3.1.3 单符号离散信道的数学模型 77
3.2 平均互信息及平均条件互信息 80
3.2.1 信道疑义度 80
3.2.2 平均互信息 81
3.2.3 平均条件互信息 84
3.3 平均互信息的特性 86
3.4 信道容量及其一般计算方法 90
3.4.1 离散无噪信道的信道容量 91
3.4.2 对称离散信道的信道容量 93
3.4.3 准对称信道的信道容量 96
3.4.4 一般离散信道的信道容量 97
3.5 信道容量的迭代算法 103
3.5.1 信道容量的迭代算法 103
3.5.2 信道容量迭代算法的收敛性 108
3.6 离散无记忆扩展信道及其信道容量 111
3.7 独立并联信道及其信道容量 117
3.8 串联信道的互信息和数据处理定理 117
3.9 信源与信道的匹配 126
小结 128
习题 129
4.1 编码器 134
第4章 无失真信源编码 134
4.2 等长码 137
4.3 渐近等分割性和ε典型序列 139
4.4 等长信源编码定理 143
4.5 变长码 146
4.5.1 惟一可译变长码与即时码 146
4.5.2 即时码的树图构造法 148
4.5.3 克拉夫特(Kraft)不等式 149
4.5.4 惟一可译变长码的判断法 153
4.6 变长信源编码定理 154
4.7.1 霍夫曼(Huffman)码 162
4.7 霍夫曼码和其他编码方法 162
4.7.2 r元霍夫曼码 164
4.7.3 霍夫曼码的最佳性 165
4.7.4 费诺(Fano)码 168
4.7.5 香农-费诺-埃利斯码 169
4.8 几种实用的无失真信源编码方法 172
4.8.1 MH编码 172
4.8.2 算术编码 176
4.8.3 IZ码 183
小结 185
习题 187
5.1 错误概率和译码规则 192
第5章 有噪信道编码 192
5.2 错误概率与编码方法 197
5.3 联合ε典型序列 204
5.4 有噪信道编码定理 210
5.4.1 有噪信道编码定理 210
5.4.2 有噪信道编码逆定理 212
5.5 联合信源信道编码定理 214
5.6 纠错码的基本思想和汉明码 217
5.6.1 线性分组码的一些基本概念 217
5.6.2 汉明码 219
小结 221
习题 223
第6章 波形信源和波形信道 226
6.1 波形信源的统计特性和离散化 226
6.2 连续信源和波形信源的信息测度 228
6.2.1 连续信源的差熵 228
6.2.2 波形信源的差熵 231
6.2.3 两种特殊连续信源的差熵 232
6.3 具有最大熵的连续信源 234
6.3.1 峰值功率受限条件下信源的最大熵 234
6.3.2 平均功率受限条件下信源的最大熵 235
6.4 熵功率 237
6.5 连续信源熵的变换 238
6.5.1 坐标变换后概率密度函数的变化 239
6.5.2 坐标变换后相对熵的变化 240
6.6 连续信道和波形信道的分类 242
6.6.1 按噪声统计特性分类 242
6.6.2 按噪声对信号的作用功能分类 245
6.6.3 连续信道的分类 245
6.7 连续信道和波形信道的信息传输率 247
6.7.1 单符号连续信道的平均互信息 247
6.7.2 多维连续信道的平均互信息 248
6.7.3 波形信道的信息传输率 248
6.7.4 连续信道平均互信息的特性 249
6.8 连续信道和波形信道的信道容量 253
6.8.1 单符号高斯加性信道 254
6.8.2 单符号非高斯加性信道 255
6.8.3 多维无记忆高斯加性连续信道 255
6.8.4 多维有记忆高斯加性连续信道 260
6.8.5 高斯白噪声加性波形信道 262
6.8.6 有色高斯加性波形信道 264
6.9 连续信道编码定理 266
小结 268
习题 270
第7章 保真度准则下的信源编码 274
7.1.1 失真度 275
7.1 失真度和平均失真度 275
7.1.2 平均失真度 277
7.2 信息率失真函数及其性质 279
7.2.1 信息率失真函数 279
7.2.2 信息率失真函数的性质 280
7.3 信息率失真函数的参量表述及其计算 286
7.4 二元信源和离散对称信源的R(D)函数 294
7.4.1 二元对称信源的R(D)函数 295
7.4.2 离散对称信源的R(D)函数 297
7.5 信息率失真函数的迭代算法 299
7.6.1 连续信源的信息率失真函数 303
7.6 连续信源的信息率失真函数 303
7.6.2 高斯信源的信息率失真函数 304
7.6.3 连续信源R(D)函数的参量表述及其计算 306
7.7 保真度准则下信源编码定理 311
7.7.1 失真ε典型序列 312
7.7.2 保真度准则下信源编码定理的证明 314
7.7.3 保真度准则下信源编码逆定理 316
7.8 联合有失真信源信道编码定理 317
7.9 有失真信源编码定理的实用意义 319
小结 322
习题 323
第8章 网络信息论 327
8.1 通信网信道的分类 327
8.2 联合典型序列 331
8.3 相关信源编码 335
8.4 多址接入信道 340
8.4.1 离散多址接入信道 341
8.4.2 多址接入高斯噪声信道 349
8.5 相关信源和多址接入信道 352
8.5.1 相关信源和多址接入信道的对偶性 352
8.5.2 相关信源的多址接入信道 353
8.6 广播信道 356
8.7 中继信道 363
8.8 具有边信息的信源编码 366
8.9 具有边信息的数据压缩 371
小结 376
习题 377
第9章 保密系统的基本信息理论 380
9.1 保密学的基本概念 380
9.2 保密系统的数学模型 381
9.3 古典密码体制 383
9.3.1 单表密码 383
9.3.2 移位代换密码 383
9.3.3 乘数密码 384
9.3.4 固定周期d的位移置换 385
9.3.5 多表代换密码 385
9.4 完全保密性 387
9.5 理论保密性 390
9.6 实际保密性 393
小结 395
第10章 信息论与其他学科的关系和应用 396
10.1 信息熵与热力学熵 396
10.2 信息论与光学 399
10.2.1 光学信息量 400
10.2.2 光量子信道的信道容量 402
10.2.3 最大熵光学图像恢复 405
10.3 最大熵与谱估计 407
10.3.1 高斯随机过程的熵率 409
10.3.2 伯格的最大熵定理 410
10.4.1 DNA到蛋白质的通信系统 412
10.4 信息论与生物医学 412
10.4.2 医学中的信息分析 417
小结 421
附录 422
附录A 凸函数和詹森不等式 422
附录B 马尔可夫链 426
B.1 马尔可夫链的定义 426
B.2 转移概率和转换矩阵 426
B.3 各态历经定理 428
附录C 熵函数的函数表 432
参考书目和文献 435
- 《市政工程基础》杨岚编著 2009
- 《SQL与关系数据库理论》(美)戴特(C.J.Date) 2019
- 《零基础学会素描》王金著 2019
- 《计算机网络与通信基础》谢雨飞,田启川编著 2019
- 《管理信息系统习题集》郭晓军 2016
- 《生物质甘油共气化制氢基础研究》赵丽霞 2019
- 《联吡啶基钌光敏染料的结构与性能的理论研究》李明霞 2019
- 《情报学 服务国家安全与发展的现代情报理论》赵冰峰著 2018
- 《英汉翻译理论的多维阐释及应用剖析》常瑞娟著 2019
- 《花时间 我的第一堂花艺课 插花基础技法篇》(日)花时间编辑部编;陈洁责编;冯莹莹译 2020
- 《市政工程基础》杨岚编著 2009
- 《家畜百宝 猪、牛、羊、鸡的综合利用》山西省商业厅组织技术处编著 1959
- 《《道德经》200句》崇贤书院编著 2018
- 《高级英语阅读与听说教程》刘秀梅编著 2019
- 《计算机网络与通信基础》谢雨飞,田启川编著 2019
- 《看图自学吉他弹唱教程》陈飞编著 2019
- 《法语词汇认知联想记忆法》刘莲编著 2020
- 《培智学校义务教育实验教科书教师教学用书 生活适应 二年级 上》人民教育出版社,课程教材研究所,特殊教育课程教材研究中心编著 2019
- 《国家社科基金项目申报规范 技巧与案例 第3版 2020》文传浩,夏宇编著 2019
- 《流体力学》张扬军,彭杰,诸葛伟林编著 2019
- 《电子测量与仪器》人力资源和社会保障部教材办公室组织编写 2009
- 《少儿电子琴入门教程 双色图解版》灌木文化 2019
- 《指向核心素养 北京十一学校名师教学设计 英语 七年级 上 配人教版》周志英总主编 2019
- 《北京生态环境保护》《北京环境保护丛书》编委会编著 2018
- 《指向核心素养 北京十一学校名师教学设计 英语 九年级 上 配人教版》周志英总主编 2019
- 《通信电子电路原理及仿真设计》叶建芳 2019
- 《高等院校旅游专业系列教材 旅游企业岗位培训系列教材 新编北京导游英语》杨昆,鄢莉,谭明华 2019
- 《电子应用技术项目教程 第3版》王彰云 2019
- 《中国十大出版家》王震,贺越明著 1991
- 《近代民营出版机构的英语函授教育 以“商务、中华、开明”函授学校为个案 1915年-1946年版》丁伟 2017