第1章 信息论导论 4
第2章 概率、熵与推理 26
第3章 有关推理的更多内容 57
第一部分 数据压缩 77
第4章 信源编码定理 79
第5章 符号码 105
第6章 符号流码 128
第7章 整数的码 151
第二部分 噪声信道编码 157
第8章 相关随机变量 158
第9章 噪声信道上的通信 166
第10章 噪声信道编码定理 185
第11章 纠错码与实际信道 202
第三部分 信息论中的更多专题 219
第12章 散列码：用于有效信息检索的码 221
第13章 二进制码 235
第14章 存在很好的线性码 263
第15章 有关信息论的更多习题 267
第16章 消息传递 277
第17章 受限无噪信道上的通信 286
第18章 纵横字谜与密码破译 301
第19章 为何有性？信息获取与进化 312
第四部分 概率与推理 325
第20章 一个推理任务示例：聚类 328
第21章 基于完全枚举的精确推理 339
第22章 最大似然与聚类 346
第23章 有用的概率分布 359
第24章 精确边缘化 371
第25章 网格中的精确边缘化 377
第26章 图中的精确边缘化 389
第27章 拉普拉斯方法 397
第28章 模型比较与奥卡姆剃刀原理 400
第29章 蒙特卡罗方法 416
第30章 有效的蒙特卡罗方法 450
第31章 伊辛模型 464
第32章 精确蒙特卡罗采样 480
第33章 变参法 490
第34章 独立元素分析与隐含变量建模 506
第35章 有关随机推理的专题 514
第36章 决策论 522
第37章 贝叶斯推理与抽样理论 529
第五部分 神经网络 541
第38章 神经网络引言 542
第39章 单神经元分类器 545
第40章 单神经元的容量 557
第41章 以学习作推理 567
第42章 Hopfield网络 582
第43章 玻耳兹曼机 600
第44章 多层网络的有监督学习 606
第45章 高斯过程 616
第46章 反卷积 630
第六部分 稀疏图码 637
第47章 低密度奇偶校验码 639
第48章 卷积码与Turbo码 660
第49章 重复累加码 671
第50章 数字喷泉码 680
第七部分 附录 691
附录A 记号 692
附录B 一些物理知识 695
附录C 一些数学知识 699
英汉词汇表 709
参考文献 729