第1章 引言与实例 1
1.1 对蒙特卡罗技术的需求 1
1.2 全书的范围及概要 2
1.3 统计物理学中的计算 5
1.4 分子结构模拟 6
1.5 生物信息学:找弱重复图样 8
1.6 非线性动力系统:目标追踪 10
1.7 天文观测中的假设检验 12
1.8 多层模型的贝叶斯推断 13
1.9 蒙特卡罗和缺失数据问题 14
第2章 基本原理:舍取法、加权法以及其他方法 17
2.1 生成简单随机变量 17
2.2 舍取法 18
2.3 方差减少法 19
2.4 链式结构模型的精确方法 20
2.4.1 动态规划 21
2.4.2 精确模拟 22
2.5 重点抽样和加权样本 23
2.5.1 一个例子 23
2.5.2 基本思想 24
2.5.3 重点抽样的经验法则 25
2.5.4 加权样本的概念 27
2.5.5 重点抽样中的边际化方法 27
2.5.6 例子:求解一个线性系统 28
2.5.7 例子:贝叶斯缺失数据问题 29
2.6 高级重点抽样技术 31
2.6.1 自适应重点抽样 31
2.6.2 舍取和加权 32
2.6.3 序贯重点抽样 34
2.6.4 序贯重点抽样中的舍取控制 35
2.7 SIS在群体遗传学中的应用 36
2.8 问题 38
第3章 序贯蒙特卡罗的理论 39
3.1 早期发展:凝聚成聚合物 40
3.1.1 一个简单的聚合物模型:自避免游动 40
3.1.2 在方格子点上凝聚成聚合物 41
3.1.3 增长性方法的局限性 43
3.2 统计缺失数据问题的序贯补借 44
3.2.1 似然计算 44
3.2.2 贝叶斯计算 45
3.3 非线性滤波 46
3.4 一般框架 49
3.4.1 抽样分布的选择 50
3.4.2 归一化常数 50
3.4.3 修剪、增峰和重抽样 51
3.4.4 再谈重抽样 52
3.4.5 部分舍取控制 54
3.4.6 边际化、先行和延迟估计 54
3.5 问题 55
第4章 应用序贯蒙特卡罗 57
4.1 生物学问题 57
4.1.1 分子模拟 57
4.1.2 种群遗传学中的推断 59
4.1.3 找DNA序列的基序模式 60
4.2 近似积和 65
4.3 有固定边际和的0-1表格的计算 67
4.4 贝叶斯缺失数据问题 68
4.4.1 Murray数据 68
4.4.2 二项分布数据的非参数贝叶斯分析 69
4.5 信号处理问题 71
4.5.1 混杂信号的目标跟踪和混合Kalman滤波 71
4.5.2 衰落信道的数字信号提取 73
4.6 问题 75
第5章 Metropolis算法及其推广 77
5.1 Metropolis算法 78
5.2 数学公式和Hastings的推广 82
5.3 为什么Metropolis算法是正确的? 83
5.4 一些特殊算法 84
5.4.1 随机游动Metropolis算法 84
5.4.2 Metropolis化独立抽样 84
5.4.3 结构偏差(configurational bias)蒙特卡罗 85
5.5 多点Metropolis方法 86
5.5.1 多重独立建议 87
5.5.2 关联性多点建议 88
5.6 可逆跳跃法则 90
5.7 动态权 91
5.8 输出分析和算法的效率 92
5.9 问题 94
第6章 Gibbs抽样 95
6.1 Gibbs抽样算法 95
6.2 实例分析 96
6.3 一些特殊的抽样 98
6.3.1 切片(slice)抽样 98
6.3.2 Metropolis化Gibbs抽样 98
6.3.3 打了就走(Hit-and-run)算法 99
6.4 数据扩充算法 100
6.4.1 贝叶斯缺失数据问题 100
6.4.2 最初的DA算法 100
6.4.3 与Gibbs抽样的联系 101
6.4.4 一个例子:分层贝叶斯模型 101
6.5 找生物序列中的重复基序 103
6.5.1 探测隐基序的Gibbs抽样 103
6.5.2 排列与分类 104
6.6 Gibbs抽样的协方差结构 106
6.6.1 数据增广 106
6.6.2 随机扫描Gibbs抽样的自协方差 106
6.6.3 蒙特卡罗抽样更为有效的应用 108
6.7 Gibbs抽样中的折叠与聚类 108
6.8 问题 111
第7章 伊辛模型的聚类算法 113
7.1 伊辛模型和Potts模型的回访 113
7.2 数据增广的Swendsen-Wang算法 114
7.3 收敛分析和推广 115
7.4 Wolff改进算法 115
7.5 进一步的推广 116
7.6 讨论 116
7.7 问题 117
第8章 广义条件抽样 119
8.1 部分重抽样 119
8.2 部分重抽样的案例研究 120
8.2.1 高斯随机场模型 120
8.2.2 纹理合成 122
8.2.3 多元t分布的推断 125
8.3 变换群和广义Gibbs 126
8.4 应用:数据增广的参数扩张 128
8.5 贝叶斯推断中的一些例子 129
8.5.1 Probit回归 129
8.5.2 蒙特卡罗与随机微分方程的联系 131
8.6 问题 133
第9章 分子动力学和杂交蒙特卡罗方法 135
9.1 牛顿力学基础 136
9.2 分子动力学模拟 137
9.3 杂交蒙特卡罗 139
9.4 与HMC相关的算法 142
9.4.1 Langevin-Euler移动 142
9.4.2 广义杂交蒙特卡罗 142
9.4.3 辅助转移法 143
9.5 杂交蒙特卡罗的多点策略 144
9.5.1 Neal窗口法 144
9.5.2 多点法 145
9.6 HMC在统计中的应用 146
9.6.1 间接观察模型 146
9.6.2 随机波动模型的估计 148
第10章 多层抽样和优化方法 151
10.1 伞抽样 151
10.2 模拟退火 153
10.3 模拟回火 154
10.4 并行回火 156
10.5 广义系综模拟 158
10.5.1 多典则抽样 158
10.5.2 1/k系综方法 160
10.5.3 算法比较 160
10.6 动态加权回火 161
10.6.1 在次临界温度点的伊辛模型的模拟 162
10.6.2 神经网络训练 163
第11章 基于总体的蒙特卡罗方法 165
11.1 自适应方向抽样:Snooker算法 165
11.2 共轭梯度蒙特卡罗 166
11.3 进化蒙特卡罗 167
11.3.1 二值编码空间中的进化移动 168
11.3.2 连续空间的进化移动 169
11.4 一些进一步的思考 170
11.5 数值例子 171
11.5.1 从双峰分布中抽样 171
11.5.2 对多峰分布例子进行算法比较 172
11.5.3 利用0-1编码EMC进行变量选择 173
11.5.4 贝叶斯神经网络训练 175
11.6 问题 177
第12章 马尔可夫链及其收敛性 179
12.1 马尔可夫链的基本性质 179
12.1.1 Chapman-Kolmogorov方程 180
12.1.2 收敛到平稳态 181
12.2 耦合法在洗牌问题中的应用 182
12.2.1 随机置顶洗牌 182
12.2.2 快速洗牌 183
12.3 有限状态空间马尔可夫链的收敛定理 184
12.4 一般马尔可夫链中的耦合方法 185
12.5 几何不等式 187
12.5.1 基本设定 187
12.5.2 Poincaré不等式 188
12.5.3 例子:图上的简单随机游动 189
12.5.4 Cheeger不等式 190
12.6 马尔可夫链的泛函分析 192
12.6.1 前进和后退算子 192
12.6.2 马尔可夫链的收敛速度 194
12.6.3 最大相关系数 195
12.7 求均值时的表现 196
第13章 精选的理论论题 197
13.1 MCMC收敛性和收敛诊断 197
13.2 迭代条件抽样 198
13.2.1 数据增广 198
13.2.2 随机扫描Gibbs抽样 200
13.3 Metropolis型算法的比较 201
13.3.1 Peskun排序 201
13.3.2 用Peskun排序比较抽样方法 202
13.4 独立抽样的特征值分析 204
13.5 理想模拟 206
13.6 动态加权理论 208
13.6.1 定义 208
13.6.2 不同情况下的权重表现 209
13.6.3 加权样本的估计 211
13.6.4 模拟研究 212
附录A 概率和统计基础 215
A.1 概率论基础 215
A.1.1 试验、事件和概率 215
A.1.2 一元随机变量及其性质 216
A.1.3 多元随机变量 217
A.1.4 随机变量的收敛性 218
A.2 统计模型和推断 219
A.2.1 参数统计模型 219
A.2.2 统计推断的频率方法 220
A.2.3 贝叶斯方法 221
A.3 贝叶斯过程和缺失数据形式 222
A.3.1 联合分布和后验分布 222
A.3.2 缺失数据问题 223
A.4 EM算法 225
参考文献 229
作者索引 247
索引 253