第1章 回顾 1
1.1 数学记号 1
1.2 Taylor定理和数学极限理论 2
1.3 统计记号和概率分布 3
1.4 似然推断 8
1.5 贝叶斯推断 9
1.6 统计极限理论 11
1.7 马氏链 12
1.8 计算 14
第一部分 优化 17
第2章 优化与求解非线性方程组 19
2.1 单变量问题 20
2.1.1 Newton法 23
2.1.2 Fisher得分法 27
2.1.3 正割法 27
2.1.4 不动点迭代法 28
2.2 多元问题 30
2.2.1 Newton法和Fisher得分法 30
2.2.2 类Newton法 34
2.2.3 Gauss-Newton法 38
2.2.4 Nelder-Mead算法 39
2.2.5 非线性Gauss-Seidel迭代法 45
习题 47
第3章 组合优化 51
3.1 难题和NP完备性 51
3.1.1 几个例子 53
3.1.2 需要启发式算法 56
3.2 局部搜索法 56
3.3 模拟退火 59
3.3.1 几个实践问题 60
3.3.2 强化 63
3.4 遗传算法 64
3.4.1 定义和典则算法 65
3.4.2 变化 68
3.4.3 初始化和参数值 72
3.4.4 收敛 72
3.5 禁忌算法 73
3.5.1 基本定义 74
3.5.2 禁忌表 75
3.5.3 期望准则 76
3.5.4 多样化 76
3.5.5 强化 77
3.5.6 一种综合的禁忌算法 78
习题 78
第4章 EM优化方法 82
4.1 缺失数据、边际化和符号 82
4.2 EM算法 83
4.2.1 收敛性 86
4.2.2 在指数族中的应用 88
4.2.3 方差估计 89
4.3 EM变型 94
4.3.1 改进E步 94
4.3.2 改进M步 95
4.3.3 加速方法 99
习题 102
第二部分 积分和模拟 109
第5章 数值积分 111
5.1 Newton-C？tes求积 111
5.1.1 Riemann（黎曼）法则 112
5.1.2 梯形法则 115
5.1.3 Simpson法则 117
5.1.4 一般的k阶法则 119
5.2 Romberg积分 119
5.3 Gauss求积 123
5.3.1 正交多项式 123
5.3.2 Gauss求积法则 124
5.4 常见问题 126
5.4.1 积分范围 126
5.4.2 带奇点或其他极端表现的被积函数 126
5.4.3 多重积分 126
5.4.4 自适应求积 127
5.4.5 精确积分软件 127
习题 127
第6章 模拟与Monte Carlo积分 130
6.1 Monte Carlo方法介绍 130
6.2 精确模拟 131
6.2.1 从标准参数族中产生 132
6.2.2 逆累积分布函数 132
6.2.3 拒绝抽样 132
6.3 近似模拟 140
6.3.1 采样重要性重抽样算法 140
6.3.2 序贯蒙特卡洛 145
6.4 方差缩减技术 155
6.4.1 重要性抽样 155
6.4.2 对偶抽样 161
6.4.3 控制变量 163
6.4.4 Rao-Blackwellization 166
习题 168
第7章 MCMC方法 172
7.1 METROPOLIS-HASTINGS算法 172
7.1.1 独立链 174
7.1.2 随机游动链 176
7.2 Gibbs抽样机 178
7.2.1 基本Gibbs抽样机 179
7.2.2 Gibbs抽样机的性质 184
7.2.3 更新排序 184
7.2.4 区组化 185
7.2.5 混合Gibbs抽样机 185
7.2.6 格点Gibbs抽样机 186
7.3 实施 187
7.3.1 确保良好的混合和收敛 187
7.3.2 实际操作的建议 193
7.3.3 使用结果 193
习题 197
第8章 MCMC中的深入论题 202
8.1 自适应MCMC 202
8.1.1 自适应随机游走的Metropolis-within-Gibbs算法 203
8.1.2 一般的自适应Metropolis-within-Gibbs算法 205
8.1.3 自适应Metropolis算法 211
8.2 可逆跳跃MCMC 213
8.2.1 RJMCMC选择回归变量 216
8.3 辅助变量方法 219
8.3.1 模拟回火 219
8.3.2 切片抽样机 220
8.4 其他METROPOLIS-HASTINGS算法 222
8.4.1 Hit-and-Run算法 222
8.4.2 多次尝试Metropolis-Hastings算法 223
8.4.3 郎之万Metropolis-Hastings算法 224
8.5 完美抽样 225
8.5.1 历史数据配对 225
8.6 马尔科夫链极大似然 228
8.7 例子：马尔科夫随机域上的MCMC算法 229
8.7.1 马尔科夫随机域的Gibbs抽样机 230
8.7.2 马尔科夫随机域的辅助变量方法 234
8.7.3 马尔科夫随机域的完美抽样 237
习题 238
第三部分 Bootstrapping 243
第9章 Bootstrapping 245
9.1 Bootstrap的基本原则 245
9.2 基本方法 246
9.2.1 非参数bootstrap 246
9.2.2 参数化bootstrap 247
9.2.3 Bootstrapping回归 248
9.2.4 Bootstrap偏差修正 249
9.3 Bootstrap推断 250
9.3.1 分位点方法 250
9.3.2 枢轴化 251
9.3.3 假设检验 257
9.4 缩减蒙特卡洛误差 258
9.4.1 平衡bootstrap 258
9.4.2 反向Bootstrap方法 258
9.5 相依数据的Bootstrapping 259
9.5.1 基于模型的方法 259
9.5.2 分块Bootstrap 260
9.6 Bootstrap的性质 269
9.6.1 独立数据的情形 269
9.6.2 相依数据情形 270
9.7 Bootstrap方法的其他用途 270
9.8 置换检验 271
习题 272
第四部分 密度估计和光滑方法 275
第10章 非参密度估计 277
10.1 绩效度量 278
10.2 核密度估计 279
10.2.1 窗宽的选择 280
10.2.2 核的选择 289
10.3 非核方法 291
10.3.1 对数样条 291
10.4 多元方法 293
10.4.1 问题的本质 294
10.4.2 多元核估计 295
10.4.3 自适应核及最近邻 297
10.4.4 探索性投影追踪 301
习题 306
第11章 二元光滑方法 309
11.1 预测-响应数据 310
11.2 线性光滑函数 311
11.2.1 常跨度移动平均 311
11.2.2 移动直线和移动多项式 317
11.2.3 核光滑函数 318
11.2.4 局部回归光滑 319
11.2.5 样条光滑 320
11.3 线性光滑函数的比较 321
11.4 非线性光滑函数 322
11.4.1 Loess 323
11.4.2 超光滑 324
11.5 置信带 328
11.6 一般二元数据 330
习题 331
第12章 多元光滑方法 334
12.1 预测-响应数据 334
12.1.1 可加模型 335
12.1.2 广义可加模型 337
12.1.3 和可加模型有关的其他方法 339
12.1.4 树状方法 344
12.2 一般多元数据 351
12.2.1 主曲线 351
习题 354
数据致谢 357
参考文献 359
索引 403