应用随机过程教程 及在算法和智能计算中的随机模型PDF电子书下载

前言 1

目 录 1

第1章概率论精要回顾与补充 1

1基本框架与典型分布 1

1.1 概率 1

1.2随机变量 1

1.3 d维随机向量 3

1.4独立性 3

1.6基本极限与基本极限定理（大数定律与中心极限定理） 4

1.5 Chebyshev不等式 4

1.7典型分布 7

1.8次序随机变量的分布 11

2条件概率、条件分布、条件（数学）期望 11

2.1 条件概率 11

2.2条件分布 12

2.3条件（数学）期望 13

2.4期望与方差的Wald等式 17

符号说明 19

3统计简要 19

3.1用样本作矩估计 19

3.2最大似然估计 19

3.3线性模型的最小二乘估计及其推广 20

1.1均匀随机变量的计算机模拟 28

1 一维随机数 28

1.2分布函数F（x）的随机数 28

第2章随机样本生成法 28

1.3正态随机数 29

1.4 Poisson随机数 30

1.5混合分布随机数 30

1.6 Von Neuman取舍原则 31

1.7 Gamma随机数与Beta随机数的生成 32

2.2离散型多维随机数 33

2.1连续型多维随机数 33

2.3多维正态随机数 33

2多维随机数 33

*3附录——用Matlab生成随机数 34

3.1 Matlab语言的简单提示 34

2.4多维Beta随机数（Dirichlet随机数）的生成 34

3.2 Matlab生成随机数的语句 36

习题2 38

1.1随机过程与有限维分布族 40

1一般概念 40

1.2独立增量过程 40

第3章 随机过程的一般概念与独立增量过程 40

2 Poisson过程与复合Poisson过程 41

2.1事故申报次数的概率模型与Poisson过程 41

2.2Poisson过程与指数流的关系 43

2.3与指数流有关的一些随机变量与分布 46

2.4常见的推广 49

2.5复合Poisson过程 50

3 Brown运动（Wiener过程）及其函数 51

3.1历史背景与物理模型 51

3.2 Brown运动（数学模型） 53

3.3 Brown运动的简单性质 54

3.4 Brown运动的反射原理及首达性质 55

3.5与Brown运动有关的几个简单随机过程 58

3.6漂移Brown运动 59

3.7几何Brown运动 60

4简单随机徘徊 60

4.1双侧吸收壁的吸收概率 61

4.2随机徘徊的对称原理 62

4.3随机徘徊的首达时刻 62

4.4简单随机徘徊与首达时 63

习题3 65

第4章更新现象及其理论 68

1 Stieltjes积分简述 68

2更新过程的概念 69

2.1作为Poisson过程推广的更新过程 69

2.2更新函数的更新方程 71

2.3年龄与剩余寿命 73

3.1更新定理 75

*3.2更新过程的正态近似 75

3更新定理与更新次数的正态近似 75

*3.3 Blackwell定理与主更新定理 76

4更新过程的变种模型 77

4.1交错更新过程 77

3.4更新间隔为正整值随机变量的更新过程 77

4.2延迟更新过程 78

4.3带酬更新过程 78

5再生过程与其相系的更新过程 79

5.1再生过程的概念 79

5.2与再生过程相系的更新过程 80

5.3 比例极限定理在再生过程中的应用 80

5.4存储模型的一个例子 81

*6 Erlang更新过程 82

6.1 Erlang更新过程的定义 82

6.2 Erlang更新过程的矩母函数 83

习题4 84

1 Markov链的概念 86

1.1定义与Markov性质 86

第5章离散状态Markov链 86

1.2概率转移矩阵 88

1.3时齐的Markov链 89

1.4 Markov链的例 90

习题1 91

2 Markov链的状态分类 94

2.1首达分解、n步转移概率的递推式、矩母函数、常返性 94

2.2常返性再访与Markov链的基本结构 98

2.3平均回访时间与正常返性 101

3.2有限状态Markov链的不变分布与极限分布 102

3.1不变分布与平稳Markov链 102

3 Markov链的转移概率的极限与不变分布 102

3.3转移矩阵的平均极限 105

4 Dobrushin不等式与指数收敛性 107

4.1 Dobrushin不等式 107

4.2 Dobrushin 收敛定理 108

5与常返态相系的延迟更新流，互通常返Markov链的极限定理 109

5.1与常返态相系的延迟更新流 109

5.2互通常返链的极限定理 109

6.1停时 114

6.2强Markov 性 114

6停时与强Markov性 114

7禁忌概率与首达分布 115

7.1禁忌概率 115

7.2首达时与首达分布 115

7.3禁忌概率，首达分布与平均首达时间 115

8可逆Markov链与可逆分布 117

8.1可逆Markov链 117

8.2 例 118

8.3可逆初分布存在性判别法 119

9分支Markov链（Galton-Watson简单分支过程） 120

习题5 123

1.2连续时间的Markov链概率转移矩阵 129

1.1连续时间的Markov链的定义及等价性叙述 129

第6章连续时间的Markov链 129

1连续时间的Markov链及其转移矩阵 129

1.3连续时间的时齐的Markov链 130

2 Poisson过程与复合Poisson过程再访 131

3 由转移速率矩阵确定连续时间的Markov链 133

3.1 Kolmogorov方程及Master方程 133

3.2转移速率矩阵的概率含义 134

4连续时间的Markov链的极限分布 135

4.1 连续时间的Markov链的转移矩阵的平均极限 135

4.2连续时间的Markov链的极限分布 135

5.1连续时间的Markov链的转移矩阵P（t）的不变分布 137

与其嵌入链的不变分布 137

5连续时间的Markov链的转移矩阵P（t）的不变分布 137

5.2连续时间的Markov链的遍历极限 138

5.3对称的与可逆的连续时间的Markov链 139

6 例 140

6.1连续时间分支过程 140

6.2有限格点上的Ising模型与Gauber动力学 142

6.3生灭类过程 143

6.4系统与有效度 149

7连续时间的Markov链的模拟与加速收敛 156

7.1连续时间的Markov链的模拟 156

7.2加速收敛的均匀化方法 156

习题6 156

1.2排队系统的一般框图，输入过程与输出过程 160

1.1排队系统 160

1排队过程的描述 160

第7章排队过程简介 160

1.3可逆性引理 161

2最简单排队过程——Markov排队过程 161

2.1最简单的排队过程——M/M/1系统 161

2.2 N个服务员的简单排队过程——M/M/N系统 163

*2.3序贯排队与排队网络系统 166

2.4 M/M/∞排队系统 167

3排队系统的一般概念 169

3.1关于排队论的一般注记 169

3.2 M/M/N消失制 170

*3.3 M/G/1排队系统 171

*3.4 G/M/1排队系统 174

3.5关于M/G/∞系统的注记 176

*4 半Markov过程 177

4.1半Markov过程的定义 177

4.2 半Markov过程的渐近性质 178

*5有限位相型分布（PH－分布） 179

5.1 背景 179

5.2有限位相型分布（PH－分布） 179

5.3离散PH－分布 182

5.4 PH－分布类的封闭性 183

习题7 184

1计算积分的Monte Carlo方法与采样量估计 186

1.1用频率估计概率来计算积分的Monte Carlo方法 186

第8章Markov链Monte Carlo方法 186

1.2用样本函数的平均值估计的期望来计算积分的 188

Monte Carlo方法——期望法 188

1.3减少方差的技术 189

2 Markov链Monte Carlo 191

2.1 Gibbs采样法 192

2.2 Metropolis采样法 194

2.3通过条件分布对分布π作随机采样的Gibbs方法 197

2.4 MCMC应用于Bayes参数估计 201

3模拟退火 203

3.1模拟退火方法的基本想法 203

3.2有关模拟退火算法的非时齐马氏链的理论背景 205

习题8 208

第9章 以图像信息为背景的随机场 迭代Markov系统 209

1 有限格点上的Markov随机场与图像 209

1.1有限格点上的Markov随机场 209

1.2 相邻系统的Gibbs分布与Gibbs随机场（？－邻位势Gibbs场） 211

1.3 图像处理的随机过程方法的思路原则概述 213

1.4 Gibbs分布的样本的Gibbs采样法 214

1.5 Gibbs分布的模拟退火 216

2时间离散状态连续的Markov链 218

2.1概率空间再访 218

2.2时间离散状态连续的Markov链 219

2.3概率转移核 221

2.4时齐的连续状态Markov链 222

2.5例 223

2.6寻找Rd上可微函数f（x）的最小值位置的模拟退火算法 224

2.7 Dobrushin不等式、指数遍历性与收敛性 225

3随机的迭代函数系统 228

3.1局部相似性的基本想法 228

3.2轮廓图全体组成的距离空间 229

3.3灰度图与随机迭代函数系统 233

4统计中的Bayes方法与图像的处理、分割与重建 237

4.1 Bayes统计要义 237

4.2 Bayes方法在图像中的应用与观测量不是状态变量时的 240

参数估计 240

习题9 242

1.1离散分布的熵与相对熵 243

1熵与相对熵 243

第10章 隐Markev模型及其应用 243

1.2分布密度的熵与相对熵 245

2 隐Markov模型 247

2.1一个实例 247

2.2隐Markov模型的描述 249

2.3隐Markov模型的等价表述 249

2.4非线性滤波作为隐Markov模型的特例 250

2.5在应用中研究隐Markov模型的主要方面 250

3解码问题——已知模型λ与观测Y=y时状态X的估计 251

3.1 出现当前的观测的概率P（Y=y｜λ）的计算 251

3.2解码问题——已知模型λ与观测Y=y时状态X的估计 252

4.2模型参数估计的EM算法的思想 253

4.1状态链样本已知时的参数频率估计 253

4学习问题——由观测Y=y估计模型参数λ 253

4.3隐Markov模型中M步骤的求解 255

5关于隐Markov模型的评注 258

5.1 隐Markov模型包容度大有非常宽的应用面 258

5.2隐Markov模型的更为一般的形式 259

6隐Markov模型的应用例子梗概 260

6.1语音的机器识别 260

6.2脱机手写体汉字识别 262

6.3 DNA序列片断装配及启动子识别 262

习题10 264

1.2复值情形 266

1.1实值情形 266

1 全体方差有限的随机变量构成的Hilbert空间 266

第11章Gauss系 二阶矩过程与时间序列 266

2随机变量族的均方信息空间与滤波 267

2.1均方信息空间 267

2.2滤波问题 267

3 Gauss系与投影再访 268

3.1 Gauss过程的定义、等价条件及其性质 268

3.2 Gauss过程的投影——线性滤波 270

3.3复Gauss过程 271

3.4 Gauss过程的特征泛函 271

4平稳性与宽平稳性 271

4.1平稳序列与宽平稳序列 271

4.3平稳增量序列 273

4.2渐近平稳序列与渐近宽平稳序列 273

5.1 ARMA（p，q） 274

5 ARMA模型 274

5.2 AR模型的定阶与偏相关系数以及模型参数的估计 275

5.3 MA模型的定阶与参数估计 279

5.4 ARMA模型的定阶与参数估计 280

5.5 ARMA模型的预报问题 282

6 ARCH模型 284

6.1 ARCH（q） 284

6.2 ARCH（q）的定阶与参数估计 285

*7 GARCH（p，q）模型与其他随机方差模型 286

7.1 GARCH模型 286

6.3 ARCH（q）模型的方差预报 286

7.2金融证券模型中的GARCH（1，1） 287

7.3 GARCH（p，q）的参数估计 288

7.4 SV模型（随机条件异方差模型） 289

8二阶矩序列滤波的再访 291

8.1线性滤波再访 291

8.2 Kalman-Bucy滤波 292

*9二阶自相似时间序列与长程相关性 295

9.1统计自相似性 295

9.2二阶自相似性 297

9.3长程相关性 298

*10非线性AR模型与二重ARMA模型 301

10.1非线性AR模型 301

10.2非线性AR模型的常见例子 303

习题11 305

10.3 二重ARMA模型 305

第12章连续时间连续状态的Markov过程、鞅、It？积分 307

与随机微分方程 307

1 连续时间连续状态的Markov过程 307

1.1平稳Gauss过程 307

1.2时间与状态都连续的时齐Markov过程 310

2鞅列与鞅 311

*2.1条件期望再访 311

2.2鞅列 313

2.3连续时间参数的鞅 320

3.1对Brown运动的积分与其特殊性 323

3 It？积分——对Brown运动的积分 323

3.2 It？公式 328

4随机微分方程与扩散过程简介 332

4.1随机微分方程 332

4.2扩散过程 335

*4.3 Girsanov定理与Feyman-Kac公式 341

5随机微分方程的解的数值模拟算法 342

5.1 随机微分方程在固定时刻附近的随机Taylor展开 343

与解的差分近似 343

5.2 It？过程的一个光滑函数f复合在时刻t 344

附近的随机Taylor展开 344

5.3差分近似模型的改进 345

习题12 346

1 Black-Scholes模型的欧式未定权益的定价 350

1.1术语与基本假定 350

第13章金融证券未定权益的定价 350

1.2定价的套期方法 352

1.3风险中性概率方法 354

*1.4 币值单位与随机折现因子方法 . 356

1.5倒向随机微分方程方法 358

1.6时变的Black-Scholes模型 359

2二叉模型与Black-Scholes模型的二叉近似 359

2.1二叉模型 359

2.2 Black-Scholes模型的二叉近似 362

3.1美式未定权益 363

3二叉模型的美式未定权益简述 363

3.2二叉模型美式未定权益｛f（Sn），n≤N｝的 366

定价与定价函数组 366

4随机利率与债券利率的期限结构 368

4.1 s－零息债券 368

4.2零息债券导出的各种随机利率概念 369

4.3资产定价基本定理与利率衍生证券 371

4.4利率的风险中性模型 371

*5基于证券的随机利率的债券为币值单位折现的证券及其 376

未定权益的定价 376

习题13 377

1.1保险中的利率概念 379

1基本概念 379

第14章 随机过程在精算与风险模型中的应用 379

1.2生存模型的寿命分布与精算模型中的余寿 380

2风险模型与破产理论介绍 382

2.1盈余过程与永不破产的概率 382

2.2时刻t前不破产的概率的公式与估计 383

2.3有准备金时最终破产概率的上界与调节系数 386

2.4破产概率的方程 388

2.5保险费的效用函数与保险费策略的制定 . 389

2.6最大损失的分布 390

3考虑利率与投资的保险模型简述 391

习题14 391

1.1 EM算法的基本想法 393

1 EM算法——具有隐状态变量的分布中参数的最大似然估计 393

第15章 与数据建模有关的几个算法 393

1.2 Rubin算法 394

1.3 EM算法的变通——广义EM算法 395

*2在数据不完全时，用增补潜在数据后对参数的Bayes分布作估计 396

——Tanner-Wong的潜变量法 396

2.1基本想法——估计后验分布 396

2.2未知参数的后验分布的迭代估计 396

3几种智能算法 397

3.1 背景 397

3.2决定性的人工神经网络 398

3.2.1决定性的前传人工神经网络 399

3.3.2递归（或反馈）（recu1rrent）网络与Boltzman机 401

3.3.1 随机因素及其作用 401

3.2.2一般的决定性的人工神经网络模型 401

3.3随机的人工神经网络 401

（神经元未必只取1或0） 401

3.4演化算法，遗传算法 405

4聚类，Kohonen自组织学习，自适应算法 409

4.1k－平均聚类 409

4.2 自适应聚类的基本思路 409

4.3固定规模的Kohonen网络 410

4.4 网络的规模的竞争学习 412

5适应最小二乘法——一种适应的变步长的随机逼近 413

1.1 随机决策模型的简单例子 414

1例 414

第16章 离散状态的Markov控制与决策过程简介 414

1.2简单模型的启示 416

2动作只依赖当前所处状态的简单决策模型 417

2.1简单模型的一般描述 417

2.2有限时段总报酬准则下的最佳Markov策略的构造 419

2.3无穷时段下的总报酬情形 420

第17章Poisson随机分析简介与典型的点过程 423

1非时齐的Poisson过程、非时齐的复合Poisson过程及其特征泛函 423

1.1数值函数对Poisson过程的积分 423

1.2 Poisson过程的特征泛函 423

1.3非时齐Poisson过程的统计性质 424

过程的特征泛函 426

1.4 数值函数对非时齐Poisson过程的积分及非时齐的Poisson 426

1.5非时齐的复合Poisson过程及其特征泛函 428

2与非时齐的复合Poisson过程相系的Poisson点过程 429

2.1 将非时齐复合Poisson过程表示为非时齐Poisson过程 429

的积分（用时间积分表示） 429

2.2将非时齐复合Poisson过程表示为Poisson点过程 430

的积分（用空间积分表示） 430

2.3将非时齐复合Poisson过程表示为时空Poisson过程 432

的积分（用时空积分表示） 432

3过滤的Poisson过程 433

4 Poisson随机微积分简介 434

4.1关于时空Poisson点过程的随机积分 434

方程与Poisson随机微积分的复合函数的It？公式 436

4.2 以Poisson过程或以时空Poisson点过程驱动的随机微分 436

4.3 由Brown运动和时空Poisson过程联合驱动的随机微分方程 439

5 自激点过程 440

5.1 自激点过程的强度过程与条件计数强度 440

5.2 自激点过程的绝对概率 440

5.3 自激点过程的事件到达时刻的联合分布 441

5.4具有限记忆的自激点过程 442

5.5对于自激点过程的随机积分 443

5.6二重Poisson过程 443

习题17 445

参考文献 447

索引 449