非线性回归分析及其应用PDF电子书下载

1 线性回归的回顾 1

1.1 线性回归模型 1

1.1.1 最小二乘估计 5

1.1.2 样本理论的推断结果 6

1.1.3 似然推断的结果 7

1.1.4 贝叶斯推断的结果 7

1.1.5 注记 8

1.2 线性最小二乘的几何 10

1.2.1 期望曲面 11

1.2.2 最小二乘估计的求解 14

1.2.3.1 样本方法的几何 17

1.2.3 参数推断域 17

1.2.3.2 边缘置信区间 21

1.2.3.3 似然方法的几何 25

1.3 假设条件和模型的评估 26

1.3.1 假设条件及其意义 26

1.3.2 模型评估 29

1.3.2.1 作残差图 30

1.3.2.2 方差稳定化 31

1.3.2.3 失拟 32

2 非线性回归：迭代估计量与线性近似 36

2.1 非线性回归模型 36

2.1.1 可变换为线性的模型 38

2.1.3 期望曲面的几何 40

2.1.2 条件线性参数 40

2.2 最小二乘估计的求解 43

2.2.1 高斯一牛顿法 44

2.2.1.1 步长因子 47

2.2.2 非线性最小二乘的几何 47

2.2.3 收敛性 54

2.3 非线性回归推断的线性近似方法 58

2.3.1 参数的近似推断区域 58

2.3.2 期望响应的近似推断带 62

2.4 非线性最小二乘的平方和方法 66

2.4.1 线性近似 67

2.4.2 迭代过量 70

2.5 线性近似的使用 71

3 实际问题的研究 74

3.1 模型函数的确定 74

3.1.1 期望函数 74

3.1.2 随机扰动项 77

3.2 预备性分析 78

3.3 初始值 80

3.3.1 解释期望函数的性质 80

3.3.2 解释期望函数的导函数 81

3.3.3 期望函数的变换 81

3.3.4 降低维数 84

3.3.5 条件线性模型 85

3.4 参数变换 85

3.4.1 带限制的参数 86

3.4.2 促进收敛 87

3.5 其它迭代方法 88

3.5.1 Newton-Raphson方法 88

3.5.2 Levenberg-Marqurdt折衷方法 89

3.5.3 数值导数 91

3.5.4 无导数方法 92

3.5.5 消除条件线性参数 95

3.6 获得收敛 96

3.7 拟合的评估和模型的修正 100

3.8 残差的相关性 102

3.9 累积数据 107

3.9.1 直接积分的参数估计 109

3.10 模型比较 113

3.10.1 嵌套模型 114

3.10.2 增量参数和示性变量 115

3.10.3 非嵌套的模型 118

3.11 参数作为其它变量的函数 119

3.12 分析结果的报告 120

3.13 亚硝酸盐的利用率：案例分析 121

3.13.1 预备性分析 122

3.13.2 模型选择 124

3.13.3 初始值 125

3.13.4 拟合的评估 125

3.13.5 模型的修正 126

3.13.8 再次评估拟合 128

3.13.6 评估拟合 128

3.13.7 模型的化简 128

3.13.9 模型的比较 132

3.13.10 结果的报告 133

3.14 试验设计 134

3.14.1 一般考虑 134

3.14.2 行列式准则 136

3.14.3 初始设计 138

3.14.4 序贯设计 140

3.14.5 子集设计 142

3.15.6 条件线性模型 142

3.15.7 其它设计准则 144

4.1 多元响应模型 147

4 多元响应模型的参数估计 147

4.1.1 行列式准则 151

4.1.2 多元响应模型中估计的推断 152

4.1.3 多元响应模型中估计量维数的考虑 154

4.2 一种推广的高斯一牛顿方法 155

4.2.1 行列式的梯度与Hessian阵 156

4.2.2 近似的Hessian阵 157

4.2.3 每一步迭代的计算 159

4.2.4 多元响应情形的一个收敛准则 159

4.3 实用上的考虑 160

4.3.1 获得初始值 160

4.3.1.1 由线性微分方程组描述的多元响应模型的初始估计 161

4.3.2 拟合的评估 164

4.3.3 响应变量之间的相依性 167

4.3.4 响应变量的线性组合 173

4.3.5 模型的比较 177

4.4 缺失数据 179

5 由微分方程组定义的模型 183

5.1 分部模型和系统图 183

5.2 分部模型和参数估计 187

5.2.1 线性微分方程组的求解 188

5.2.1.1 停滞期 190

5.2.1.2 注入中断 190

5.2.2 期望函数的导数 193

5.3.1 参数变换 194

5.3 实用上的考虑 194

5.3.2 可识别性 196

5.3.3 初始值 197

5.4 脂蛋白：案例分析 197

5.4.1 预备性分析 198

5.4.2 一分部模型 198

5.4.3 二分部模型 199

5.4.4 三分部模型 200

5.4.5 三分部模型及其公共参数 202

5.4.6 结论 203

5.5 油页岩：案例分析 203

5.5.2 673K数据的初始值 204

5.5.1 预备性分析 204

5.5.3 单个温度数据的似合 207

5.5.4 过程参数的初始估计 208

5.5.5 完全数据集的拟合 209

5.5.6 结论 213

6 非线性推断域的图示法 215

6.1 似然区域 215

6.1.1 联合参数似然区域 215

6.1.2 截面t图，截面迹图和截面配对图 220

6.1.2.1 截面迹图 223

6.1.2.2 截面配对图 225

6.1.3 评注 231

6.2.1 参数的贝叶斯先验分布的选取 232

6.2 贝叶斯区域 232

6.2.2 联合HPD区域 237

6.3 精确样本理论的置信域 240

6.4 似然方法，贝叶斯方法和样本理论方法的比较 246

7 非线性强度的曲率度量 249

7.1 速度向量和加速度向量 250

7.1.1 切向加速度和法向加速度 252

7.1.2 任意方向上的加速度 257

7.2 相对曲率 259

7.2.1 曲率立体阵的解释 263

7.2.1.1 固有曲率 263

7.2.1.2 参数效应曲率 264

7.2.2 参数的重新设置 267

7.3 RMS曲率 273

7.3.1 计算RMS曲率 274

7.3.2 实际中的RMS曲率 276

7.4 固有非线性效应的直接评估 278

附录1 突例中引用的数据集 285

A1.1 PCB 285

A1.2 伦福德 286

A1.3 嘌呤酶素 287

A1.4 BOD 288

A1.5 异构化作用 288

A1.6 a蒎烯 290

A1.7 硫代异噁唑 291

A1.9 氧化物 292

A1.8 润滑剂 292

A1.10 丙烯酸乙酯 294

A1.11 糖精 296

A1.12 亚硝酸根的利用率 297

A1.13 s-PMMA 298

A1.14 四环素 300

A1.15 油页岩 300

A1.16 脂蛋白 303

附录2 QR分解 304

附录3 算法代码 308

A3.1 非线性最小二乘 308

A3.1.1 应用S 309

A3.1.2 应用GAUSS 312

A3.1.3 应用SAS/IML 316

A3.2 线性近似和学生化残差 319

A3.3 多元响应估计 320

A3.4 微分方程的线性系统 321

A3.5 截面的计算 325

A3.5.1 r与截面门迹图的生成 325

A3.5.2 截面配对图 326

附录4 练习中使用的数据集 328

A4.1 BOD数据集之2 328

A4.2 NTD数据集 329

A4.3 糖精数据集之2 330

A4.4 稳定态的吸附作用 331

A4.6 a蒎烯数据集之2 333

A4.5 树叶数据 333

A4.7 煤的液化作用 334

A4.8 氟哌啶醇 338

附录5 幂矩阵和卷积的计算 340

A5.1 A可对角化的情形 341

A5.2 A不可对角化的情形 343

A5.3 复特征根情形 344

附录6 截面配对边界线的补插 348

附录7 数据集概要 354

参考文献 358

分类文献 370

论题索引 389