第一部分 最小二乘方法的框架 3
第1章 数据拟合问题的引入 3
1.1 什么是数据拟合? 3
1.2 符号说明 4
1.3 线性与非线性问题 5
1.4 线性数据拟合的应用实例 7
1.4.1 估计常数 8
1.4.2 估计直线中的参数(线性回归) 9
1.4.3 多项式函数 9
1.4.4 多元线性回归 9
1.5 若干非线性数据拟合问题 14
1.5.1 指数函数 14
1.5.2 复合高斯贝尔函数 15
1.5.3 圆周函数 16
1.5.4 神经网络 17
1.6 测试题 19
第2章 利用最小二乘方法求解模型参数 20
2.1 什么是“最小二乘” 20
2.2 求解最小化问题的一般性算法 22
2.3 值得注意的问题 24
2.4 对线性模型函数的简化 25
2.5 在未知模型函数条件下的曲线拟合 26
2.5.1 例子1 26
2.5.2 例子2 27
2.5.3 例子3 27
2.6 计算实例 28
2.6.1 常数拟合 28
2.6.2 直线拟合 28
2.6.3 多项式函数拟合 29
2.6.4 平面拟合 30
2.6.5 线性预测 30
2.6.6 余弦函数拟合 31
2.6.7 坐标旋转和移位 31
2.6.8 指数函数拟合 32
2.6.9 复合高斯贝尔函数拟合 33
2.6.10 圆周拟合 34
2.6.11 神经网络 34
2.7 测试题 36
第3章 权值和异常值 38
3.1 加权的好处是什么? 38
3.2 异常值 39
3.3 估计权值 40
3.3.1 分段估计权值 41
3.3.2 基于偏差估计权值 42
3.4 异常值检测方法 44
3.4.1 标准残差法 45
3.4.2 聚类检测法 46
3.5 加权数据拟合与异常值检测的应用实例 54
3.5.1 常数拟合 54
3.5.2 直线拟合 56
3.5.3 平面拟合 61
3.5.4 坐标变换 63
3.5.5 线性预测 65
3.5.6 余弦函数拟合 65
3.5.7 指数函数拟合 70
3.5.8 复合高斯贝尔函数拟合 72
3.5.9 圆周拟合 76
3.5.10 对分段估计权值和基于偏差估计权值进行比较 76
3.6 结论 78
3.6.1 加权评估 79
3.6.2 异常值检测方法的比较 79
3.6.3 权值的用处 80
3.7 测试题 81
第4章 拟合结果的不确定度 82
4.1 拟合优度、精确度和准确度 82
4.1.1 统计模型和数据的一致性 82
4.1.2 拟合方差 83
4.2 参数估计值的不确定度 84
4.3 模型预测的不确定度 85
4.4 图形检查 86
4.5 计算实例 87
4.5.1 常数拟合 87
4.5.2 直线拟合 89
4.5.3 余弦函数拟合 91
4.5.4 模型失配 91
4.6 测试题 97
第二部分 数学、优化方法以及附加内容 101
第5章 矩阵代数 101
5.1 矩阵基础知识 101
5.2 行列式 104
5.3 矩阵求逆的数值解 106
5.3.1 伴随矩阵法 106
5.3.2 Gauss-Jordan消元法 107
5.3.3 LU分解方法 109
5.3.4 奇异值分解(SVD)方法 114
5.4 测试题 115
第6章 最小二乘方法背后的理念 117
6.1 正态分布 117
6.2 最大似然原理 118
6.3 拟合线性模型函数 119
6.3.1 标准方法 119
6.3.2 利用奇异值分解(SVD)进行求解 120
6.3.3 条件缩放 121
6.4 拟合非线性模型函数 122
6.4.1 误差曲面的近似 122
6.4.2 Gauss-Newton方法 123
6.4.3 梯度下降方法 125
6.4.4 Levenberg-Marquardt方法 126
6.4.5 寻求极小值点的计算实例 126
6.5 测试题 133
第7章 补充工具和方法 134
7.1 其他参数估计方法 134
7.1.1 递推自适应参数估计方法 134
7.1.2 迭代的梯度下降方法 134
7.1.3 进化方法 135
7.2 用于异常值检测的Chauvenet准则 135
7.3 误差传播原理 138
7.4 线性最小二乘问题的手工推演 140
7.5 不同模型函数的联合处理 142
7.5.1 例子1:坐标变换 144
7.5.2 例子2:圆周运动 145
7.6 总体最小二乘(TLS)拟合 147
7.6.1 圆周正交拟合 147
7.6.2 一般方法 149
7.7 测试题 151
附录A 两种异常值检测方法的比较 153
附录B 软件实现 162
参考文献 188
名词索引 192
部分习题解答 198
符号说明 212