第1章 基本概念 1
1.1 最优化问题简介 1
1.2 凸集和凸函数 5
1.3 最优性条件 16
1.4 最优化方法概述 27
小结 31
习题 32
2.1 基本性质 34
第2章 线性规划 34
2.2 单纯形方法 45
2.3 线性规划的对偶与对偶单纯形法 59
2.4 线性规划的内点算法 71
小结 79
习题 81
第3章 线性搜索与信赖域方法 85
3.1 线性搜索 85
3.2 0.618法和Flbonacci法 86
3.2.1 0.618法 87
3.2.2 Fibonacci法 88
3.2.3 二分法 90
3.3 逐次插值逼近法 90
3.4 精确线性搜索方法的收敛性 94
3.5 不精确线性搜索方法 96
3.5.1 Goldstein准则 97
3.5.2 Wolfe准则 98
3.5.4 不精确线性搜索的收敛性 99
3.5.3 Armijo准则 99
3.6 信赖域方法的思想和算法框架 102
3.7 信赖域方法的收敛性 103
3.8 解信赖域子问题 107
小结 110
习题 111
第4章 无约束最优化方法 112
4.1 最速下降法 112
4.2 牛顿法 115
4.3.1 共轭方向法 119
4.3 共轭梯度法 119
4.3.2 共轭梯度法 121
4.3.3 对于非二次函数的共轭梯度法 125
4.4 拟牛顿法 128
4.4.1 拟牛顿条件 128
4.4.2 DFP校正和BFGS校正 130
4.4.3 拟牛顿法的收敛性 135
小结 139
习题 139
第5章 线性与非线性最小二乘问题 141
5.1 线性最小二乘问题的解法 142
5.1.1 解线性最小二乘问题 142
5.1.2 解线性等式约束的线性最小二乘问题 145
5.1.3 解线性不等式约束的线性最小二乘问题 149
5.2 非线性最小二乘的Gauss-Newton法 151
5.3 信赖域方法 155
5.4 对Gauss-Newton矩阵的拟牛顿修正 162
小结 168
习题 169
第6章 二次规划 172
6.1 二次规划 172
6.2 等式约束二次规划问题 174
6.3 凸二次规划的有效集方法 180
小结 184
习题 184
第7章 约束最优化的理论与方法 186
7.1 约束最优化问题与最优性条件 186
7.2 二次罚函数方法 191
7.3 内点障碍罚函数法 193
7.4 序列二次规划方法 196
小结 202
习题 202
附录 试验函数 203
1 无约束最优化问题的试验函数 203
2 约束最优化问题的试验函数 204
参考文献 207