第1章 引论 1
1.1最优化问题 1
1.2方法概述 4
1.3凸集与凸函数 10
1.4线性不等式系统解的存在性 14
1.5无约束优化最优性条件 18
习题 20
第2章 线搜索方法与信赖域方法 22
2.1精确线搜索方法 22
2.2非精确线搜索方法 29
2.3信赖域方法 35
习题 44
第3章 最速下降法与牛顿方法 46
3.1最速下降法 46
3.2牛顿方法 50
习题 53
第4章 共轭梯度法 54
4.1线性共轭方向法 54
4.2线性共轭梯度法 56
4.3线性共轭梯度法的收敛速度 61
4.4非线性共轭梯度法 65
4.5共轭梯度法的收敛性 67
习题 72
第5章 拟牛顿方法 73
5.1方法概述与校正公式 73
5.2拟牛顿方法的全局收敛性 87
5.3一般拟牛顿方法的超线性收敛性 95
5.4 DFP, BFGS方法的超线性收敛性 102
习题 115
第6章 最小二乘问题 117
6.1线性最小二乘问题 117
6.2非线性最小二乘问题 118
习题 130
第7章 约束优化最优性条件 131
7.1等式约束优化一阶最优性条件 131
7.2不等式约束优化一阶最优性条件 135
7.3 Lagrange函数的鞍点 140
7.4凸规划最优性条件 142
7.5 Lagrange对偶 145
7.6约束优化二阶最优性条件 152
习题 156
第8章 二次规划 160
8.1模型与基本性质 160
8.2对偶理论 164
8.3等式约束二次规划的求解方法 166
8.4不等式约束二次规划的有效集方法 170
习题 175
第9章 约束优化的可行方法 177
9.1 Zoutendijk可行方向法 177
9.2 Topkis-Veinott可行方向法 180
9.3投影算子 184
9.4梯度投影方法 191
习题 199
第10章 约束优化的罚函数方法 201
10.1外点罚函数方法 201
10.2内点罚函数方法 206
10.3乘子罚函数方法 211
习题 218
第11章 序列二次规划方法 219
11.1 SQP方法的基本形式 219
11.2 SQP方法的收敛性质 223
11.3既约SQP方法 233
11.4信赖域SQP方法 237
习题 240
参考文献 241