第一章 基本概念 1
1.1 最优化问题简介 1
1.2 凸集和凸函数 10
1.2.1 凸集 10
1.2.2 凸函数 20
1.3 最优性条件 29
1.4 最优化方法概述 33
小结 38
习题 39
第二章 线性规划 43
2.1 线性规划问题和基本性质 43
2.1.1 线性规划问题 43
2.1.2 图解法 44
2.1.3 基本性质 46
2.1.4 线性规划的标准形 49
2.1.5 基本可行解 51
2.1.6 最优解的性质 55
2.2 单纯形法 57
2.3 线性规划的对偶与对偶单纯形法 75
2.3.1 确定线性规划的对偶问题 75
2.3.2 对偶定理 82
2.3.3 对偶单纯形法 85
2.4 线性规划的内点算法 91
小结 98
习题 100
第三章 线性搜索与信赖域方法 105
3.1 线性搜索 105
3.2 0.618法和Fibonacci法 107
3.2.1 0.618法 107
3.2.2 Fibonacci法 110
3.2.3 二分法 111
3.3 逐次插值逼近法 112
3.4 精确线性搜索方法的收敛性 118
3.5 不精确线性搜索方法 120
3.5.1 Goldstein准则 120
3.5.2 Wolfe准则 122
3.5.3 Armijo准则 123
3.6 不精确线性搜索方法的收敛性 124
3.7 信赖域方法的思想和算法框架 127
3.8 信赖域方法的收敛性 128
3.9 解信赖域子问题 132
小结 136
习题 136
第四章 无约束最优化方法 139
4.1 最速下降法 139
4.2 牛顿法 142
4.3 共轭梯度法 146
4.3.1 共轭方向法 147
4.3.2 共轭梯度法 149
4.3.3 对于非二次函数的共轭梯度法 155
4.4 拟牛顿法 158
4.4.1 拟牛顿条件 158
4.4.2 DFP校正和BFGS校正 161
4.5 拟牛顿法的收敛性 167
小结 172
习题 172
第五章 线性与非线性最小二乘问题 175
5.1 引言 175
5.2 线性最小二乘问题的解法 176
5.2.1 解线性最小二乘问题 176
5.2.2 解线性等式约束的线性最小二乘问题 181
5.3 非线性最小二乘的Gauss-Newton法 185
5.4 信赖域方法 190
小结 196
习题 197
第六章 二次规划 201
6.1 二次规划 201
6.2 等式约束二次规划问题 202
6.3 凸二次规划的有效集方法 210
小结 214
习题 214
第七章 约束最优化的理论与方法 217
7.1 约束最优化问题与最优性条件 217
7.2 二次罚函数方法 224
7.3 内点障碍函数法 227
7.4 序列二次规划方法 230
小结 237
习题 238
附录Ⅰ:试验函数 239
1 无约束最优化问题的试验函数 239
2 约束最优化问题的试验函数 240
附录Ⅱ: MATLAB程序 245
1 共轭梯度法 245
2 BFGS算法 247
3 解二次规划的有效集方法 250
4 序列二次规划方法 257
参考文献 261