第1章 最优化理论基础 1
1.1 最优化问题的数学模型 1
1.2 向量和矩阵范数 2
1.3 函数的可微性与展开 3
1.4 凸集与凸函数 6
1.5 无约束问题的最优性条件 9
1.6 无约束优化问题的算法框架 11
习题1 13
第2章 线搜索技术 14
2.1 精确线搜索及其Matlab实现 15
2.1.1 黄金分割法 15
2.1.2 抛物线法 18
2.2 非精确线搜索及其Matlab实现 21
2.2.1 Wolfe准则 22
2.2.2 Armijo准则 22
2.3 线搜索法的收敛性 24
习题2 27
第3章 最速下降法和牛顿法 29
3.1 最速下降方法及其Matlab实现 29
3.2 牛顿法及其Matlab实现 32
3.3 修正牛顿法及其Matlab实现 37
习题3 41
第4章 共轭梯度法 42
4.1 共轭方向法 42
4.2 共轭梯度法 44
4.3 共轭梯度法的Matlab程序 49
习题4 51
第5章 拟牛顿法 53
5.1 拟牛顿法及其性质 53
5.2 BFGS算法及其Matlab实现 56
5.3 DFP算法及其Matlab实现 60
5.4 Broyden族算法及其Matlab实现 62
5.5 拟牛顿法的收敛性 68
习题5 72
第6章 信赖域方法 74
6.1 信赖域方法的基本结构 74
6.2 信赖域方法的收敛性 76
6.3 信赖域子问题的求解 79
6.4 信赖域方法的Matlab程序 83
习题6 85
第7章 非线性最小二乘问题 87
7.1 Gauss-Newton法 87
7.2 Levenberg-Marquardt方法 90
7.3 L-M算法的Matlab程序 96
习题7 98
第8章 最优性条件 100
8.1 等式约束问题的最优性条件 100
8.2 不等式约束问题的最优性条件 102
8.3 一般约束问题的最优性条件 106
8.4 鞍点和对偶问题 108
习题8 112
第9章 罚函数法 114
9.1 外罚函数法 114
9.2 内点法 117
9.2.1 不等式约束问题的内点法 117
9.2.2 一般约束问题的内点法 120
9.3 乘子法 121
9.3.1 等式约束问题的乘子法 121
9.3.2 一般约束问题的乘子法 125
9.4 乘子法的Matlab实现 128
习题9 132
第10章 可行方向法 134
10.1 Zoutendijk可行方向法 134
10.1.1 线性约束下的可行方向法 134
10.1.2 非线性约束下的可行方向法 138
10.2 梯度投影法 143
10.2.1 梯度投影法的理论基础 143
10.2.2 梯度投影法的计算步骤 146
10.3 简约梯度法 149
10.3.1 Wolfe简约梯度法 149
10.3.2 广义简约梯度法 156
习题10 159
第11章 二次规划 162
11.1 等式约束凸二次规划的解法 162
11.1.1 零空间方法 162
11.1.2 拉格朗日方法及其Matlab程序 163
11.2 一般凸二次规划的有效集方法 166
11.2.1 有效集方法的理论推导 167
11.2.2 有效集方法的算法步骤 169
11.2.3 有效集方法的Matlab程序 173
习题11 178
第12章 序列二次规划法 180
12.1 牛顿-拉格朗日法 180
12.1.1 牛顿拉格朗日法的基本理论 180
12.1.2 牛顿-拉格朗日法的Matlab程序 182
12.2 SQP方法的算法模型 185
12.2.1 基于拉格朗日函数Hesse矩阵的SQP方法 185
12.2.2 基于修正Hesse矩阵的SQP方法 192
12.3 SQP方法的相关问题 195
12.3.1 二次规划子问题的Hesse矩阵 195
12.3.2 价值函数与搜索方向的下降性 196
12.4 SQP方法的Matlab程序 202
12.4.1 SQP子问题的Matlab实现 202
12.4.2 SQP方法的Matlab实现 210
习题12 215
参考文献 217
附录 Matlab优化工具箱简介 218
A.1 线性规划 218
A.2 二次规划 220
A.3 无约束非线性优化 221
A.4 非线性最小二乘问题 222
A.5 约束条件的非线性优化命令 223
A.6 最小最大值的优化问题 225