第1章 最优化方法引论 1
1.1 最优化问题 1
1.2 向量和矩阵范数 1
1.3 多元函数分析 4
1.4 凸集与凸函数 6
1.5 无约束问题的最优性条件 9
1.6 无约束优化问题的算法概述 11
习题1 14
第2章 线搜索方法 16
2.1 精确线搜索及其MATLAB实现 17
2.1.1 黄金分割法 17
2.1.2 抛物线法 20
2.2 非精确线搜索及其MATLAB实现 24
2.2.1 Wolfe准则 24
2.2.2 Armijo准则 25
2.3 线搜索法的收敛性 26
习题2 30
第3章 梯度法和牛顿法 31
3.1 梯度法及其MATLAB实现 31
3.2 牛顿法及其MATLAB实现 34
3.3 修正牛顿法及其MATLAB实现 40
习题3 43
第4章 共轭梯度法 45
4.1 线性共轭方向法 45
4.2 线性共轭梯度法及其MATLAB实现 47
4.3 非线性共轭梯度法及其MATLAB实现 53
习题4 58
第5章 拟牛顿法 60
5.1 拟牛顿法及其性质 60
5.2 BFGS算法及其MATLAB实现 64
5.3 DFP算法及其MATLAB实现 68
5.4 Broyden族算法及其MATLAB实现 70
5.5 拟牛顿法的收敛性 76
习题5 80
第6章 信赖域方法 83
6.1 信赖域方法的基本结构 83
6.2 信赖域方法的收敛性 85
6.3 信赖域子问题的求解 88
6.4 信赖域方法的MATLAB实现 92
习题6 94
第7章 最小二乘问题 96
7.1 线性最小二乘问题数值解法 96
7.1.1 满秩线性最小二乘问题 98
7.1.2 亏秩线性最小二乘问题 100
7.2 非线性最小二乘问题数值解法 103
7.2.1 Gauss-Newton法 103
7.2.2 L-M方法及其MATLAB实现 107
习题7 116
第8章 最优性条件 119
8.1 等式约束问题的最优性条件 119
8.2 不等式约束问题的最优性条件 122
8.3 一般约束问题的最优性条件 125
8.4 鞍点和对偶问题 128
习题8 132
第9章 线性规划问题 135
9.1 线性规划问题的基本理论 135
9.2 单纯形法及初始基可行解的确定 141
9.2.1 线性规划问题的单纯形法 141
9.2.2 初始基可行解的确定 148
9.3 线性规划问题的对偶理论 150
9.4 应用MATLAB求解线性规划问题 152
习题9 154
第10章 二次规划问题 158
10.1 等式约束凸二次规划的解法 158
10.1.1 零空间方法 158
10.1.2 拉格朗日乘子法及其MATLAB实现 159
10.2 一般凸二次规划的有效集方法 163
10.2.1 有效集方法的理论推导 164
10.2.2 有效集方法的算法步骤 166
10.2.3 有效集方法的MATLAB实现 169
习题10 174
第11章 约束优化的可行方向法 177
11.1 Zoutendijk可行方向法 177
11.1.1 线性约束下的可行方向法 177
11.1.2 非线性约束下的可行方向法 182
11.2 梯度投影法 186
11.2.1 梯度投影法的理论基础 187
11.2.2 梯度投影法的计算步骤 190
11.3 简约梯度法 193
11.3.1 Wolfe简约梯度法 193
11.3.2 广义简约梯度法 200
习题11 203
第12章 约束优化的罚函数法 206
12.1 外罚函数法 206
12.2 内点法 211
12.2.1 不等式约束问题的内点法 211
12.2.2 一般约束问题的内点法 214
12.3 乘子法 215
12.3.1 等式约束问题的乘子法 216
12.3.2 一般约束问题的乘子法 220
12.4 乘子法的MATLAB实现 223
习题12 227
第13章 序列二次规划法 229
13.1 牛顿-拉格朗日法 229
13.1.1 牛顿-拉格朗日法的基本理论 229
13.1.2 牛顿-拉格朗日法的MATLAB实现 231
13.2 SQP方法的算法模型 234
13.2.1 基于拉格朗日函数Hesse阵的SQP方法 234
13.2.2 基于修正Hesse阵的SQP方法 240
13.3 SQP方法的相关问题 243
13.3.1 二次规划子问题的Hesse矩阵 243
13.3.2 价值函数与搜索方向的下降性 244
13.4 SQP方法的MATLAB实现 251
13.4.1 SQP子问题的MATLAB实现 251
13.4.2 SQP方法的MATLAB实现 259
习题13 266
参考文献 268