最优化计算方法及其MATLAB程序实现PDF电子书下载

第1章 最优化方法引论 1

1.1 最优化问题 1

1.2 向量和矩阵范数 1

1.3 多元函数分析 4

1.4 凸集与凸函数 6

1.5 无约束问题的最优性条件 9

1.6 无约束优化问题的算法概述 11

习题1 14

第2章 线搜索方法 16

2.1 精确线搜索及其MATLAB实现 17

2.1.1 黄金分割法 17

2.1.2 抛物线法 20

2.2 非精确线搜索及其MATLAB实现 24

2.2.1 Wolfe准则 24

2.2.2 Armijo准则 25

2.3 线搜索法的收敛性 26

习题2 30

第3章 梯度法和牛顿法 31

3.1 梯度法及其MATLAB实现 31

3.2 牛顿法及其MATLAB实现 34

3.3 修正牛顿法及其MATLAB实现 40

习题3 43

第4章 共轭梯度法 45

4.1 线性共轭方向法 45

4.2 线性共轭梯度法及其MATLAB实现 47

4.3 非线性共轭梯度法及其MATLAB实现 53

习题4 58

第5章 拟牛顿法 60

5.1 拟牛顿法及其性质 60

5.2 BFGS算法及其MATLAB实现 64

5.3 DFP算法及其MATLAB实现 68

5.4 Broyden族算法及其MATLAB实现 70

5.5 拟牛顿法的收敛性 76

习题5 80

第6章 信赖域方法 83

6.1 信赖域方法的基本结构 83

6.2 信赖域方法的收敛性 85

6.3 信赖域子问题的求解 88

6.4 信赖域方法的MATLAB实现 92

习题6 94

第7章 最小二乘问题 96

7.1 线性最小二乘问题数值解法 96

7.1.1 满秩线性最小二乘问题 98

7.1.2 亏秩线性最小二乘问题 100

7.2 非线性最小二乘问题数值解法 103

7.2.1 Gauss-Newton法 103

7.2.2 L-M方法及其MATLAB实现 107

习题7 116

第8章 最优性条件 119

8.1 等式约束问题的最优性条件 119

8.2 不等式约束问题的最优性条件 122

8.3 一般约束问题的最优性条件 125

8.4 鞍点和对偶问题 128

习题8 132

第9章 线性规划问题 135

9.1 线性规划问题的基本理论 135

9.2 单纯形法及初始基可行解的确定 141

9.2.1 线性规划问题的单纯形法 141

9.2.2 初始基可行解的确定 148

9.3 线性规划问题的对偶理论 150

9.4 应用MATLAB求解线性规划问题 152

习题9 154

第10章 二次规划问题 158

10.1 等式约束凸二次规划的解法 158

10.1.1 零空间方法 158

10.1.2 拉格朗日乘子法及其MATLAB实现 159

10.2 一般凸二次规划的有效集方法 163

10.2.1 有效集方法的理论推导 164

10.2.2 有效集方法的算法步骤 166

10.2.3 有效集方法的MATLAB实现 169

习题10 174

第11章 约束优化的可行方向法 177

11.1 Zoutendijk可行方向法 177

11.1.1 线性约束下的可行方向法 177

11.1.2 非线性约束下的可行方向法 182

11.2 梯度投影法 186

11.2.1 梯度投影法的理论基础 187

11.2.2 梯度投影法的计算步骤 190

11.3 简约梯度法 193

11.3.1 Wolfe简约梯度法 193

11.3.2 广义简约梯度法 200

习题11 203

第12章 约束优化的罚函数法 206

12.1 外罚函数法 206

12.2 内点法 211

12.2.1 不等式约束问题的内点法 211

12.2.2 一般约束问题的内点法 214

12.3 乘子法 215

12.3.1 等式约束问题的乘子法 216

12.3.2 一般约束问题的乘子法 220

12.4 乘子法的MATLAB实现 223

习题12 227

第13章 序列二次规划法 229

13.1 牛顿-拉格朗日法 229

13.1.1 牛顿-拉格朗日法的基本理论 229

13.1.2 牛顿-拉格朗日法的MATLAB实现 231

13.2 SQP方法的算法模型 234

13.2.1 基于拉格朗日函数Hesse阵的SQP方法 234

13.2.2 基于修正Hesse阵的SQP方法 240

13.3 SQP方法的相关问题 243

13.3.1 二次规划子问题的Hesse矩阵 243

13.3.2 价值函数与搜索方向的下降性 244

13.4 SQP方法的MATLAB实现 251

13.4.1 SQP子问题的MATLAB实现 251

13.4.2 SQP方法的MATLAB实现 259

习题13 266

参考文献 268