最优化方法PDF电子书下载

第一章　基本概念 1

1.1　最优化问题简介 1

1.2　凸集和凸函数 10

1.2.1 凸集 10

1.2.2 凸函数 20

1.3　最优性条件 29

1.4　最优化方法概述 33

小结 38

习题 39

第二章　线性规划 43

2.1　线性规划问题和基本性质 43

2.1.1　线性规划问题 43

2.1.2　图解法 44

2.1.3　基本性质 46

2.1.4　线性规划的标准形 49

2.1.5　基本可行解 51

2.1.6　最优解的性质 55

2.2　单纯形法 57

2.3　线性规划的对偶与对偶单纯形法 75

2.3.1　确定线性规划的对偶问题 75

2.3.2　对偶定理 82

2.3.3　对偶单纯形法 85

2.4　线性规划的内点算法 91

小结 98

习题 100

第三章　线性搜索与信赖域方法 105

3.1　线性搜索 105

3.2 0.618法和Fibonacci法 107

3.2.1 0.618法 107

3.2.2 Fibonacci法 110

3.2.3　二分法 111

3.3　逐次插值逼近法 112

3.4　精确线性搜索方法的收敛性 118

3.5　不精确线性搜索方法 120

3.5.1 Goldstein准则 120

3.5.2 Wolfe准则 122

3.5.3 Armijo准则 123

3.6　不精确线性搜索方法的收敛性 124

3.7　信赖域方法的思想和算法框架 127

3.8　信赖域方法的收敛性 128

3.9　解信赖域子问题 132

小结 136

习题 136

第四章　无约束最优化方法 139

4.1　最速下降法 139

4.2　牛顿法 142

4.3　共轭梯度法 146

4.3.1　共轭方向法 147

4.3.2　共轭梯度法 149

4.3.3　对于非二次函数的共轭梯度法 155

4.4　拟牛顿法 158

4.4.1　拟牛顿条件 158

4.4.2 DFP校正和BFGS校正 161

4.5　拟牛顿法的收敛性 167

小结 172

习题 172

第五章　线性与非线性最小二乘问题 175

5.1　引言 175

5.2　线性最小二乘问题的解法 176

5.2.1　解线性最小二乘问题 176

5.2.2　解线性等式约束的线性最小二乘问题 181

5.3　非线性最小二乘的Gauss-Newton法 185

5.4　信赖域方法 190

小结 196

习题 197

第六章　二次规划 201

6.1 二次规划 201

6.2　等式约束二次规划问题 202

6.3 凸二次规划的有效集方法 210

小结 214

习题 214

第七章　约束最优化的理论与方法 217

7.1　约束最优化问题与最优性条件 217

7.2　二次罚函数方法 224

7.3 内点障碍函数法 227

7.4　序列二次规划方法 230

小结 237

习题 238

附录Ⅰ：试验函数 239

1　无约束最优化问题的试验函数 239

2　约束最优化问题的试验函数 240

附录Ⅱ： MATLAB程序 245

1　共轭梯度法 245

2 BFGS算法 247

3　解二次规划的有效集方法 250

4 序列二次规划方法 257

参考文献 261