非线性最优化方法PDF电子书下载

前言 1

第一章 引论 1

1.1 最优化问题的提法与分类 1

1.2 一些预备知识 2

习题 13

参考文献 14

第二章 无约束最优化方法的一般结构 15

2.1 最优性条件 15

2.2 迭代算法的收敛性 18

2.3 下降算法 21

2.4 下降算法的全局收敛性定理 26

2.5 搜索方向的进一步讨论 32

2.6 确定搜索步长的方法 47

习题 65

参考文献 67

第三章 牛顿法及其改进 68

3.1 牛顿法 68

3.2 带保护的牛顿法 74

3.3 Gill-Murray稳定牛顿法 76

3.4 信赖域方法(Trust region methods)或限制步长法 86

3.5 子问题的求解 95

习题 99

3.6 Levenberg-Marquardt-Goldfeld-Quandt-Trotter(LMGQT)方法 99

参考文献 100

第四章 变尺度法 101

4.1 Broyden族拟牛顿法 102

4.2 拟牛顿法的实现 112

4.3 Huagn族变尺度法 119

4.4 拟牛顿法的收敛性 128

习题 160

参考文献 163

5.1 对二次凸函数的共轭梯度法 165

第五章 共轭梯度法 165

5.2 对非二次函数的共轭梯度法 169

5.3 重新开始的共轭梯度法 180

习题 183

参考文献 186

第六章 非线性最小二乘问题 187

6.1 小余量算法 189

6.2 大余量算法 203

习题 209

参考文献 211

7.1 Farkas 引理 213

第七章 约束最优化问题的最优性条件 213

7.2 一阶最优性条件 217

7.3 二阶最优性条件 226

7.4 两种简单的约束规范 231

7.5 凸规划问题 234

7.6 凸规划的对偶理论 236

7.7 鞍点定理 240

习题 244

参考文献 246

8.1 二次规划与线性互补问题 247

第八章 二次规划 247

8.2 有效集方法 261

8.3 二次规划解的稳定性 283

习题 284

参考文献 286

第九章 罚函数法 287

9.1 外罚函数法 288

9.2 内罚函数法与混合罚函数法 301

9.3 乘子法 309

9.4 精确罚函数法 332

习题 343

参考文献 345

10.1 方法的提出 346

第十章 约束变尺度法 346

10.2 效益函数与全局收敛性 350

10.3 Wilson-Han powell算法 358

10.4 WHP算法的循环 362

10.5 Maratos 效应与Warchdog技术 365

10.6 约束变尺度法的超线性收敛条件 370

10.7 Watchdog技术与超线性收敛 379

10.8 若干改进与有关的工作 388

参考文献 402

习题 402

第十一章 可行方向法 405

11.1 可行方向的一般性质 405

11.2 Zoutendijk可行方向法 412

11.3 Topkis-Veinott可行方向法 424

11.4 投影梯度法 427

11.5 简约梯度法 440

习题 449

参考文献 451

附录 不可微优化问题计算方法简介 453