非线性优化算法PDF电子书下载

第1章 引论 1

1.1 引言 1

1.2 数学基础 2

1.2.1 集和凸函数 2

1.2.2 最优性条件 4

1.3 优化算法结构 7

1.3.1 初始点的选取 7

1.3.2 终止准则 8

1.3.3 收敛速度 9

1.3.4 迭代点的产生 10

1.4 数值试验 13

第2章 共轭梯度法 15

2.1 一些基本的共轭梯度法及收敛性质 15

2.1.1 共轭梯度法 15

2.1.2 一些基本共轭梯度法的收敛性分析 19

2.2 改进的共轭梯度法 21

2.2.1 对共轭梯度法参数βκ的修改 21

2.2.2 一类修正Armijo型线搜索下的无约束优化问题PRP共轭梯度法 36

2.2.3 一类修正的共轭梯度法的收敛性质 50

2.2.4 WYL共轭公式的进一步推广 57

第3章 拟牛顿方法 61

3.1 修正的拟牛顿方法 62

3.1.1 修正的拟牛顿公式 63

3.1.2 新Aκ公式的性质 65

3.1.3 三个算法 67

3.1.4 全局收敛性分析 68

3.1.5 超线性收敛分析 71

3.2 一类非单调BFGS算法的超线性收敛分析 83

3.2.1 非单调BFGS算法 83

3.2.2 算法的超线性收敛性 84

3.3 一个新的非单调MBFGS算法 91

3.3.1 全局收敛性 92

3.3.2 超线性收敛 98

第4章 邻近点方法 105

4.1 非光滑凸优化的模式算法与收敛性分析 106

4.1.1 模式算法 107

4.1.2 算法的全局收敛性 107

4.1.3 算法的局部收敛性 112

4.1.4 算法的特殊情形 114

4.2 近似方法 122

4.2.1 近似方法 122

4.2.2 模型方法与算法 123

4.2.3 新的邻近点算法 131

4.2.4 邻近束方法 139

4.3 求解非光滑凸优化的非单调线搜索Barzilai-Borwein梯度法 141

4.3.1 非光滑优化问题 141

4.3.2 凸分析与非光滑分析 142

4.3.3 非单调线搜索谱梯度算法 143

4.3.4 全局收敛性质 145

第5章 信赖域方法 148

5.1 信赖域方法 148

5.2 修改的非光滑优化信赖域方法 150

5.2.1 自适应三次正则化信赖域算法 150

5.2.2 结合有限记忆BFGS技术求解带Box约束非光滑方程组的有效集投影信赖域法 164

5.2.3 带有限记忆BFGS更新的非光滑凸优化梯度信赖域算法 183

第6章 约束优化问题的一些方法 196

6.1 非线性约束条件下梯度投影法的一个统一途径 196

6.1.1 算法的一般模型 199

6.1.2 算法的全局收敛性 204

6.1.3 应用实例 207

6.2 初始点任意且全局收敛的梯度投影法 208

6.3 在任意初始点条件下梯度投影法的一个统一途径 212

6.3.1 任意初始点条件下的梯度投影法 213

6.3.2 全局收敛性 216

6.3.3 算法的特殊情形 219

6.4 求解不等式约束优化问题的变形Topkis-Veinott方法 222

6.4.1 算法 226

6.4.2 算法的全局收敛性 229

6.4.3 FJ点的局部性质和整个迭代点列的收敛性 231

6.4.4 单位步长 238

6.5 随机极限载荷分析——模型及求解 241

6.5.1 随机极限载荷分析模型 242

6.5.2 机会约束规划问题的近似 244

6.5.3 模型求解算法 245

6.6 一个SQP型算法及其在随机规划中的应用 254

6.6.1 一般SQP方法及其收敛性质 255

6.6.2 算法在二阶段随机规划中的应用 268

6.7 大规模有界约束问题的子空间有限记忆BFGS方法 272

6.7.1 算法 273

6.7.2 收敛性分析 276

参考文献 281

索引 294