数值最优化PDF电子书下载

目录 1

第一章 引言 1

§1.1　最优化问题概述 1

§1.2　凸集和凸函数 5

§1.2.1 凸集 5

§1.2.2　凸函数 8

习题1 15

第二章 无约束问题的下降算法与线性搜索 17

§2.1　无约束问题解的最优性条件 17

§2.2　下降算法的一般步骤 20

§2.3　线性搜索 21

§2.3.1　精确线性搜索——黄金分割法（0.618法） 22

§2.3.2　非精确线性搜索——Armijo型线性搜索和Wolfe-Powell型线性搜索 24

§2.4　下降算法的全局收敛性和超线性收敛性 27

习题2 32

第三章　无约束问题算法（Ⅰ）——最速下降法、Newton法 35

§3.1　最速下降法 35

§3.2　Newton法及其修正形式 38

§3.3　正则化Newton法 45

习题3 48

第四章　无约束问题算法（Ⅱ）——拟Newton法 51

§4.1　拟Newton法及其性质 51

§4.1.1　拟Newton方程与Dennis-Moré条件 52

§4.1.2　对称秩1（SR1）修正公式 53

§4.1.3　BFGS修正公式与BFGS算法 54

§4.1.4　Broyden族算法及其性质 58

§4.2　拟Newton法的收敛性理论 60

§4.3　拟Newton法的修正形式 66

习题4 71

第五章 无约束问题算法（Ⅲ）——共轭梯度法 73

§5.1 二次函数极小值问题的共轭方向法 73

§5.2　非线性共轭梯度法 78

习题5 85

第六章 无约束问题算法（Ⅳ）——信赖域算法 87

§6.1 信赖域算法的基本结构 88

§6.2　信赖域算法的收敛性 89

§6.3　信赖域子问题的计算 93

§6.3.1 子问题的精确求解方法 93

§6.3.2　折线方法（Dogleg Method） 95

§6.3.3　截断共轭梯度法 97

习题6 98

§7.1 坐标轮换法及其改进 100

第七章 无约束问题算法（Ⅴ）——直接法 100

§7.2　Powell直接法 104

§7.3　轴向搜索法 109

习题7 112

第八章 约束问题解的最优性条件 113

§8.1　可行方向 113

§8.2 约束问题的最优性条件 119

习题8 124

第九章　线性规划 126

§9.1 线性规划问题的标准型 126

§9.2　线性规划问题的基本概念和基本理论 127

§9.3　单纯形法 132

§9.4　初始基础可行解的确定——两阶段单纯形法 138

§9.5　线性规划问题的对偶理论 140

习题9 141

第十章　二次规划 145

§10.1 等式约束二次规划 146

§10.2　解二次规划的有效集法 149

习题10 154

第十一章　约束问题算法（Ⅰ）——增广目标函数法 157

§11.1　罚函数法 157

§11.1.1　外点罚函数法 157

§11.1.2　内点罚函数法 163

§11.2　乘子法 166

§11.2.1 等式约束问题的乘子法 166

§11.2.2　一般约束问题的乘子法 172

习题11 175

§12.1 线性约束问题的可行方向法 177

§12.1.1　Zoutendijk算法 177

第十二章　约束问题算法（Ⅱ）——可行方向法 177

§12.1.2　Frank-Wolfe算法 182

§12.2　投影梯度法 185

§12.3　既约梯度法 190

§12.4　广义既约梯度法 196

习题12 198

第十三章　约束问题算法（Ⅲ）——序列二次规划算法 201

§13.1　局部序列二次规划算法 201

§13.1.1　Lagrange—Newton法 201

§13.1.2　局部SQP算法 203

§13.1.3　QP子问题 205

§13.1.4　局部SQP算法的超线性收敛性 208

§13.2　全局SQP算法 208

§13.3 信赖域SQP算法 211

§13.3.1　信赖域SQP子问题 212

§13.3.2　信赖域SQP算法 215

§13.4　Maratos效应及改进策略 218

习题13 222

第十四章 全局最优化方法简介 224

§14.1 基本概念 224

§14.2　覆盖法 226

§14.3　外逼近法 227

§14.4　分枝定界方法 229

§14.5　应用分枝定界方法的几个问题 234

14.5.1　初始单纯形M0的确定方法 234

14.5.2　单纯形的剖分方法 235

14.5.3　下界的确定方法 236

14.5.4　删除规则 238

§14.6　遗传算法 240

习题14 246

§A.1　Gauss消元法 248

附录一　解线性方程组的常用算法 248

§A.2　LU分解 252

§A.3　迭代法 257

附录二 MATLAB入门 261

§B.1　基本运算 263

§B.1.1　矩阵运算 263

§B.1.2　冒号运算符 265

§B.1.3　表达式 266

§B.1.4　语句行中的标点符号 268

§B.1.5　常用编辑指令 269

§B.2　基本绘图 270

§B.3　逻辑控制 273

§B.4　M-文件 276

参考文献 278