最优化理论与方法PDF电子书下载

第1章 最优化问题与凸分析基础 1

1.1最优化问题 1

1.1.1最优化问题的例子 1

1.1.2最优化问题的数学模型 4

1.1.3最优化问题的分类 5

1.2梯度与Hesse矩阵 5

1.2.1等值线 5

1.2.2 n元函数的可微性与梯度 6

1.3多元函数的台劳展式 14

1.4极小点及其判定条件 15

1.4.1内点、边界点与极限点 15

1.4.2开集与闭集 16

1.4.3极小点与最优解 16

1.4.4局部极小点的判定条件 17

1.5凸集、凸函数与凸规划 18

1.5.1凸集 19

1.5.2凸函数 22

1.5.3凸规划 27

习题 30

第2章 线性规划 33

2.1线性规划的例子与标准形式 33

2.2二维线性规划的图解法 38

2.3线性规划的基本概念与解的性质 41

2.3.1基本概念 41

2.3.2解的性质 45

2.4单纯形法 49

2.4.1.准备工作 49

2.4.2单纯形算法 63

2.5初始基可行解的确定法 71

2.6单纯形法的改进 76

2.6.1避免循环 76

2.6.2修正单纯形法 77

习题 83

第3章 对偶线性规划 89

3.1对偶问题的提出 89

3.1.1从经济问题提出对偶线性规划 89

3.1.2对称形式的对偶线性规划 91

3.1.3非对称形式的对偶线性规划 93

3.2对偶定理 95

3.3对偶单纯形法 104

3.3.1对偶单纯形法的基本思想 104

3.3.2对偶单纯形算法 106

3.4对偶线性规划的应用 110

3.4.1对偶单纯形法的应用 110

3.4.2对偶问题的经济解释——影子价格 116

习题 117

第4章 无约束最优化方法 120

4.1下降迭代算法及终止准则 120

4.1.1基本思想 120

4.1.2迭代法中的一维搜索 121

4.1.3收敛速度 122

4.1.4终止准则 124

4.2黄金分割法（0.618法） 126

4.2.1单峰函数及性质 126

4.2.2黄金分割法的基本思想 127

4.2.3黄金分割法的算法 128

4.3二次插值法（抛物线插值法） 129

4.3.1基本思想 129

4.3.2三点二次插值法 130

4.3.3三点二次插值法框图 131

4.3.4二次插值法的其它形式 132

4.4二点三次插值法 133

4.4.1基本思想 133

4.4.2三次多项式的确定 134

4.4.3二点三次插值法算法 134

4.5最速下降法 135

4.5.1最速下降法的基本思想 135

4.5.2最速下降算法 136

4.5.3收敛性定理 137

4.5.4最优步长及最速下降法举例 138

4.6牛顿法 143

4.6.1牛顿法的基本思想 143

4.6.2牛顿法的几何解释 144

4.6.3牛顿算法 144

4.6.4牛顿法的优缺点及其改进 146

4.6.5牛顿法收敛性定理 150

4.7共轭方向法与共轭梯度法 151

4.7.1共轭方向法 151

4.7.2共轭梯度法 159

4.8变尺度法 167

4.8.1变尺度算法的一般格式 167

4.8.2对称秩1的公式（SR1法） 169

4.8.3对称秩2公式（DFP算法） 175

4.8.4几种常用的变尺度法的修正公式 181

习题 184

第5章 约束最优化方法 188

5.1最优性条件 188

5.1.1可行方向和可行下降方向 188

5.1.2 Kuhn-Tucker（一阶必要条件） 190

5.1.3.二阶充分条件 193

5.2罚函数法 195

5.2.1罚函数法的基本思想 195

5.2.2罚函数的经济解释 196

5.2.3罚因子与拉格朗日乘子之间的关系 198

5.3外点法（外部惩罚函数法） 199

5.3.1外点法的基本思想 199

5.3.2一般约束最优化 200

5.3.3外点法算法及举例 203

5.3.4外点法的收敛性定理 206

5.4内点法（障碍函数法） 208

5.4.1内点法的基本思想 208

5.4.2内点法算法 210

5.4.3内点法算法收敛性的证明 214

5.5梯度投影法 216

5.5.1 Rosen梯度投影法的基本思想 216

5.5.2下降可行方向的确定 217

5.5.3直线搜索及终止准则 220

5.5.4 Rosen梯度投影法算法及举例 223

习题 229

第6章 直接搜索的方向加速法 233

6.1步长加速法 233

6.1.1基本思想 233

6.1.2探测性移动 233

6.1.3注意到第一个出发点既是基点又是参考*点 234

6.1.4 Hooke- Jeeves步长加速法算法 235

6.2 Powe方向加速法 235

6.2.1 Powell基本算法 236

6.2.2正交程度和共轭程度的判别 242

6.2.3 Powell改进算法 247

习题 253

第7章 动态规划 255

7.1动态规划的基本概念 255

7.1.1多阶段决策问题引例 255

7.1.2基本概念和符号 258

7.1.3动态规划的分类 260

7.2最优化原理和基本方程 260

7.2.1最优化原理和基本方程 260

7.2.2构成动态规划模型的条件 262

7.2.3动态规划的基本定理 269

7.3函数迭代法和策略迭代法 272

7.3.1函数空间迭代法 274

7.3.2策略空间迭代法 276

7.4动态规划的应用举例 285

7.5动态规划的优点和存在的问题 297

习题 298

第八章 多目标最优化 302

8.1基本概念和基本理论 302

8.1.1多目标最优化问题举例 302

8.1.2一般多目标最优化模型 304

8.1.3有效解、弱有效解和绝对最优解的概念及关系 306

8.2有效解和弱有效解的判别准则和存在性 309

8.3评价函数法 313

8.3.1线性加权和法 313

8.3.2极小—极大法 315

8.3.3理想点法 316

8.4确定权系数的几种方法 320

8.4.1 α-方法 320

8.4.2老手法 321

8.4.3最小平方法 322

8.5分层求解法 322

8.5.1完全分层法 323

8.5.2分层评价法 326

8.6目标规划法 329

8.6.1目标规划模型 330

8.6.2目标点法 335

8.6.3简单目标规划法 337

8.6.4目标规划单纯形法 338

习题 350

习题答案 352

参考文献 360