实用最优化方法PDF电子书下载

1 基本概念和预备知识 1

1.1 最优化方法的基本内容 1

1.2 最优化问题的数学模型与模型的分类 7

1.3 基本概念 9

1.4 多元函数的梯度、Hesse阵和taylor展开式 12

习题1 12

2 线性规划：单纯形法 15

2.1 线性规划的标准形式 15

2.2 可行解、基本解和最优解 18

2.3 单纯形法的基本定理 21

2.4.1 从一个基本解变换到另一个基本解 25

2.4 单纯形法的原理 25

2.4.2 基本可行解的转换 26

2.4.3 最优可行解的确定 27

2.4.4 单纯形法计算步骤 29

2.4.5 单纯形法 30

2.5 寻找初始基本可行解的方法 39

2.5.1 大M法 40

2.5.2 二阶段法 42

2.6 修正单纯形法 44

2.7 对偶问题和对偶单纯形法 49

2.7.1 线性规划对偶问题的定义 49

2.7.2 原问题与对偶问题的关系 49

2.7.3 对偶单纯形法 50

2.8 灵敏度分析 53

2.9 单纯形法中的几个问题 54

2.9.1 退化与循环 54

2.9.2 避免退化与循环的方法 54

2.10 线性规划中的几种特殊问题 55

2.10.1 有界变量问题 55

2.10.2 区间线性规划问题 56

习题2 56

3 非线性规划：基本理论 60

3.1 非线性规划数学模型的标准形式 60

3.2.1 凸集 61

3.2 凸集、凸函数和凸规划 61

3.2.2 凸函数 62

3.2.3 凸规划 66

3.3 最优性条件 67

3.3.1 无约束问题的最优性条件 67

3.3.2 等式约束问题的最优性条件 70

3.3.3 一般非线性规划问题的最优性条件 71

3.4 对偶性理论 72

习题3 74

4 一维搜索法 78

4.1 Fibonacci法 78

4.2 黄金分割法 81

4.3 进退法 85

4.4 平分法 86

4.5 抛物线法 87

4.6 不精确的一维搜索 92

4.6.1 Goldstein法 93

4.6.2 Armijo法 96

4.6.3 Wolfe-Powell法 99

习题4 99

5 无约束最优化方法 101

5.1 最速下降法 101

5.2 Newton法 108

5.3.1 共轭方向及其性质 119

5.3 共轭方向法和共轭梯度法 119

5.3.2 共轭方向法 121

5.3.3 共轭梯度法 122

5.4 拟Newton法 132

5.4.1 拟Newton法的基本思路 132

5.4.2 DFP变尺度算法 133

5.4.3 BFGS算法 143

5.5 Powell方向加速法 144

5.6 Nelder-Mead单纯形法 147

习题5 157

6 带约束最优化方法 159

6.1 线性约束的Frank-Wolfe法 159

6.2 Zoutendijk可行方向法 160

6.3.1 投影矩阵及其性质 165

6.3 Rosen投影梯度法 165

6.3.2 投影梯度法 166

6.4 简约梯度法 184

6.5 广义简约梯度法 187

6.6 带约束单纯形调优法 190

6.7 罚函数法与现代乘子法 199

6.7.1 外罚函数法 200

6.7.2 内罚函数法 201

6.7.3 现代乘子法 203

习题6 205

1.1 安装 207

附录 Matlab优化工具箱使用入门 207

1.2 环境和语言 208

1.2.1 环境窗口 208

1.2.2 语言结构 209

1.2.3 编程语言 210

1.3 编程示例 211

1.3.1 无约束极值问题的例子 211

1.3.2 有约束极值问题的例子 212

1.3.3 带有下界和上界约束条件的极值问题 214

1.4 优化工具箱的演示 217

1.5 常用的库存函数 224

参考文献 226