最优化基础理论与方法PDF电子书下载

第一章 最优化基础 1

1.1 最优化问题的分类与应用实例 1

1.2 线性代数知识 4

1.3 多元函数分析 8

1.4 凸集与凸函数 16

习题一 25

第二章 无约束最优化方法的一般结构 26

2.1 最优性条件 26

2.2 线性搜索 30

2.2.1 精确线性搜索 30

2.2.2 搜索区间与单峰函数 31

2.2.3 直接搜索法——0.618法 32

2.2.4 非精确一维搜索方法 35

2.3 下降算法的全局收敛性与收敛速率 37

习题二 42

第三章 无约束规划方法 44

3.1 最速下降法 44

3.1.1 最速下降法的思想 44

3.1.2 最速下降法的具体步骤 45

3.2 Newton法 46

3.2.1 Newton法的思想 46

3.2.2 Newton法的步骤 47

3.3 共轭梯度法 50

3.3.1 正交方向和共轭方向 50

3.3.2 共轭梯度法的推导 54

3.3.3 计算公式的简化 55

3.3.4 共轭方向的下降性和算法的二次终止性 59

习题三 59

第四章 约束规划的最优性条件 61

4.1 基本概念 61

4.2 约束规划问题局部解的必要条件 62

4.2.1 约束规划问题局部解的一阶必要条件 62

4.2.2 约束限制条件 68

4.3 二阶充分条件 70

4.4 凸规划的最优性条件 73

习题四 75

第五章 二次规划 79

5.1 二次规划问题及解的条件 79

5.2 等式约束二次规划问题的求解方法 81

5.2.1 等式约束二次规划问题的条件 81

5.2.2 等式约束二次规划问题的变量消去法 83

5.3 有效集法 85

5.3.1 有效集法的基本步骤 86

5.3.2 等式约束问题的化简 87

5.3.3 有效集算法 88

习题五 90

第六章 罚函数法 93

6.1 外罚函数法 93

6.1.1 外罚函数法 93

6.1.2 外罚函数法的收敛性质 97

6.1.3 外罚函数的病态性质 101

6.2 内罚函数法 102

6.2.1 内罚函数法 102

6.2.2 内罚函数法的收敛性质 105

6.3 乘子法 107

6.3.1 等式约束问题的乘子法 107

6.3.2 具有不等式约束时的乘子法 113

习题六 116

第七章 特殊规划 119

7.1 几何规划 119

7.2 多目标规划 125

习题七 136

参考文献 138