第一章 最优化基础 1
1.1 最优化问题的分类与应用实例 1
1.2 线性代数知识 4
1.2.1 线性空间 5
1.2.2 Euclid空间(欧氏空间) 6
1.2.3 矩阵 7
1.3 多元函数分析 8
1.4 凸集与凸函数 17
习题一 26
第二章 无约束最优化方法的一般结构 28
2.1 最优性条件 28
2.2 线性搜索 32
2.2.1 精确线性搜索 32
2.2.2 搜索区间与单峰函数 33
2.2.3 直接搜索法——0.618法 34
2.2.4 非精确一维搜索方法 37
2.3 下降算法的全局收敛性与收敛速率 39
习题二 44
第三章 无约束规划方法 46
3.1 最速下降法 46
3.1.1 最速下降法的思想 46
3.1.2 最速下降法的具体步骤 47
3.2 Newton法 48
3.2.1 Newton法的思想 48
3.2.2 Newton法的步骤 49
3.3 共轭梯度法 52
3.3.1 正交方向和共轭方向 52
3.3.2 共轭梯度法的推导 56
3.3.3 计算公式的简化 57
3.3.4 共轭方向的下降性和算法的二次终止性 61
习题三 61
第四章 约束规划的最优性条件 63
4.1 基本概念 63
4.2 约束规划问题局部解的必要条件 64
4.2.1 约束规划问题局部解的一阶必要条件 64
4.2.2 约束限制条件 70
4.3 二阶充分条件 71
4.4 凸规划的最优性条件 75
习题四 77
第五章 约束规划的对偶理论 81
5.1 Lagrange对偶问题 81
5.2 对偶定理 83
5.3 对偶问题的性质及求解 87
5.3.1 次梯度方法 87
5.3.2 外逼近方法 89
习题五 93
第六章 线性规划 94
6.1 线性规划及相关概念 94
6.1.1 线性规划的标准形式 95
6.1.2 线性规划可行域的几何特点 95
6.2 单纯形方法 98
6.2.1 单纯形算法的基本思想 99
6.2.2 单纯形算法的迭代步骤 101
6.2.3 初始基本可行解 104
6.3 对偶单纯形方法 105
6.3.1 线性规划对偶问题 105
6.3.2 对偶单纯形算法 106
习题六 110
第七章 二次规划 112
7.1 二次规划问题及解的条件 112
7.2 等式约束二次规划问题的求解方法 114
7.2.1 等式约束二次规划问题的条件 114
7.2.2 等式约束二次规划问题的变量消去法 116
7.3 有效集法 118
7.3.1 有效集法的基本步骤 119
7.3.2 等式约束问题的化简 120
7.3.3 有效集算法 121
习题七 123
第八章 罚函数法 126
8.1 外罚函数法 126
8.1.1 外罚函数法 126
8.1.2 外罚函数法的收敛性质 130
8.1.3 外罚函数的病态性质 134
8.2 内罚函数法 135
8.2.1 内罚函数法 135
8.2.2 内罚函数法的收敛性质 138
8.3 乘子法 140
8.3.1 等式约束问题的乘子法 140
8.3.2 具有不等式约束时的乘子法 146
习题八 149
第九章 特殊规划 152
9.1 几何规划 152
9.2 多目标规划 158
习题九 168
参考文献 170