最优化理论与算法PDF电子书下载

序言 1

第一章 泛函分析初步 1

1.Banach空间 1

1.Banach空间的定义.简单性质 1

译序 1

2.对偶性.弱连续 7

3.Hahn-Banach定理 13

3.1. Hahn-Banach定理的解析形式 13

3.2. Hahn-Banach定理的几个推论 16

3.3. 与Hahn-Banach定理几何形式有关的补充知识 19

3.4. Hahn-Banach定理的几何形式 21

4.自反性.弱紧性.弱收敛 26

1.Hilbert空间的定义.基本性质 33

2.Hilbert空间 33

2.Hilbert空间中的投影 37

2.1. 在非空凸闭子集上的投影 37

2.2. 在闭向量子空间上的投影 41

3.Hilbert空间中的正交族 43

3.1. Schmidt正交化 43

3.2. Hilbert空间的构造 44

3.3. Parseval等式 45

4.Riesz表示定理.自反性 46

5.一元半-线性泛函 48

6.一族Hilbert空间：Соболев空间 52

1.按Gateaux意义求导 58

1.1. Gateaux导数的定义 58

第二章 关于求导的补充知识 58

1.2. 有限增量公式和Taylor公式 60

1.3. 凸性和G-可微性 63

1.4. 弱下半连续性与G-可微性 65

1.5. 求导次序的交换 66

1.6. 算子φ→A′(υ，φ)的线性性质 68

2.按Fréchet意义求导 68

2.1. Fréchet导数的定义 68

2.2. F-微分和G-微分之间的关系 70

第三章 求泛函的极小 71

引言 71

1.泛函的极小 71

2.求极值的一般方法(利用导数的方法) 82

3.方向w的收敛选择 83

4.ρ的收敛选择 90

5.收敛性 104

6.Newton法 105

7.压缩算子法 110

8.共轭梯度型方法 113

8.1. 求逆矩阵(Ⅰ) 115

8.2. 求二次函数的极小(Ⅰ) 117

8.3. 求任意泛函的极小(Ⅰ) 119

8.4. 求逆矩阵(Ⅱ)(Fletcher-Powell) 119

8.5. 求二次函数的极小(Ⅱ) 123

8.6. 求泛函的极小(Ⅱ) 126

9.直接法 126

算法9.1.(坐标轮换法) 126

算法9.2.(Rosenbrock法) 129

算法9.3.(Hooke-Jeeves法) 130

算法9.3＇. 132

10.补充 133

10.1. 加速收敛 133

10.2. 求单变量函数的极小 133

第四章 求有约束的极小 136

引言 136

Галёркин法 138

1.求极小问题的近似解 141

1.Frank-Wolfe法的推广 141

2.线性化方法 147

3.带截断参变量的中心法 158

4.1. 提出问题 163

4.在乘积空间中求极小 163

4.2. 求近似解 164

4.3. 应用 167

5.其它方法 169

5.1. 利用在约束区域上投影的方法 169

5.2. Kelly的割平面法 170

5.3. 简约梯度法 172

5.4. 序列简约法 176

5.5. 梯度投影法 177

5.6. 容许方向法 179

5.7. 另一类方法 179

2.罚函数法 180

1.方法简述 180

2.在稳定性上的应用 186

3.在最优化问题上的应用 190

4.在最优控制问题上的应用 192

5.在整数规划中的应用 195

3.分解 197

引言 197

1.利用Lagrange乘子分解 198

1.1. 具有单边约束的情形 199

1.2. 具有双边约束的情形 203

1.3 例 204

1.4 方法的推广 205

2.利用罚函数法分解 205

3.用逼近分解 211

3.1. 正则情形 211

3.2. 一个Соболев空间的分解 214

3.3. 非正则情形 216

第五章 对偶性 220

引言 220

1.Rn中的对偶性(利用Hahn-Banach定理) 224

2.Rn中的对偶性(利用极小-极大定理) 230

3.一个无限维问题(利用Hahn-Banach定理) 233

4.一个无限维问题(利用极小-极大定理) 237

4.1. 原问题 237

4.2. 逼近 238

4.3. 对偶性 241

4.4. 数值逼近 243

5.利用对偶性求不可微泛函的极小 244

参考书目 249