第1章 概论 1
1.1 最优化问题及其分类 1
1.1.1 最优化问题举例 1
1.1.2 函数优化问题 3
1.1.3 数学规划 4
1.1.4 组合优化问题 5
1.2 邻域函数与局部搜索 6
1.3 优化问题的复杂性 6
1.4 优化算法发展状况 7
上篇 经典优化方法 10
第2章 无约束优化方法 10
2.1 最优性条件 10
2.2 迭代法 10
2.3 收敛速度 11
2.4 终止准则 12
2.5 一维搜索 12
2.5.1 平分法 12
2.5.2 牛顿法 13
2.5.3 0.618法 14
2.5.4 抛物线法 15
2.5.5 二点三次插值法 16
2.5.6 “成功-失败”法 17
2.5.7 非精确一维搜索 17
2.6 基本下降法 19
2.6.1 最速下降法 19
2.6.2 牛顿法 20
2.6.3 阻尼牛顿法 20
2.6.4 修正牛顿法 20
2.7 共轭方向法和共轭梯度法 21
2.7.1 共轭方向和共轭方向法 22
2.7.2 共轭梯度法 23
2.8 变尺度法（拟牛顿法） 24
2.8.1 对称秩1算法 24
2.8.2 DFP算法 25
2.8.3 BFGS算法 25
2.9 直接搜索法 27
2.9.1 Hook-Jeeves方法 27
2.9.2 单纯形法 29
2.9.3 Powell方法 29
2.10 算法的MATLAB实现 31
第3章 约束优化方法 36
3.1 最优性条件 36
3.1.1 等式约束问题的最优性条件 36
3.1.2 不等式约束问题的最优性条件 37
3.1.3 一般约束问题的最优性条件 37
3.2 罚函数法 38
3.2.1 外罚函数法 38
3.2.2 内点法 39
3.2.3 乘子法 41
3.3 可行方向法 43
3.3.1 Zoutendijk可行方向法 43
3.3.2 梯度投影法 45
3.3.3 简约梯度法 47
3.3.4 广义简约梯度法 49
3.4 二次逼近法 50
3.4.1 二次规划的概念 50
3.4.2 牛顿-拉格朗日法 51
3.4.3 SQP算法 52
3.5 极大熵方法 56
3.6 算法的MATLAB实现 57
第4章 最小二乘问题 63
4.1 线性最小二乘问题的数值解法 63
4.1.1 满秩线性最小二乘问题 64
4.1.2 亏秩线性最小二乘问题 64
4.2 非线性最小二乘问题的数值解法 65
4.2.1 Gauss-Newton法 65
4.2.2 Levenberg-Marquardt方法（L-M方法） 66
4.3 算法的MATLAB实现 67
第5章 线性规划 71
5.1 线性规划的标准形式 71
5.2 线性规划的基本定理 72
5.3 单纯形法 73
5.3.1 基本单纯形法 73
5.3.2 单纯形法的改进 77
5.4 线性规划问题的对偶问题 78
5.4.1 对偶单纯形法 79
5.4.2 对偶线性规划的应用 81
5.5 算法的MATLAB实现 84
第6章 动态规划 91
6.1 理论基础 91
6.2 最优化原理和基本方程 94
6.3 动态规划的建模方法及步骤 96
6.4 函数空间迭代法和策略空间迭代法 98
6.4.1 函数空间迭代法 99
6.4.2 策略空间迭代法 100
6.5 动态规划与静态规划的关系 103
6.6 算法的MATLAB实现 104
第7章 整数规划 112
7.1 理论基础 112
7.1.1 整数线性规划的标准形式 112
7.1.2 整数线性规划的求解 112
7.1.3 松驰 113
7.1.4 分解 113
7.2 分支定界法 114
7.3 割平面法 115
7.4 隐枚举法 118
7.4.1 0-1规划的标准形式 118
7.4.2 隐枚举法的基本步骤 119
7.5 匈牙利法 120
7.5.1 指派问题的标准形式 120
7.5.2 匈牙利法的基本步骤 121
7.6 算法的MATLAB实现 123
第8章 二次规划问题 128
8.1 等式约束二次规划的解法 128
8.1.1 零空间方法 128
8.1.2 拉格朗日乘子法 129
8.2 一般凸二次规划的有效集方法 130
8.3 算法的MATLAB实现 132
第9章 多目标规划 134
9.1 多目标规划的概念 134
9.2 有效解、弱有效解和绝对有效解 135
9.3 处理多目标规划问题的一些方法 136
9.3.1 评价函数法 136
9.3.2 约束法 140
9.3.3 逐步法 140
9.3.4 分层求解法 141
9.3.5 图解法 143
9.4 权系数的确定方法 144
9.4.1 α-方法 144
9.4.2 老手法 144
9.4.3 最小平方法 145
9.5 目标规划法 145
9.5.1 目标规划模型 145
9.5.2 目标点法 148
9.5.3 目标规划单纯形法 149
9.6 算法的MATLAB实现 153
第10章 图论 161
10.1 图的理论基础 161
10.1.1 图的基本概念 161
10.1.2 图的矩阵表示 165
10.1.3 图论的基本性质和定理 166
10.2 最短路 166
10.2.1 Dijkstra算法 167
10.2.2 Warshall-Floyd算法 167
10.2.3 求最大可靠路的算法 168
10.2.4 求期望最大可靠容量路 168
10.3 树 169
10.3.1 求最小树的Kruskal算法 170
10.3.2 求最小树的Prim算法 171
10.4 欧拉（Euler）图和Hamilton图 171
10.4.1 Euler图 171
10.4.2 中国邮递员问题 172
10.4.3 Hamilton图 173
10.4.4 旅行售货员问题 173
10.5 匹配问题及其算法 174
10.5.1 匹配、完善匹配、最大匹配 174
10.5.2 匹配的基本定理 174
10.5.3 人员分配问题 175
10.5.4 最优分派问题 176
10.6 网络流的算法 177
10.6.1 网络和流 177
10.6.2 割 178
10.6.3 网络的最大流问题及Ford-Fulkerson算法 178
10.7 最小费用流 179
10.7.1 最小费用流问题 180
10.7.2 Busacker-Gowan迭代算法 181
10.8 图的染色 182
10.8.1 顶点染色及其算法 182
10.8.2 边染色及其算法 183
10.9 算法的MATLAB实现 183
下篇 现代智能优化算法 199
第11章 进化算法 199
11.1 进化算法概述 199
11.2 遗传算法 200
11.2.1 遗传算法的基本概念 201
11.2.2 遗传算法的分析 203
11.2.3 遗传算子 205
11.2.4 控制参数的选择 207
11.2.5 简单遗传算法的改进 208
11.3 进化规划算法 210
11.3.1 进化规划算法算子 211
11.3.2 进化算法的改进算法 212
11.3.3 进化规划算法的特点 214
11.4 进化策略算法 215
11.4.1 进化策略算法的基本流程 215
11.4.2 进化策略算法的构成要素 215
11.5 进化规划与进化策略的关系 217
11.6 差分进化计算 217
11.6.1 差分进化计算的基本流程 218
11.6.2 差分进化计算的构成要素 218
11.6.3 差分进化计算的特点 219
11.7 Memetic算法 220
11.7.1 基本概念 220
11.7.2 Memetic算法的基本流程 221
11.7.3 Memetic算法的要点 222
11.7.4 Memetic算法的优点 222
11.8 算法的MATLAB实现 223
第12章 模拟退火算法 235
12.1 固体退火与模拟退火算法 235
12.1.1 固体退火过程和Metropolis准则 235
12.1.2 模拟退火算法的基本过程 236
12.2 模拟退火算法的控制参数 237
12.3 模拟退火算法的改进 239
12.4 算法的MATLAB实现 240
第13章 禁忌算法 245
13.1 禁忌搜索 245
13.1.1 禁忌搜索示例 245
13.1.2 禁忌算法的流程 247
13.1.3 禁忌算法的特点 247
13.2 禁忌算法的关键参数和操作 248
13.3 算法的MATLAB实现 250
第14章 蚁群算法 255
14.1 蚂蚁系统模型 255
14.1.1 基本概念 255
14.1.2 蚂蚁系统的基本模型 256
14.1.3 蚁密系统、蚁量系统和蚁周系统 257
14.1.4 蚁群算法的特点 258
14.2 蚁群算法的参数分析 258
14.3 蚁群算法的改进 259
14.3.1 带精英策略的蚂蚁系统 259
14.3.2 基于优化排序的蚂蚁系统 259
14.3.3 蚁群系统 260
14.3.4 最大-最小蚂蚁系统 261
14.3.5 最优-最差蚂蚁系统 262
14.3.6 自适应蚁群算法 263
14.4 算法的MATLAB实现 264
第15章 粒子群算法 269
15.1 粒子群算法的基本原理 269
15.2 全局模式与局部模式 270
15.3 改进的粒子群算法 271
15.3.1 带活化因子的粒子群算法 271
15.3.2 动态自适应惯性粒子群算法 272
15.3.3 自适应随机惯性权重粒子群算法 273
15.4 粒子群算法的特点 274
15.5 算法的MATLAB实现 274
第16章 人工鱼群算法 279
16.1 人工鱼群算法的基本原理 279
16.2 人工鱼的结构模型 279
16.3 人工鱼的四种基本行为算法描述 280
16.4 人工鱼群算法流程 281
16.5 各种参数对算法收敛性能的影响 283
16.6 人工鱼群算法的改进 285
16.7 全局人工鱼群算法 287
16.8 算法的MATLAB实现 289
第17章 混合蛙跳算法 294
17.1 基本原理 294
17.2 基本术语 294
17.3 算法的基本流程及算子 295
17.4 算法控制参数的选择 297
17.5 混合蛙跳算法的改进 298
17.6 算法的MATLAB实现 300
第18章 量子遗传算法 302
18.1 量子计算的基础知识 302
18.2 量子计算 303
18.3 量子遗传算法的流程 306
18.4 量子遗传算法的控制参数 308
18.5 量子遗传算法的改进 309
18.6 算法的MATLAB实现 311
第19章 人工蜂群算法 314
19.1 自然界中的蜂群 314
19.2 人工蜂群算法的基本原理 316
19.3 人工蜂群算法的流程 317
19.4 算法控制参数 319
19.5 人工蜂群算法的改进 319
19.6 算法的MATLAB实现 321
第20章 混沌优化算法 325
20.1 混沌优化的概念和原理 325
20.1.1 混沌的发展 325
20.1.2 混沌的定义及其特征 326
20.2 混沌优化 327
20.2.1 混沌优化方法 328
20.2.2 混沌优化算法的改进 329
20.3 算法的MATLAB实现 331
第21章 人工免疫算法 333
21.1 人工免疫算法概述 333
21.1.1 生物免疫系统 333
21.1.2 生物免疫基本原理 334
21.1.3 人工免疫系统及免疫算法 336
21.1.4 人工免疫算法与遗传算法的比较 340
21.2 免疫遗传算法 341
21.3 免疫规划算法 342
21.4 免疫策略算法 343
21.5 基于动态疫苗提取的免疫遗传算法 344
21.6 免疫克隆选择算法 346
21.7 算法的MATLAB实现 348
第22章 细菌觅食算法 354
22.1 大肠杆菌的觅食行为 354
22.2 细菌觅食算法的基本原理 354
22.2.1 算法的主要步骤与流程 356
22.2.2 算法参数的选取 358
22.3 细菌觅食算法的改进 359
22.4 算法的MATLAB实现 362
第23章 猫群算法 366
23.1 猫群算法的基本思想 366
23.1.1 基本术语 367
23.1.2 基本流程 368
23.2 控制参数的选择 369
23.3 猫群算法与粒子群算法的比较 369
23.4 猫群算法的改进 370
23.5 算法的MATLAB实现 370
第24章 神经网络与神经网络优化算法 373
24.1 人工神经网络的基本概念 373
24.1.1 人工神经元 373
24.1.2 传递函数 373
24.2 神经网络的模型 374
24.2.1 单层感知机 374
24.2.2 多层感知机 374
24.2.3 径向基函数神经网络 377
24.2.4 自组织竞争人工神经网络 378
24.2.5 对向传播神经网络 379
24.2.6 反馈型神经网络 381
24.3 神经网络与优化问题 383
24.3.1 求解优化问题的神经网络方法 384
24.3.2 求解组合优化问题的神经网络方法 386
24.4 算法的MATLAB实现 388
第25章 其他群智能优化算法 392
25.1 群智能概述 392
25.2 人工萤火虫群优化算法 395
25.3 蝙蝠算法 397
25.4 果蝇优化算法 399
25.5 生物地理优化算法 400
25.6 入侵野草优化算法 403
25.7 引力搜索算法 404
25.8 竞选算法 407
25.9 人工植物优化算法 410
25.10 文化算法 412
25.11 和声搜索算法 418
25.12 灰狼优化算法 420
25.13 布谷鸟搜索算法 422
25.14 化学反应优化算法 423
25.15 算法的MATLAB实现 426
第26章 混合优化算法 433
26.1 混合优化策略 433
26.1.1 算法流程要素 433
26.1.2 混合优化策略的关键问题 434
26.2 优化算法的性能评价指标 435
26.3 混合算法的统一结构 436
26.4 混合优化策略的应用 438
26.4.1 遗传算法-模拟退火算法的混合优化策略 438
26.4.2 基于模拟退火-单纯形算法的混合策略 440
26.4.3 基于混合策略的TSP优化 442
26.4.4 基于混合策略的神经网络权值学习 443
26.5 混合优化算法的发展趋势 446
26.6 算法的MATLAB实现 446
参考文献 456