熵与最优化方法PDF电子书下载

上篇 熵与熵优化原理 3

第1章 熵的基本概念 3

1.1 引言 3

1.2 热力学中的熵 4

1.3 统计物理学中的熵 6

1.4 信息论中的熵 9

1.5 小结 11

第2章 熵优化原理及其对偶 12

2.1 引言 12

2.2 最大熵原理 13

2.3 最小叉熵原理 17

2.4 熵优化问题的对偶规划 20

2.5 熵优化问题与几何规划的关系 24

2.6 小结 27

中篇 熵与最优化方法 31

第3章 有限极大极小问题的熵函数方法 31

3.1 引言 31

3.2 熵函数方法 33

3.2.1 极大熵方法 33

3.2.2 最小叉熵函数方法 38

3.3 光滑函数Fp（x）与Fp（x，μ）的性质 40

3.4 光滑化算法及其收敛性分析 45

3.5 光滑化算法的实现及数值计算结果 50

3.5.1 Fp（x）与Fp（x，μ）的函数值及其梯度的计算 50

3.5.2 算法实现及计算结果 52

3.6 小结 56

第4章 熵函数方法与传统优化方法的关系 57

4.1 引言 58

4.2 熵函数方法的正则化理论 60

4.3 熵函数方法与指数（乘子）罚函数方法之间的关系 63

4.3.1 求解有限极大极小问题的指数（乘子）罚函数方法 64

4.3.2 熵函数方法与指数（乘子）罚函数方法之间的对偶关系 69

4.4 熵函数方法与Ben Tal等人的光滑化法的关系 71

4.5 小结 73

第5章 约束优化问题的拉格朗日正则化方法 76

5.1 引言 77

5.2 约束优化问题的熵正则化方法 79

5.3 拉格朗日正则化方法 83

5.4 拉格朗日正则化方法的收敛性分析 85

5.5 构造罚函数的统一框架与实例 88

5.5.1 构造罚函数的统一框架 88

5.5.2 构造罚函数的实例 91

5.6 小结 96

第6章 解凸规划的邻近点算法 98

6.1 引言 98

6.2 凸规划Bregman邻近点算法 101

6.2.1 Bregman函数、D-函数和Dh投影 102

6.2.2 D-函数邻近极小化算法 107

6.2.3 乘子法 110

6.2.4 邻近乘子法 117

6.3 凸规划的熵型邻近点算法 121

6.3.1 φ-散度度量 122

6.3.2 熵型邻近点算法 125

6.3.3 熵型乘子法 138

6.3.4 熵型邻近点算法的具体应用与实例 142

6.4 小结 148

下篇 熵函数方法在数学规划中的应用 153

第7章 解线性规划的原-对偶路径跟踪算法 153

7.1 引言 154

7.2 基于代数等价变换的原-对偶路径跟踪内点算法 158

7.2.1 邻近性度量的概念 158

7.2.2 代数等价变换与相应的邻近性度量和搜索方向 160

7.2.3 基于代数等价变换的不可行原-对偶路径跟踪内点算法 165

7.2.4 算法的收敛性与多项式复杂性界限分析 167

7.3 自调节原-对偶路径跟踪内点算法 177

7.3.1 一个新的邻近性度量函数 178

7.3.2 具有自调节功能的原-对偶路径跟踪内点算法 179

7.3.3 算法实现及计算结果 183

7.4 一个非内点原-对偶路径跟踪算法 190

7.4.1 非内点原-对偶路径跟踪算法的基本思想 191

7.4.2 非内点原-对偶路径跟踪算法的实现 195

7.4.3 算法的收敛性分析 198

7.4.4 算法实现及计算结果 208

7.5 小结 210

第8章 熵函数方法在非线性规划中的应用 212

8.1 引言 213

8.2 可微“准”精确罚函数方法 214

8.2.1 “准”精确罚函数方法的主要思想 214

8.2.2 “准”精确罚函数方法的基本理论 216

8.2.3 基本算法与数值算例 225

8.3 凝聚函数方法 227

8.3.1 凝聚函数方法的基本思想 227

8.3.2 基本算法与数值算例 229

8.4 小结 231

第9章 离散优化的连续化方法 233

9.1 求解线性0-1规划的一种连续化方法 233

9.1.1 基于拉格朗日松弛的连续化方法 234

9.1.2 算法实现 235

9.2 二进制二次规划的连续化方法 238

9.2.1 引言 238

9.2.2 基于NCP函数的连续优化模型 239

9.2.3 二进制二次规划问题的全局连续化算法与收敛分析 242

9.2.4 算法实现及计算结果 246

9.3 最大函数之和极小化的一个连续化方法 251

9.3.1 引言 252

9.3.2 组合优化问题的连续化模型与光滑近似 253

9.3.3 算法实现及计算结果 254

9.4 小结 257

参考文献 259

附录 274