第1章 绪论 1
1.1选题的背景及意义 1
1.2 SVM的研究与进展 2
1.2.1 SVM的产生 2
1.2.2支持向量分类机(SVC)算法研究 3
1.2.3支持向量回归机(SVR)算法研究 6
1.2.4 SVM的应用研究 7
1.3研究目的、意义和主要工作 7
1.3.1研究目的和意义 7
1.3.2本书的主要工作 8
参考文献 9
第2章 支持向量机及其理论基础 17
2.1最优化理论 17
2.1.1 KKT条件 17
2.1.2 Lagrange对偶 18
2.1.3 Wolfe对偶 19
2.2统计学习理论的基本思想 20
2.2.1经验风险 20
2.2.2 VC维 21
2.2.3结构风险 21
2.3支持向量分类机 22
2.3.1最优分类超平面 22
2.3.2线性支持向量分类机 24
2.3.3非线性支持向量分类机 25
2.3.4支持向量 27
2.3.5核函数 28
2.4支持向量回归机 29
2.4.1损失函数 29
2.4.2支持向量回归机 30
2.5小结 31
参考文献 32
第3章 最小二乘支持向量机的一类快速算法 33
3.1引言 33
3.2变形支持向量机模型 33
3.2.1标准SVM模型 33
3.2.2二次损失函数SVM模型 34
3.2.3 LSSVM模型 35
3.3最小二乘支持向量机的条件预优共轭梯度法 36
3.3.1对称正定线性方程组的求解 36
3.3.2条件预优共轭梯度法 38
3.4数值实验 39
3.5小结 40
参考文献 40
第4章 新的光滑支持向量机 42
4.1引言 42
4.2光滑支持向量机及其发展 43
4.2.1光滑支持向量机的原理 43
4.2.2光滑支持向量机的优势 44
4.2.3光滑支持向量机的发展现状 44
4.3光滑CHKS支持向量机 45
4.3.1光滑CHKS支持向量机及其性质 45
4.3.2 CHKS-SSVM的Newton-Armijo算法 47
4.3.3非线性CHKS-SSVM 48
4.3.4数值实验 49
4.4一类光滑分段支持向量分类机 52
4.4.1三阶分段光滑支持向量机模型 52
4.4.2光滑函数逼近性能比较 53
4.4.3收敛性能分析 56
4.4.4数值实验 57
4.5小结 60
参考文献 60
第5章 新的光滑支持向量回归机 62
5.1引言 62
5.2光滑支持向量回归机及其发展 62
5.3基于旋转双曲线的光滑支持向量回归机 64
5.3.1旋转双曲线的光滑支持向量回归机(ε-RHSSVR) 64
5.3.2非线性ε-RHSSVR 68
5.3.3数值实验 68
5.4一类分段光滑支持向量回归机 70
5.4.1分段光滑支持向量回归机 70
5.4.2收敛性能分析 75
5.4.3数值实验 76
5.5小结 80
参考文献 80
第6章 支持向量机的调节熵函数法 81
6.1引言 81
6.2支持向量分类机的调节熵函数法 81
6.2.1无约束SVC模型 81
6.2.2调节熵函数法 82
6.2.3支持向量分类机的调节熵函数法 84
6.2.4数值实验 85
6.3支持向量回归机的调节熵函数法 87
6.3.1无约束SVR模型 87
6.3.2调节熵函数法 89
6.3.3支持向量回归机的调节熵函数法 90
6.3.4数值实验 91
6.4小结 93
参考文献 94
第7章 模糊支持向量机算法 95
7.1引言 95
7.2模糊支持向量机 96
7.2.1模糊支持向量分类机 96
7.2.2模糊支持向量回归机 97
7.3基于边界向量提取的模糊支持向量分类机 98
7.3.1支持向量数据域描述 98
7.3.2提取边界向量 100
7.3.3构造模糊隶属度函数 101
7.3.4数值实验 102
7.4模糊最小二乘支持向量回归机 105
7.4.1最小二乘支持向量回归机 105
7.4.2模糊最小二乘支持向量回归机 106
7.4.3模糊最小二乘支持向量回归机的训练 107
7.4.4基于支持向量数据域描述的模糊隶属度的构造 108
7.4.5数值实验 110
7.5小结 111
参考文献 112
第8章 光滑半监督支持向量机 113
8.1引言 113
8.2 ▽TSVM算法 114
8.3光滑分段半监督支持向量机 115
8.3.1 SPS3VM模型 115
8.3.2标准PSO算法 117
8.3.3线性等式约束问题的CLPSO算法 117
8.3.4训练SPS3VM的CLPSO算法 118
8.3.5数值实验 119
8.4基于贝塞尔函数的光滑半监督支持向量机 121
8.4.1光滑贝塞尔半监督支持向量机 121
8.4.2共轭梯度法 123
8.4.3数值实验 123
8.5小结 124
参考文献 124
第9章 基于无参数填充函数的光滑聚类算法 126
9.1相似性测度 126
9.1.1模式的相似性测度 126
9.1.2类的定义 127
9.1.3聚类准则函数 128
9.1.4聚类分析的数据类型 129
9.2聚类中心问题光滑化模型 130
9.2.1聚类中心问题 130
9.2.2聚类中心问题的光滑模型 131
9.3无参数填充函数法 132
9.3.1基本思想 132
9.3.2无参数填充函数 133
9.3.3填充函数算法 134
9.4逐步求中心法 135
9.4.1聚类中心算法 135
9.4.2数值实验 135
9.5小结 137
参考文献 137
第10章 基于光滑支持向量机的人脸识别 139
10.1人脸识别简述 139
10.2主成分分析法 140
10.3基于光滑支持向量机的人脸识别 141
10.3.1 ORL人脸数据库实验 141
10.3.2 FERET人脸数据库实验 143
10.4小结 143
参考文献 143
总结与展望 145