第1章 统计学习理论基础 1
1.1 机器学习 1
1.1.1 机器学习的定义 1
1.1.2 机器学习的发展史 1
1.1.3 学习问题的表示 2
1.1.4 经验风险最小化 3
1.2 统计学习理论 4
1.2.1 学习过程的一致性条件 4
1.2.2 VC维 4
1.2.3 推广性的界 5
1.2.4 结构风险最小化 5
1.3 本章小结 6
参考文献 7
第2章 支持向量机理论基础 8
2.1 支持向量分类机 8
2.1.1 最优分类超平面 8
2.1.2 线性支持向量分类机 9
2.1.3 非线性支持向量分类机 10
2.1.4 支持向量 11
2.1.5 核函数 11
2.2 支持向量回归机 11
2.2.1 损失函数 12
2.2.2 线性支持向量回归机 12
2.2.3 非线性支持向量回归机 13
2.3 本章小结 14
参考文献 15
第3章 孪生支持向量机理论基础 16
3.1 孪生支持向量机 16
3.2 孪生支持向量回归机 20
3.3 本章小结 22
参考文献 22
第4章 孪生支持向量机的模型选择问题 23
4.1 基于粗糙集的孪生支持向量机 23
4.1.1 基于粗糙集的特征选择 23
4.1.2 算法流程 23
4.1.3 数值实验与分析 24
4.2 基于群智能优化的孪生支持向量机 26
4.2.1 孪生支持向量机中的参数选择 26
4.2.2 基于粒子群算法的孪生支持向量机 27
4.2.3 基于果蝇算法的孪生支持向量机 31
4.3 孪生支持向量机核函数的选择问题 39
4.3.1 基于混合核函数的孪生支持向量机 39
4.3.2 基于小波核函数的孪生支持向量机 42
4.4 本章小结 45
参考文献 46
第5章 光滑孪生支持向量机 47
5.1 光滑孪生支持向量机的理论 47
5.1.1 原始空间中的求解算法 47
5.1.2 光滑孪生支持向量机算法过程 47
5.1.3 光滑孪生支持向量机的优势与不足 49
5.2 多项式光滑孪生支持向量机 50
5.2.1 PSTWSVM的原理及性质 50
5.2.2 实验与分析 55
5.3 加权光滑CHKS孪生支持向量机 58
5.3.1 SCTWSVM的原理及性质 58
5.3.2 非线性SCTWSVM 61
5.3.3 SCTWSVM算法 62
5.3.4 加权光滑CHKS孪生支持向量机算法过程 62
5.3.5 实验与分析 64
5.4 本章小结 68
参考文献 68
第6章 投影孪生支持向量机 70
6.1 概述 70
6.2 投影孪生支持向量机算法理论 71
6.2.1 线性PTWSVM 71
6.2.2 非线性PTWSVM 73
6.3 基于矩阵模式的投影孪生支持向量机 74
6.3.1 线性矩阵模式的投影孪生支持向量机：PTWSVMmat 74
6.3.2 非线性的PTWSVMmat方法：Ker-PTWSVMmat 78
6.4 递归最小二乘投影孪生支持向量机 81
6.4.1 线性递归最小二乘投影孪生支持向量机 81
6.4.2 非线性递归最小二乘投影孪生支持向量机 83
6.5 光滑投影孪生支持向量机 85
6.6 基于鲁棒局部嵌入的孪生支持向量机 87
6.6.1 线性算法 87
6.6.2 非线性算法 89
6.7 本章小结 90
参考文献 91
第7章 局部保持孪生支持向量机 93
7.1 概述 93
7.2 线性局部保持孪生支持向量机 94
7.3 算法奇异性问题 96
7.4 非线性局部保持孪生支持向量机 98
7.5 实验与分析 99
7.5.1 测试人造数据集 99
7.5.2 测试真实数据集 100
7.6 本章小结 103
参考文献 103
第8章 原空间最小二乘孪生支持向量回归机 105
8.1 标准TSVR模型 105
8.2 最小二乘孪生支持向量回归机学习算法 107
8.3 实验与分析 110
8.3.1 人工数据集上的实验 111
8.3.2 UCI数据集上的实验 113
8.4 本章小结 115
参考文献 115
第9章 多生支持向量机 116
9.1 多类分类问题 116
9.2 多生支持向量机的数学模型 117
9.2.1 线性多生支持向量机 117
9.2.2 非线性多生支持向量机 119
9.3 多生支持向量机的改进算法 120
9.3.1 多生最小二乘支持向量机 120
9.3.2 其他改进算法 121
9.4 实验与分析 123
9.5 本章小结 124
参考文献 125
第10章 总结与展望 127
10.1 总结 127
10.2 展望 128
索引 131