第1章 引论 1
1.1 解决模式识别问题的技术框架 1
1.2 变换技术与特征抽取 2
1.3 非线性变换与特征抽取 3
1.4 核方法的发展及应用 5
1.4.1 核方法的发展 5
1.4.2 核方法的应用 8
1.5 本书所关注的问题 21
第2章 核方法简介 23
2.1 KMSE及其改进 23
2.1.1 MSE:KMSE的起源 23
2.1.2 KMSE的形式化描述 24
2.1.3 KMSE的改进及方程表达 26
2.2 KPCA与特征抽取 27
2.2.1 PCA描述 27
2.2.2 PCA中核函数的引入 29
2.2.3 基于KPCA的特征抽取 30
2.3 核Fisher鉴别分析 33
2.3.1 FDA的思路及描述 33
2.3.2 KFDA的导出 35
2.3.3 KFDA的改进及方程 37
2.3.4 基于KFDA及其改进的特征抽取形式 38
2.4 SVM简介 39
2.5 核回归 42
2.6 本章小结 43
第3章 核方法目标函数及其优化方法 46
3.1 Fisher准则的变形形式 46
3.2 选择显著训练样本的算法 47
3.3 分类实现 49
3.4 针对多类问题的KFDA优化方案 49
3.5 实验 50
3.5.1 基准数据集实验结果 51
3.5.2 Yale人脸数据库实验结果 52
3.5.3 性别分类实验结果 53
3.5.4 结论 60
3.6 本章小结 62
第4章 特征抽取结果的逼近与核方法改造 62
4.1 简单的数值逼近观点及核方法改造 62
4.1.1 KMSE优化方案及算法 63
4.1.2 KMSE及其优化模型在多类问题中的应用 64
4.1.3 实验结果 66
4.1.4 结论 68
4.2 适用于KMSE优化的一个特殊方法 68
4.2.1 节点的选择 69
4.2.2 分析与讨论 72
4.2.3 实验 72
4.2.4 小结 74
4.3 另一种数值分析的观点 74
4.3.1 FKMSE算法 74
4.3.2 时间复杂度分析 77
4.3.3 实验 78
4.4 本章小结 82
第5章 训练集的分析及核方法改造 84
5.1 KMSE改进思路 85
5.1.1 KMSE模型再分析 85
5.1.2 改进KMSE的思路与算法 85
5.2 实验 87
5.3 本章小结 89
第6章 联合不同核方法的特征抽取方案 92
6.1 利用KPCA确定KMSE的节点 92
6.2 算法的进一步分析 94
6.3 实验分析 95
6.4 本章小结 97
第7章 基于特征相关分析的核方法改进 98
7.1 改进思路及算法 98
7.2 改进KMSE的理论分析 101
7.3 时间复杂度分析 102
7.4 实验分析 103
7.4.1 实验一 103
7.4.2 实验二 107
7.4.3 实验三 108
7.5 本章小结 109
第8章 核函数参数选择 111
8.1 基于最小误差的KMSE核参数选择 111
8.1.1 最优参数选择方案的设计 112
8.1.2 实验 115
8.1.3 结论与讨论 116
8.2 KDA的核函数参数选择问题 116
8.2.1 引言 117
8.2.2 最优参数确定算法 118
8.2.3 实验 121
8.2.4 结论 122
8.3 选择KMSE核参数的解析方法 123
8.4 本章小结 124
第9章 各核方法理论联系及再分析 126
9.1 KPCA与KFDA间联系分析 126
9.2 KMSE与其他核方法间的关联分析 128
9.2.1 KMSE与KFDA等效性讨论 128
9.2.2 KMSE与LS-SVM等效性分析 129
9.3 核方法改进的再探讨 131
9.4 核方法研究动态 134
9.5 小结 136
第10章 基于产生核的非线性特征抽取框架 138
10.1 引言 138
10.2 从函数到产生核 140
10.2.1 核的基本概念 140
10.2.2 依据函数得出产生核 141
10.3 产生核与GKPCA 142
10.3.1 KPCA的特征方程及其变形 142
10.3.2 GKPCA 143
10.3.3 GKPCA的一个等效实现方案 145
10.4 生核与KFDA 146
10.4.1 KFDA回顾 147
10.4.2 GKFD 149
10.4.3 FMS-LDA 150
10.4.4 前文三方法的等效关系 151
10.4.5 两类核相关的特征抽取方法 152
10.5 实验 153
10.6 本章小结 156
参考文献 157