第1章 学习方法 1
1.1 监督学习 1
1.2 学习和泛化性 3
1.3 提高泛化性 3
1.4 学习的价值和缺点 5
1.5 用于学习的支持向量机 5
1.6 习题 6
1.7 补充读物和高级主题 6
第2章 线性学习器 8
2.1 线性分类 8
2.1.1 Rosenblatt感知机 10
2.1.2 其他线性分类器 17
2.1.3 多类判别 18
2.2 线性回归 18
2.2.1 最小二乘法 19
2.2.2 岭回归 20
2.3 线性学习器的对偶表示 22
2.4 习题 22
2.5 补充读物和高级主题 22
第3章 核函数特征空间 24
3.1 特征空间中的学习 24
3.2 到特征空间的隐式映射 27
3.3 构造核函数 29
3.3.1 核函数的性质 30
3.3.2 从核函数中构造核函数 38
3.3.3 从特征中构造核函数 40
3.4特征空间中的计算 41
3.5核与高斯过程 43
3.6习题 45
3.7补充读物和高级主题 45
第4章 泛化性理论 47
4.1 可能近似正确学习模型 47
4.2 VC理论 49
4.3 泛化性的间隔界 52
4.3.1 最大间隔界 53
4.3.2 间隔百分界 57
4.3.3 软间隔界 58
4.4 其他泛化界和幸运度函数 61
4.5 回归的泛化性 63
4.6 学习的贝叶斯分析 66
4.7 习题 68
4.8 补充读物和高级主题 68
5.1 问题的形成 70
第5章 最优化理论 70
5.2 拉格朗日理论 72
5.3 对偶性 77
5.4 习题 79
5.5 补充读物和高级主题 80
第6章 支持向量机 82
6.1 支持向量分类 82
6.1.1 最大间隔分类器 82
6.1.2 软间隔优化 90
6.2 支持向量回归 98
6.1.3 线性规划支持向量机 98
6.2.1 ε不敏感损失回归 100
6.2.2 核岭回归 104
6.2.3 高斯过程 105
6.3 讨论 106
6.4 习题 106
6.5补充读物和高级主题 107
第7章 实现技术 109
7.1 通用主题 109
7.2 简单解：梯度上升算法 112
7.3 通用技术和软件包 118
7.4 块与分解 119
7.5.1 两点解析解 120
7.5 序贯最小优化算法 120
7.5.2 启发式选择算法 123
7.6 高斯过程的实现技术 126
7.7 习题 128
7.8 补充读物和高级主题 128
第8章 支持向量机的应用 130
8.1 文本分类 131
8.1.1 IR核应用于信息过滤 131
8.2.1 视位无关分类 133
8.2 图像识别 133
8.2.2 基于颜色的分类 134
8.3 手写数字识别 136
8.4 生物信息学 137
8.4.1 蛋白质同源检测 137
8.4.2 基因表达 138
8.5 补充读物和高级主题 139
附录A SMO算法的伪码 140
附录B 背景数学 143
参考书目 150