在线半监督学习理论及方法PDF电子书下载

第1章 绪论 1

1.1半监督学习 3

1.1.1生成式模型 4

1.1.2自训练 7

1.1.3协同训练 9

1.1.4低密度区域分割 12

1.1.5基于图的半监督学习 14

1.2在线学习 16

1.2.1问题类型 16

1.2.2更新类型 17

1.2.3贪婪程度 17

1.3在线半监督学习 20

1.3.1在线流形正则化 20

1.3.2在线协同正则化 21

1.3.3在线半监督支持向量机 21

1.3.4在线半监督Boosting 22

1.3.5其他在线半监督学习算法 23

第2章 在线半监督学习框架 25

2.1基于正则化理论的半监督学习 25

2.1.1逆问题与正则化 26

2.1.2基于正则化理论的半监督学习方法 30

2.2在线半监督学习框架模型 32

2.2.1问题描述与基本假设 33

2.2.2基于Fenchel Conjugate的对偶变换 35

2.2.3基于对偶提升过程的在线半监督学习框架模型 37

第3章 在线流形正则化 45

3.1相关基本概念 46

3.1.1半监督学习中流形正则化问题的数学描述 46

3.1.2模型定义 47

3.2在线流形正则化算法 49

3.2.1 Fenchel Conjugate的对偶变换 49

3.2.2流形正则化的对偶问题 51

3.2.3基于对偶提升过程的在线流形正则化算法 53

3.3基于梯度提升的在线流形正则化算法 54

3.3.1样本关联更新 54

3.3.2整体更新 57

3.3.3两步更新 60

3.4核函数与稀疏化 62

3.4.1核函数 62

3.4.2稀疏化 62

3.5对偶提升过程 64

3.6随机梯度下降 65

3.7算法应用与分析 67

3.7.1数据集与实验方法 67

3.7.2计算复杂度 70

3.7.3错误率 72

3.7.4其他实验结果与分析 74

第4章 在线协同正则化 79

4.1相关基本概念 80

4.1.1半监督学习中协同正则化问题的数学描述 80

4.1.2模型定义 82

4.2在线协同正则化算法 84

4.2.1多变量Fenchel Conjugate的对偶变换 84

4.2.2协同正则化的对偶问题 87

4.2.3基于对偶提升过程的在线协同正则化算法 89

4.3在线协同正则化算法分析 90

4.4基于贪婪提升的在线协同正则化算法 92

4.4.1基于单样本的贪婪提升 93

4.4.2基于多样本的贪婪提升 94

4.5多视图中的核函数与稀疏化 97

4.5.1ε容忍 98

4.5.2多视图k最大对偶系数法 99

4.6算法应用与分析 100

4.6.1 Two-moons-two-lines数据集 100

4.6.2网页分类 102

4.6.3 Rotating Two-moons-two-lines数据流 103

4.6.4其他实验结果与分析 105

第5章 在线半监督支持向量机 111

5.1相关基本概念 112

5.2在线半监督支持向量机算法 115

5.2.1凹凸过程及问题转化 115

5.2.2对偶问题及其分析 117

5.2.3基于对偶提升过程的在线半监督支持向量机算法 120

5.3两种在线半监督支持向量机算法 121

5.3.1基于贪婪提升的在线半监督支持向量机算法 121

5.3.2基于LCCCP的在线半监督支持向量机算法 122

5.4 S3VM问题模型 124

5.5对偶提升过程 125

5.6算法应用与分析 126

5.6.1数据集与实验方法 126

5.6.2计算复杂度 127

5.6.3错误率 129

5.6.4其他实验结果与分析 130

第6章 在线多重正则化 135

6.1相关基本概念 135

6.1.1半监督学习中多重正则化问题的数学描述 135

6.1.2模型定义 137

6.2在线多重正则化算法 138

6.2.1多重正则化的对偶问题 139

6.2.2基于对偶提升过程的在线多重正则化算法 141

6.3两种在线多重正则化算法 142

6.3.1基于梯度提升的在线多重正则化算法 143

6.3.2基于贪婪提升的在线多重正则化算法 146

6.4算法应用与分析 147

6.4.1 Two-moons-two-lines数据集 148

6.4.2 WebKB数据集 148

6.4.3 Rotating two-moons-two-lines数据流 149

6.4.4其他实验结果与分析 150

后记 154

参考文献 156

附录A Fenchel Conjugate 170

A.1 Fenchel Conjugate的定义 170

A.2 Fenchel Conjugate的重要性质 170

A.3一些重要函数的Fenchel Conjugate 172