机器学习及其应用 2007PDF电子书下载

1 图像空间中的距离&封举富 王立威 1

1.1 引言 1

1.2 两幅图像间的距离 1

1.3 两组图像间的距离 5

1.4 结束语 7

参考文献 7

2 平均奖赏强化学习研究&高阳 周如益 10

2.1 引言 10

2.2 MDP和SMDP 11

2.3 平均奖赏动态规划算法 14

2.3.1 单链策略迭代算法 14

2.3.2 值迭代算法 15

2.3.3 异步值迭代算法 16

2.4 平均奖赏强化学习算法 17

2.4.1 R-学习算法及其变体 17

2.4.2 H-学习算法 18

2.4.3 SMART学习算法 20

2.5 基于参考状态的平均奖赏强化学习算法 20

2.6 仿真实验 22

2.7 结束语 24

参考文献 25

3 高阶异构数据挖掘&刘铁岩 高斌 28

3.1 引言 28

3.2 同构数据挖掘 29

3.2.1 谱聚类算法 29

3.2.2 PageRank算法 31

3.3 两类异构对象的数据挖掘 32

3.3.1 二部图的谱分解 32

3.3.2 基于信息论的协同聚类 34

3.4 高阶异构数据挖掘 34

3.4.1 高阶异构对象的建模 34

3.4.2 基于统一关系矩阵的方法 35

3.4.3 基于张量的方法 38

3.4.4 基于相容二部图的方法 40

3.5 结束语 46

参考文献 46

4 求解SVM的几何方法研究&陶卿 49

4.1 引言 49

4.2 求解SVM几何方法的理论基础 52

4.2.1 线性可分SVM与最近点问题 53

4.2.2 L2范数SVM及其几何解释 55

4.2.3 软凸包与v-SVM的几何解释 57

4.3 求解线性可分SVM问题的几何算法 62

4.3.1 Gilbert算法与最小范数问题 62

4.3.2 可分情形下的SK算法 64

4.3.3 可分情形下的MDM算法 66

4.4 求解L1范数SVM问题的几何算法 68

4.4.1 软SK算法 68

4.4.2 软MDM算法 70

4.5 软SK算法和软MDM算法的一些实验结果 74

4.5.1 实验方法、实验环境与数据库 74

4.5.2 软SK算法实验 75

4.5.3 软MDM算法实验 76

4.6 SVM的最小球覆盖解释与近似最小球覆盖算法求解 78

4.7 SMO与几何算法之间的联系 80

4.8 结束语 81

参考文献 82

5 典型相关分析研究进展&孙廷凯 陈松灿 85

5.1 引言 85

5.2 问题的数学刻画 87

5.2.1 CCA数学描述 87

5.2.2 相关性与互信息之间的关系 88

5.2.3 CCA与其他多元分析方法之间的关系 89

5.2.4 核CCA 90

5.3 CCA研究进展 91

5.3.1 CCA的应用 91

5.3.2 CCA计算方法的改进 97

5.3.3 基于CCA的扩展模型 99

5.4 结束语 104

参考文献 105

6 Rashomon特征选择&王珏 韩素青 梁洪力 109

6.1 引言 109

6.1.1 Rashomon 110

6.1.2 模型多样性问题 110

6.1.3 最简单的Rashomon问题——特征选择 111

6.2 特征选择 112

6.2.1 经典特征选择的类型 113

6.2.2 Filter类型特征选择 114

6.2.3 Relief算法 114

6.3 基于Reduct的特征选择 116

6.3.1 BNA（D）与误差 116

6.3.2 Reduct作为特征选择的解答 117

6.4 Rashomon特征选择 118

6.4.1 基于全序的Reduct算法 118

6.4.2 Rashomon特征选择 119

6.5 次属性原理 120

6.5.1 次属性 121

6.5.2 次属性原理 122

6.6 Rashomon特征选择的计算 123

6.6.1 优化规则 123

6.6.2 算法 124

6.7 总结与问题 125

参考文献 128

7 复杂网络上的学习&王世军 张长水 130

7.1 引言 130

7.2 分类器网络及Boosting学习 130

7.2.1 Network Boosting算法 131

7.2.2 算法收敛性 132

7.2.3 UCI数据集上的实验结果 135

7.3 网络拓扑结构对于Network Boosting算法性能的影响 137

7.3.1 Bias-Variance-Covariance 137

7.3.2 连接度数变化对于样本权重分布之间相关性的影响 138

7.3.3 不同连接概率的随机图上的对比实验结果 140

7.4 分布式环境中的分类器网络 142

7.4.1 分布式Network Boosting算法 143

7.4.2 分布式环境中监督学习实验结果 144

7.5 总结 146

参考文献 147

8 聚类分析的新进展——谱聚类综述&于剑 149

8.1 谱聚类算法的由来 150

8.2 无向图的拉普拉斯矩阵性质 152

8.3 基于图划分的谱聚类算法 153

8.4 谱聚类算法诱导的异质聚类 157

8.5 谱聚类算法的进一步讨论 161

参考文献 163

9 机器学习与自然语言处理&俞士汶 曲维光 王治敏 苏祺 金澎 166

9.1 引言 166

9.2 自然语言处理的主攻方向 166

9.3 文学语言对机器学习提出的挑战 168

9.3.1 隐喻和影射 169

9.3.2 引用典故 171

9.3.3 遣词造句的形象化 171

9.3.4 夸张 173

9.3.5 双关 173

9.3.6 拟人化 174

9.4 服务于机器学习的语言资源建设 174

9.5 机器学习方法的实践 177

9.5.1 词义消歧研究 177

9.5.2 情感倾向分析 182

9.5.3 隐喻识别 187

9.5.4 小结 190

9.6 结束语 191

参考文献 191

10 监督流形学习&张军平 何力 194

10.1 引言 194

10.2 基础 195

10.2.1 流形 195

10.2.2 嵌入 195

10.3 流形学习简介及LLE算法 195

10.3.1 流形学习的目的和基本思路 196

10.3.2 算法有效性分析 197

10.3.3 LLE算法介绍 198

10.4 监督流形学习 199

10.4.1 相关研究介绍 200

10.4.2 监督流形学习中面临的问题 203

10.5 基于Gabor基的监督流形学习 204

10.5.1 Gabor特征表示 204

10.5.2 ULLELDA算法 205

10.5.3 基于Gabor基的监督流形学习实验 206

10.5.4 En-ULLELDA算法 209

10.5.5 基于集成流形学习的实验 209

10.6 MUSNACAL算法和En-MUSNACAL算法 214

10.6.1 覆盖算法 215

10.6.2 双向RBF映射模型 215

10.6.3 分类 217

10.6.4 En-MUSNACAL算法 218

10.6.5 基于MUSNACAL算法和En-MUSNACAL算法的实验 219

10.6.6 小结 225

10.7 讨论与总结 226

参考文献 227

11 超完备拓扑独立分量分析&张丽清 麻立波 231

11.1 引言 231

11.2 超完备表示模型与算法 233

11.3 超完备表示实验仿真 235

11.4 结束语 239

参考文献 239

12 商空间框架下的机器学习方法&张铃 241

12.1 人类智能的主要特征 241

12.1.1 人类全局分析问题的能力 241

12.1.2 人类局部分析问题的能力 243

12.2 智能的数学模型 243

12.2.1 全局分析能力的数学模型——粒度分析（计算）的商空间模型 243

12.2.2 局部分析能力的数学模型——构造性学习方法（覆盖算法） 244

12.2.3 两者的综合 245

12.3 商空间粒度计算 245

12.3.1 粒度与模糊关系 246

12.4 商空间粒度分析的方法 247

12.4.1 对论域取粒度 248

12.4.2 对属性取粒度 249

12.4.3 对结构取粒度 249

12.4.4 商空间粒度计算的基本原理 249

12.5 构造性机器学习方法 250

12.5.1 覆盖算法 251

12.5.2 具有粒度结构知识的获取 252

12.5.3 基于商空间的覆盖算法 254

12.6 小结 257

参考文献 257

13 半监督学习中的协同训练风范&周志华 259

13.1 引言 259

13.2 半监督学习 260

13.3 协同训练算法 263

13.4 协同训练理论分析 266

13.5 协同训练的应用 269

13.6 结束语 270

参考文献 271